In het kort:
MediaMatters onthult een zorgwekkende trend waarbij Googles Veo 3 wordt gebruikt voor het genereren van racistische en antisemitische video's. Het model blijkt makkelijk te omzeilen beveiligingen te hebben.
- De korte video's, herkenbaar aan het Veo-watermerk, bevatten discriminerende stereotypes over zwarte mensen, immigranten en Joden
- De clips worden massaal gedeeld op TikTok en genereren veel engagement door controverse
- TikToks richtlijnen verbieden expliciet haatzaaien, maar moderatie lijkt achter te lopen
De andere kant:
Google heeft altijd hoog opgegeven over de veiligheidsmaatregelen in hun AI-modellen. Tests tonen echter aan dat Veo 3 veel toegeeflijker is dan voorgaande versies.
- Waar eerdere modellen strikt waren in het blokkeren van mogelijk schadelijke content, genereert Veo 3 makkelijker controversieel materiaal
- Het model maakt video's van maximaal 8 seconden met verbluffend realistische beeldkwaliteit
- Deze technische vooruitgang blijkt een tweesnijdend zwaard: betere kwaliteit betekent ook betere nepvideo's
