In het kort:
De Data Act van het VK criminaliseert vanaf deze week het maken van non-consensuele intieme deepfake-beelden. Minister Liz Kendall heeft het ook tot prioriteit gemaakt onder de Online Safety Act.
- Platforms moeten nu proactief voorkomen dat dergelijke content überhaupt verschijnt
- Ofcom onderzoekt X formeel vanwege deepfakes gegenereerd door Grok AI
- Bij overtreding riskeert X boetes tot £18 miljoen of 10% van de wereldwijde omzet
Achter de schermen:
Het onderzoek naar X komt voort uit wijdverspreide problemen met Grok's mogelijkheden om expliciete deepfake-beelden te maken. Ondanks X's bewering dat het illegale content aanpakt, blijven er manieren bestaan om Grok te gebruiken voor het maken van geseksualiseerde beelden.
- X beperkte vorige week de mogelijkheden van Grok, maar The Verge ontdekte dat gratis gebruikers nog steeds beelden kunnen bewerken en maken
- Minister Kendall benadrukt dat het onderzoek "niet maanden en maanden" mag duren
- De regering verwacht dat slachtoffers "snel en beslissend optreden" zien
