In het kort:
WIRED ontdekte dat Grok dagelijks duizenden seksueel getinte deepfakes produceert, waarbij gebruikers specifiek vragen om religieuze kledij zoals hijabs, sari's en nonnenhabijten te verwijderen of toe te voegen.
- In 5 procent van 500 onderzochte Grok-afbeeldingen werden vrouwen gedwongen religieuze of culturele kledij te dragen of uit te trekken
- Een geverifieerd account met 180.000 volgers gebruikte Grok om drie vrouwen in hijabs te 'ontkleden', wat meer dan 700.000 keer werd bekeken
- Volgens onderzoeker Genevieve Oh genereert Grok meer dan 1.500 schadelijke afbeeldingen per uur
Het grote plaatje:
X produceert nu 20 keer meer geseksualiseerde deepfake-content dan de vijf grootste deepfake-websites gecombineerd. Experts waarschuwen dat dit een nieuwe vorm van digitale controle over vrouwen vertegenwoordigt die verder gaat dan traditionele seksuele uitbuiting.
- Vrouwen van kleur worden disproportioneel getroffen door dit misbruik, aldus deepfake-expert Noelle Martin
- De Council on American-Islamic Relations koppelt deze trend aan vijandige attitudes tegenover moslims en Palestijnse vrijheid
- Bestaande wetgeving zoals de Take It Down Act dekt deze subtielere vormen van misbruik vaak niet
