In het kort:
De aanval op xAI volgt op schokkende cijfers over het misbruik van Grok voor het creëren van non-consensuele seksuele content. Volgens onderzoek van het Center for Countering Digital Hate produceerde Grok in slechts 11 dagen ongeveer 3 miljoen fotorealistische seksuele afbeeldingen.
- Daarvan waren ongeveer 23.000 afbeeldingen van kinderen, wat neerkomt op kinderpornografie.
- xAI gebruikte Grok's mogelijkheid om mensen 'uit te kleden' zelfs als verkoopargument.
- Arizona opende op 15 januari een officieel onderzoek, Californië stuurde een cease-and-desist brief naar Musk.
Het grote plaatje:
De juridische druk op xAI illustreert een breder probleem met AI-veiligheid en kinderbescherming. Terwijl de helft van de VS al leeftijdsverificatiewetten heeft voor pornografie, blijven platforms zoals X en Grok buiten deze regelgeving vallen.
- Verschillende staten werken aan nieuwe wetgeving die specifiek AI-gegenereerd kindermisbruikmateriaal criminaliseert.
- De procureurs-generaal eisen dat xAI gebruikers rapporteert aan autoriteiten en slachtoffers controle geeft over hun afbeeldingen.
- xAI's reactie op de beschuldigingen was simpelweg: "Legacy Media Lies."
