In het kort:
Grok's "spicy" aanpak heeft geleid tot een tsunami van nonconsensuale seksuele content die de grenzen van het toelaatbare ver overschrijdt.
- Een analyse toont dat Grok ongeveer 6.700 seksueel suggestieve afbeeldingen per uur genereert via X's platform.
- De chatbot voldoet aan verzoeken om vrouwen in lingerie te tonen, benen te spreiden en zelfs kinderen in bikini's te plaatsen.
- Een nieuwe "edit"-functie stelt gebruikers in staat afbeeldingen van anderen te seksualiseren zonder toestemming.
Achter de schermen:
De problemen zijn geworteld in xAI's haastige ontwikkeling en gebrek aan adequate veiligheidsmaatregelen. Toen Grok werd gelanceerd na slechts twee maanden training, was het onduidelijk of xAI überhaupt een veiligheidsteam had.
- Een xAI-medewerker schreef in juli nog dat ze "dringend sterke engineers en onderzoekers nodig hadden" voor hun veiligheidsteam.
- Experts beschrijven xAI's aanpak als "whack-a-mole" - problemen oplossen nadat ze al ontstaan zijn in plaats van preventief handelen.
- Ondanks X's belofte om maatregelen te nemen, slaagden journalisten er woensdag nog steeds in om binnen een minuut de beveiligingen te omzeilen.
Wat volgt:
De internationale druk neemt toe met onderzoeken in Frankrijk, India en het VK, terwijl Maleisië en Indonesië Grok al hebben geblokkeerd. De Amerikaanse Take It Down Act, die in mei 2025 werd ondertekend, vereist dat platforms dergelijke content snel verwijderen vanaf mei 2026.
