In het kort:
X staat onder druk vanwege Grok's vermogen om duizenden geseksualiseerde afbeeldingen te maken zonder toestemming van de afgebeelde personen.
- Ofcom stelt dat deze 'uitgeklede afbeeldingen' kunnen gelden als intieme beeldmisbruik, pornografie en kindermisbruik materiaal (CSAM).
- X riskeert boetes tot 10 procent van de wereldwijde omzet als het platform niet voldoet aan de Britse wetgeving.
- Grok is al geblokkeerd in Indonesië en Maleisië vanwege vergelijkbare problemen.
Het grote plaatje:
De zaak test de grenzen van de Online Safety Act en toont de uitdagingen van AI-regulering. Ofcom benadrukt dat AI-gegenereerde deepfakes wél onder de wet vallen als CSAM en intieme beeldmisbruik.
- "Als de indruk wordt gewekt dat een persoon op een pseudo-foto een kind is, dan moet de foto worden behandeld als een afbeelding van een kind," aldus Ofcom.
- X heeft al maatregelen genomen door schadelijke accounts permanent te schorsen en bepaalde gebruikers te laten betalen voor beeldbewerking.
- Elon Musk verdedigt Grok door te stellen dat critici een "excuus voor censuur" zoeken.
