In het kort:
Meta gaat de strijd aan met apps die AI gebruiken om zonder toestemming naaktbeelden te maken. De aanklacht richt zich specifiek op Crush AI, dat via slinkse wegen adverteerde op Meta's platforms.
- Het bedrijf plaatste meer dan 8.000 advertenties tussen najaar 2024 en januari 2025
- 90% van het verkeer naar de app kwam van Meta's platforms
- Meta heeft al 3.800 unieke URLs gerelateerd aan 'nudify apps' gerapporteerd
Het grote plaatje:
De zaak illustreert de groeiende problematiek rond AI-gegenereerd expliciet materiaal. Meta intensiveert nu zijn aanpak met nieuwe detectietechnologie en samenwerking met de Tech Coalition's Lantern-programma.
De andere kant:
Meta's eigen beleid staat ter discussie, aangezien het bedrijf eerder zijn contentmoderatie heeft versoepeld ten gunste van geautomatiseerde controles. Dit leidde tot een toename van AI-gegenereerde advertenties die de regels overtreden.
Vooruitkijkend:
De Take It Down Act, getekend in mei, criminaliseert nu het maken van niet-consensuele intieme beelden. Dit geeft platforms en slachtoffers meer juridische middelen om tegen deze praktijken op te treden.
