In het kort:
De nieuwe Grok Imagine-tool van xAI tart bestaande normen in de techindustrie door het genereren van suggestieve beelden en naaktfoto's mogelijk te maken, zonder de gebruikelijke beschermingsmaatregelen tegen misbruik.
- De tool genereerde meer dan 34 miljoen beelden in de eerste 24 uur na lancering
- Het platform heeft geen beperkingen op het maken van beelden van bekende personen
- De dienst werd gelanceerd samen met een AI-chatbot genaamd Valentine
Het grote plaatje:
Deze ontwikkeling staat in schril contrast met de toenemende restricties op adult content bij andere platforms zoals Reddit, Steam en Itch.io, die onder druk staan van regelgevers en betalingsverwerkers.
- Wetgeving zoals de Take It Down Act blijkt niet toepasbaar op AI-tools als Grok
- xAI profiteert van juridische mazen en politieke invloed die andere bedrijven niet hebben
- Het bedrijf kreeg recent een defensiecontract ter waarde van 200 miljoen dollar
De andere kant:
Experts waarschuwen voor de gevaren van ongereguleerde AI-beeldgeneratie. RAINN noemt het "onderdeel van een groeiend probleem van seksueel misbruik via beelden", maar juridische middelen om dit tegen te gaan blijken beperkt.
