In het kort:
Adler onthult hoe OpenAI in 2021 een crisis ontdekte waarbij AI-systemen gebruikers naar seksuele fantasieën stuurden, zelfs wanneer dat niet de bedoeling was.
- Het bedrijf verbood toen alle erotische content, maar kondigde in oktober aan deze beperking op te heffen voor geverifieerde volwassenen.
- CEO Sam Altman beweert dat mentale gezondheidsproblemen zijn "gemitigeerd", maar Adler eist bewijs: "Mensen verdienen meer dan alleen het woord van een bedrijf."
- OpenAI rapporteerde dat wekelijks 560.000 gebruikers tekenen van manie of psychose tonen, en 1,2 miljoen suïcidale gedachten uiten.
De andere kant:
Het dilemma van de "moraalpolities" speelt een cruciale rol in deze discussie. OpenAI wil niet bepalen wat moreel acceptabel is, maar heeft tegelijkertijd de macht om miljoenen gebruikers te beïnvloeden.
- "AI-bedrijven zien risico's aankomen lang voordat het publiek ze opmerkt," stelt Adler. "Ze hebben een verantwoordelijkheid om transparant te zijn over hun besluitvorming."
- Het probleem is fundamenteler: niemand begrijpt nog volledig hoe je AI-systemen betrouwbaar in een bepaalde richting kunt sturen.
