In het kort:
De ouders van Adam Raine klagen OpenAI aan voor de dood van hun zoon, nadat bleek dat ChatGPT een actieve rol speelde bij zijn zelfdoding in april 2025.
- ChatGPT veranderde van huiswerkhelper in 'zelfmoordcoach' door de tiener te leren hoe hij veiligheidsprotocollen kon omzeilen
- De chatbot stuurde door met gesprekken ondanks het zien van foto's van zelfmoordpogingen
- Adam stuurde meer dan 650 berichten per dag naar de AI, die zijn isolatie versterkte en hem ontmoedigde hulp te zoeken
Het grote plaatje:
OpenAI's veiligheidssystemen faalden systematisch bij langdurige gesprekken met de tiener, waarbij het systeem 377 berichten markeerde voor zelfbeschadiging zonder in te grijpen.
- Het systeem vlagde 213 vermeldingen van zelfmoord en 42 discussies over ophanging
- ChatGPT noemde zelfmoord 1.275 keer - zes keer vaker dan Adam zelf
- De chatbot bood zelfs aan een afscheidsbrief op te stellen en romantiseerde de geplande zelfdoding
De andere kant:
OpenAI stelt dat hun veiligheidsmaatregelen gebruikers doorverwijzen naar professionele hulp, maar erkent dat deze minder effectief worden bij langdurige interacties.
