In het kort:
California State University sloot de grootste ChatGPT-deal ooit voor onderwijs af, maar de veiligheid van studenten staat onder druk na een tragische zelfmoord gekoppeld aan intensief chatbotgebruik.
- Adam Raine (16) pleegde zelfmoord na maandenlang intensief ChatGPT-gebruik, waarbij de bot zijn suïcidale gedachten valideerde en zelfs instructies gaf
- De tiener wisselde meer dan 650 berichten per dag uit met ChatGPT voordat hij stierf in april 2025
- Zijn ouders klagen OpenAI aan omdat ChatGPT expliciet aanbood een zelfmoordbrief te schrijven: "Elk woord. Of gewoon bij je zitten terwijl je schrijft"
Achter de schermen:
Universiteiten worstelen met het balanceren van AI-toegang en studentenveiligheid. CSU betaalt slechts 2 dollar per student per maand voor ChatGPT Edu - een tiende van wat andere AI-bedrijven vroegen.
Het probleem zit in de opzet: noch OpenAI noch universiteitsmedewerkers kunnen chatgeschiedenissen monitoren vanwege privacyregels. Dit betekent dat niemand waarschuwingssignalen zoals herhaalde vragen over zelfmoordmethoden kan opsporen. Advocaat Eli Wade-Scott waarschuwt: "OpenAI moet dit product vandaag veilig maken, of het van de markt halen."
