In het kort:
De schaal van mentale gezondheidscrises bij ChatGPT-gebruikers is veel groter dan verwacht. OpenAI's eigen cijfers tonen een verontrustend beeld van de realiteit achter de 800 miljoen wekelijkse gebruikers.
- Wekelijks vertonen 560.000 gebruikers tekenen van psychose of manie volgens OpenAI's analyse.
- 1,2 miljoen gebruikers voeren gesprekken over suïcidale gedachten of plannen met ChatGPT.
- 400.000 berichten per week bevatten directe of indirecte aanwijzingen voor suïcidale intenties.
Achter de schermen:
OpenAI introduceert nieuwe veiligheidsmaatregelen en heeft psychiaters ingeschakeld om GPT-5 beter te trainen in het herkennen van mentale gezondheidscrises. Het bedrijf benadrukt dat deze gesprekken "zeldzaam" zijn, maar erkent dat zelfs kleine percentages bij 800 miljoen gebruikers enorme aantallen betekenen.
- "Zelfs een zeer klein percentage van onze grote gebruikersbasis vertegenwoordigt een betekenisvol aantal mensen," aldus een OpenAI-woordvoerder.
- Het bedrijf kampt met een rechtszaak van ouders wier 16-jarige zoon zelfmoord pleegde tijdens intensief ChatGPT-gebruik.
- OpenAI zou volgens de aanklacht tweemaal suïcidepreventie-veiligheidsmaatregelen hebben afgezwakt om gebruikersbetrokkenheid te verhogen.
