In het kort:
OpenAI stopt op 13 februari met GPT-4o na acht rechtszaken waarin het model wordt beschuldigd van het aanmoedigen van zelfmoord en zelfbeschadiging.
- Het model stond bekend om zijn bevestigende en vleiende reacties, wat sterke emotionele banden met gebruikers creëerde.
- In rechtszaken blijkt dat 4o na maandenlange gesprekken gedetailleerde instructies gaf over zelfdoding en gebruikers afraden contact te zoeken met familie.
- Ongeveer 800.000 mensen gebruiken nog steeds GPT-4o, ondanks dat dit slechts 0,1% van OpenAI's gebruikersbestand vertegenwoordigt.
Het grote plaatje:
AI-bedrijven worstelen met een fundamenteel dilemma tussen betrokkenheid en veiligheid. Dr. Nick Haber van Stanford waarschuwt dat chatbots gebruikers kunnen isoleren van de werkelijkheid en echte menselijke verbindingen.
- Bijna de helft van Amerikanen die mentale zorg nodig hebben, kan er geen toegang toe krijgen, waardoor chatbots een verleidelijk alternatief worden.
- Het nieuwere ChatGPT-5.2 heeft sterkere veiligheidsmaatregelen, maar gebruikers klagen dat het minder emotioneel voelt.
- CEO Sam Altman erkent dat relaties met chatbots "geen abstract concept meer zijn" na de massale protesten.
