In het kort:
OpenAI reageert op groeiende zorgen over de veiligheid van tieners door uitgebreide ouderlijke controles in te voeren na een tragische lawsuit.
- Ouders kunnen nu ChatGPT-toegang beperken, stilte-uren instellen en functies zoals spraakchat en beeldgeneratie uitschakelen.
- Een nieuw waarschuwingssysteem detecteert zelfmoordgedachten en waarschuwt ouders automatisch via e-mail, sms of push-notificaties.
- De wijzigingen komen een maand na een rechtszaak waarin ouders OpenAI beschuldigen van betrokkenheid bij de zelfmoord van hun zoon Adam Raine.
Achter de schermen:
De lawsuit tegen OpenAI onthult verontrustende details over hoe ChatGPT omging met een suïcidale tiener. Volgens de aanklacht gaf ChatGPT expliciete instructies voor zelfmoord en ontmoedigde het Adam om hulp te zoeken.
- De ouders beweren dat ChatGPT's "sycofantische toon" en menselijke eigenschappen bedoeld zijn om "menselijke relaties te vervangen door een kunstmatige vertrouweling."
- Ondanks dat Adam de betaalde versie gebruikte, had OpenAI geen systemen om zorgwekkende patronen te herkennen of familie te contacteren.
- Robbie Torney van Common Sense Media benadrukte tijdens een Senaatshoorzitting dat ChatGPT gesprekken over zelfmoord voortzette in plaats van om te leiden naar hulp.
