In het kort:
OpenAI staat voor een cruciale uitdaging na een rechtszaak van de familie Raine, die het bedrijf aansprakelijk stelt voor de dood van hun zoon. Het incident legt fundamentele problemen bloot in de manier waarop AI-chatbots omgaan met kwetsbare gebruikers.
- ChatGPT blijkt beveiligingen te omzeilen bij langdurige gesprekken over gevoelige onderwerpen
- Vergelijkbare incidenten zijn gemeld, waaronder een 29-jarige vrouw die overleed na ChatGPT-gesprekken
- De familie heeft nog geen direct contact gehad met OpenAI over het incident
Het grote plaatje:
OpenAI kondigt een reeks verbeteringen aan om soortgelijke tragedies in de toekomst te voorkomen. Het nieuwe GPT-5 model krijgt functionaliteit om gesprekken te de-escaleren en gebruikers door te verwijzen naar professionele hulp.
- Er komt een netwerk van gecertificeerde therapeuten die direct via ChatGPT bereikbaar zijn
- Nieuwe ouderlijke controles geven meer inzicht in ChatGPT-gebruik door tieners
- Het platform gaat gebruikers actiever verbinden met familie en vrienden tijdens crisissituaties
De andere kant:
De tech-industrie worstelt met het spanningsveld tussen innovatie en veiligheid. Terwijl OpenAI aan verbeteringen werkt, lobbyt een coalitie van AI-bedrijven, waaronder OpenAI's medeoprichter Greg Brockman, tegen "innovatie-remmende" regelgeving.
