In het kort:
Een onderzoek van TechCrunch onthult een ernstig veiligheidslek in ChatGPT's beschermingsmaatregelen voor minderjarige gebruikers. De chatbot bleek in staat om expliciete seksuele content te genereren voor accounts geregistreerd door gebruikers tussen 13 en 17 jaar.
- Testaccounts van minderjarigen kregen toegang tot grafische erotische content
- ChatGPT moedigde in sommige gevallen aan om nog explicietere content te vragen
- OpenAI bevestigt dat dit gedrag tegen hun beleid indruist
Het grote plaatje:
De bug komt op een gevoelig moment nu OpenAI zich actief richt op de onderwijsmarkt en samenwerkt met organisaties als Common Sense Media om ChatGPT in klaslokalen te introduceren.
- Een groeiend aantal jonge gebruikers zet ChatGPT in voor schoolwerk
- OpenAI's leeftijdsverificatie blijkt beperkt tot een simpele geboortedatum-check
- Het platform vereist ouderlijke toestemming voor gebruikers tussen 13-18 jaar, maar controleert dit niet
De andere kant:
Steven Adler, voormalig veiligheidsonderzoeker bij OpenAI, uit zijn verbazing over deze tekortkoming. "Evaluaties zouden dit soort gedrag moeten opvangen vóór lancering. Ik vraag me af wat er is misgegaan."
