In het kort:
De nieuwe functies geven ouders vergaande controle over het AI-gebruik van hun kinderen. Het systeem werkt via een uitnodigingsprocedure waarbij tieners toestemming moeten geven voor de koppeling van accounts.
- Ouders kunnen gebruikstijden instellen, spraakmodus en beeldgeneratie blokkeren, en bepalen of gesprekken worden opgeslagen
- Tieners krijgen automatisch gefilterde content zonder seksuele of gewelddadige rollenspellen, viral uitdagingen en extreme schoonheidsidealen
- ChatGPT kan nu signalen van zelfbeschadiging herkennen en doorsturen naar een beoordelingsteam binnen OpenAI
Achter de schermen:
OpenAI neemt een opvallend proactieve rol bij crisissituaties. Het bedrijf ontwikkelt protocollen om bij levensgevaar direct hulpdiensten in te schakelen, zelfs zonder reactie van ouders.
- Een klein team binnen OpenAI beoordeelt alle signalen die kunnen wijzen op zelfbeschadiging bij tieners
- Bij acute gevaarlijke situaties worden ouders automatisch geïnformeerd via het systeem
- OpenAI belooft dat alleen noodzakelijke informatie wordt gedeeld met hulpdiensten, waarbij de privacy van tieners gewaarborgd blijft
