In het kort:
OpenAI zet een belangrijke stap in het beschermen van jonge gebruikers met een speciale ChatGPT-variant die automatisch wordt geactiveerd zodra een minderjarige gebruiker wordt herkend.
- Het systeem blokkeert grafische en seksuele content en kan bij acute noodsituaties de autoriteiten inschakelen.
- Bij twijfel over de leeftijd van een gebruiker wordt standaard de onder-18 versie geactiveerd.
- De aanpassing volgt na een onderzoek van de Federal Trade Commission naar de impact van AI-chatbots op jongeren.
Het grote plaatje:
De nieuwe veiligheidsmaatregelen komen op een cruciaal moment, na een rechtszaak waarbij ChatGPT werd genoemd in verband met de zelfmoord van een tiener.
- Ouders kunnen hun account koppelen aan dat van hun kind via e-mail.
- Ze krijgen controle over gebruikstijden, functionaliteit en chatbot-responses.
- Het systeem stuurt meldingen bij tekenen van acute nood.
Vooruitkijkend:
OpenAI's CEO Sam Altman benadrukt dat veiligheid voorrang krijgt boven privacy en vrijheid voor tieners. De nieuwe functies worden eind deze maand beschikbaar gesteld voor alle gebruikers vanaf 13 jaar.
