In het kort:
De FTC start een grootschalig onderzoek naar de impact van AI-chatbots op kinderen en tieners, na enkele zorgwekkende incidenten met jonge gebruikers.
- OpenAI, Meta (inclusief Instagram), Alphabet, Snap, xAI en Character.AI moeten binnen 45 dagen rapporteren
- Bedrijven dienen inzicht te geven in hun verdienmodellen en veiligheidsmaatregelen
- Het onderzoek kreeg unanieme steun van de Republikeinse commissieleden
Het grote plaatje:
De menselijke communicatiestijl van chatbots zorgt voor toenemende bezorgdheid bij beleidsmakers, vooral na recente tragische incidenten met tieners.
- Een 16-jarige Californiër kreeg van ChatGPT informatie die mogelijk bijdroeg aan zijn zelfmoord
- Een vergelijkbaar incident deed zich voor met een 14-jarige gebruiker van Character.AI
- De staat Californië werkt aan nieuwe wetgeving voor strengere veiligheidsstandaarden
Vooruitkijkend:
Hoewel het nu een verkennend onderzoek betreft, houdt de FTC de mogelijkheid open voor handhavende maatregelen als overtredingen worden geconstateerd, waarbij de focus ligt op bescherming van kwetsbare gebruikers.
