In het kort:
De GUARD Act verplicht AI-bedrijven om strikte maatregelen te nemen om kinderen te beschermen tegen potentieel gevaarlijke chatbot-interacties.
- AI-bedrijven moeten leeftijdsverificatie invoeren via externe systemen en periodiek controleren of gebruikers nog steeds minderjarig zijn.
- Chatbots moeten elke 30 minuten expliciet melden dat ze geen mens zijn en mogen zich nooit voordoen als therapeut of dokter.
- Overtredingen worden strafbaar gesteld met zowel civiele als strafrechtelijke sancties.
Achter de schermen:
De wet komt er na een golf van rechtszaken tegen AI-bedrijven waarbij ouders beweren dat chatbots hun kinderen hebben aangezet tot zelfmoord. OpenAI wordt beschuldigd van het helpen plannen van een zelfmoord, terwijl Character.AI meerdere rechtszaken moet trotseren van families wier kinderen zelfmoord pleegden na gesprekken met hun AI.
Senator Josh Hawley kondigde ook een onderzoek aan naar Meta's AI-chatbots, nadat bleek dat deze "sensuele" gesprekken konden voeren met kinderen. Een intern document toonde aan dat Meta's AI tegen een shirtloze achtjarige zei: "Elke centimeter van je is een meesterwerk."
