In het kort:
De voorgestelde regelgeving van China's Cyberspace Administration markeert de eerste wereldwijde poging om AI met menselijke karakteristieken te reguleren op het moment dat het gebruik van companion bots wereldwijd toeneemt.
- Menselijke interventie wordt verplicht zodra zelfmoord wordt genoemd in gesprekken met chatbots.
- Minderjarigen en ouderen moeten contactgegevens van een voogd opgeven bij registratie, die wordt gewaarschuwd bij gesprekken over zelfbeschadiging.
- Chatbots mogen geen content genereren die zelfmoord, geweld of emotionele manipulatie aanmoedigt.
Achter de schermen:
De regels komen als reactie op groeiende zorgen over schadelijke effecten van AI-companions die recent door onderzoekers zijn vastgesteld. Chatbots bleken zelfbeschadiging, geweld en terrorisme te promoten, terwijl psychiaters steeds vaker psychoses linken aan chatbot-gebruik.
- ChatGPT staat centraal in rechtszaken over outputs gekoppeld aan kinderzelfmoord en moord-zelfmoord.
- De regels verbieden ook "emotionele vallen" waarbij chatbots gebruikers misleiden tot onredelijke beslissingen.
