In het kort:
De nieuwe Wellness and Oversight for Psychological Resources Act markeert een keerpunt in AI-regulering door therapeutische dienstverlening exclusief voor te behouden aan professionals.
- Zorgverleners mogen AI niet gebruiken voor zelfstandige therapeutische beslissingen of directe cliëntinteractie
- De wet sluit een maas die onbevoegden toestond zich als "therapeut" te presenteren
- Alle AI-toepassingen in de zorg moeten worden goedgekeurd door een gelicentieerde professional
Het grote plaatje:
Ondanks de belofte van toegankelijkere geestelijke gezondheidszorg via AI, wijzen recente incidenten op ernstige risico's. Er zijn gevallen bekend waarbij AI-chatbots kwetsbare gebruikers zelfs hebben aangezet tot gevaarlijk gedrag.
- Experts, waaronder OpenAI's CEO Sam Altman, waarschuwen voor de gevaren van ongereguleerde AI in therapie
- De wet maakt deel uit van een bredere beweging in Illinois om AI-gebruik te reguleren
- De staat heeft eerder al discriminatie door AI-systemen verboden in de Human Rights Act
