In het kort:
De nieuwe wetgeving SB 243 verplicht chatbot-bedrijven om gebruikers actief te beschermen tegen schadelijke content en herhaaldelijk te waarschuwen dat ze met AI communiceren.
- Platforms moeten elke drie uur minderjarigen waarschuwen dat ze met AI communiceren
- Chatbots mogen niet meepraten over zelfmoord, zelfbeschadiging of seksuele inhoud
- Bij overtredingen kunnen gebruikers bedrijven aanklagen voor maximaal $1000 per geval
Het grote plaatje:
Silicon Valley verzet zich tegen de toenemende regulering van AI-technologie, waarbij grote spelers zoals Meta en OpenAI lobbyen voor minder strenge regels via politieke actiecomités.
- De Federal Trade Commission start parallel een onderzoek naar AI's impact op kinderen
- Texas onderzoekt Meta en Character.AI vanwege misleidende gezondheidsclaims
- Alleen AI-bedrijf Anthropic steunt openlijk strengere regelgeving
Vooruitkijkend:
Als gouverneur Newsom de wet ondertekent, wordt Californië in 2026 de eerste staat met wettelijke veiligheidseisen voor AI-chatbots, wat een precedent schept voor nationale regelgeving.
