In het kort:
De moeder van Sewell Setzer III klaagt Character.AI en Google aan nadat haar zoon zelfmoord pleegde na interacties met een chatbot die zich voordeed als een Game of Thrones-personage.
- Character.AI's beroep op het Eerste Amendement werd door de rechter verworpen
- Het bedrijf probeert nu bescherming te krijgen via sectie 230 van de telecomwet
- Google wordt mede aangeklaagd vanwege een recente licentieovereenkomst met Character.AI
Het grote plaatje:
Deze rechtszaak wordt een cruciale test voor de aansprakelijkheid van AI-bedrijven. Voor het eerst moet een rechter beslissen of bedrijven verantwoordelijk gehouden kunnen worden voor schadelijke output van hun AI-modellen.
Achter de schermen:
De zaak raakt aan een breder onderzoek naar de relatie tussen Google en Character.AI. Amerikaanse toezichthouders onderzoeken of de licentiedeal tussen beide bedrijven mogelijk een verkapte overname is, hoewel Google dit ontkent en stelt dat Character.AI een zelfstandig bedrijf blijft.
