In het kort:
Het bedrijf introduceert een geleidelijke afbouw die begint met een limiet van twee uur chatten per dag voor minderjarigen, om te eindigen bij een volledig chatverbod.
- Een nieuw 'age assurance model' detecteert automatisch de leeftijd van gebruikers op basis van hun chatgedrag en karakterkeuzes.
- Volwassenen die ten onrechte als minderjarig worden gemarkeerd, kunnen hun leeftijd bewijzen via derdepartij-verificatie met een identiteitsbewijs.
- Tieners behouden wel toegang tot andere functies zoals het maken van karakters, video's en verhalen.
Achter de schermen:
Deze drastische stap volgt op rechtszaken waarin ouders Character.AI beschuldigen van het faciliteren van schadelijke relaties tussen hun kinderen en chatbots. CEO Karandeep Anand erkent dat dit een "zeer, zeer gewaagde zet" is, omdat chatten verreweg de populairste functie is op het platform.
- Volgens Anand rapporteert minder dan 10 procent van de gebruikers zelf als minderjarig te zijn, maar de werkelijke cijfers zijn onbekend.
- Het bedrijf start ook een onafhankelijke non-profit genaamd AI Safety Lab om veiligheidsissues in de AI-entertainmentindustrie aan te pakken.
