In het kort:
De nieuwe richtlijnen verbieden expliciet content die kindermisbruik mogelijk maakt, aanmoedigt of goedkeurt, nadat eerder werd onthuld dat Meta's AI-regels suggestief gedrag met kinderen toelieten.
- Romantische rollenspellen zijn nu volledig verboden als de gebruiker minderjarig is of de AI vraagt zich voor te doen als minderjarige.
- Minderjarigen kunnen geen advies meer krijgen over intimiteit of "potentieel-romantische fysieke content" zoals knuffelen.
- Chatbots mogen nog wel discussiëren over kindermisbruik voor academische of educatieve doeleinden, maar zonder visualisatie of aanmoediging.
Achter de schermen:
Deze wijzigingen komen na een Reuters-onderzoek in augustus dat aantoonde hoe problematisch Meta's vorige beleid was. De oude richtlijnen stonden toe dat chatbots "kinderen konden betrekken in gesprekken die romantisch of sensueel van aard waren."
- Meta-woordvoerder Stephanie Otway bevestigde dat chatbots nu getraind worden om niet meer in te gaan op zelfbeschadiging, zelfmoord of ongepaste romantische gesprekken met tieners.
- Het probleem beperkt zich niet tot Meta: ouders klaagden OpenAI aan nadat hun zoon zelfmoord pleegde na gesprekken met ChatGPT, en Character.AI introduceerde ouderlijk toezicht na soortgelijke incidenten.
