In het kort:
YouTube's AI-moderatiesysteem heeft een reeks grote kanalen ten onrechte geëlimineerd door hen te koppelen aan hetzelfde gebannen Japanse gaming-kanaal.
- YouTuber Enderman (350.000 abonnees) kreeg een melding dat zijn kanaal verbonden was met "椛のスターレイル遊び" (Momiji plays Honkai: Star Rail Adventures).
- Minstens zes andere grote kanalen, waaronder Scratchit Gaming (402.000 abonnees) en 4096 (500.000 abonnees), kregen identieke meldingen.
- Alle getroffen creators beweren geen enkele connectie te hebben met het mysterieuze Japanse kanaal.
Achter de schermen:
YouTube's toenemende afhankelijkheid van AI-moderatie lijkt de oorzaak van deze massale fout. Het platform gebruikt machine learning om kanalen te identificeren die proberen een ban te omzeilen door nieuwe accounts aan te maken.
- Enderman waarschuwde in zijn laatste video voor "drastische maatregelen zoals kanaalterminatie" die door AI worden beslist zonder menselijke controle.
- YouTube bevestigde eerder dit jaar zwaar te investeren in geautomatiseerde systemen met LLM-technologie voor contentbeoordeling.
- Volgens YouTube-beleid nemen geautomatiseerde systemen alleen actie "wanneer ze zeer zeker zijn dat content regelovertredend is."
Wat volgt:
Deze incident toont de risico's van volledig geautomatiseerde moderatie op grote schaal. Creators vrezen dat YouTube's AI-systemen steeds agressiever worden zonder adequate menselijke controle, wat kan leiden tot meer onterechte kanaalsluitingen.
