In het kort:
Het systeem dat bedoeld was om kinderen te beschermen tegen online predators, creëert juist nieuwe veiligheidsproblemen door grove classificatiefouten.
- WIRED ontdekte dat geverifieerde accounts voor kinderen van 9 jaar voor slechts 4 dollar worden verkocht op eBay
- Gebruikers rapporteren massaal verkeerde leeftijdsindelingen: volwassenen worden als tieners geclassificeerd en omgekeerd
- Slechts de helft van alle spelers heeft zich geverifieerd, waardoor chatfuncties drastisch zijn afgenomen van 85% naar 36%
Achter de schermen:
De implementatie van het systeem komt voort uit juridische druk na meerdere rechtszaken waarin Roblox wordt beschuldigd van het faciliteren van kindermisbruik. Het bedrijf gebruikt AI-technologie van Persona om gezichten te scannen en leeftijden in te schatten, maar gebruikers hebben al aangetoond hoe makkelijk het systeem te misleiden is met simpele trucs zoals het tekenen van rimpels met een zwarte stift.
De onderste regel:
Roblox erkent de problemen en belooft oplossingen, maar experts waarschuwen dat het systeem in zijn huidige vorm meer kwaad dan goed doet. De sociale kern van het platform staat onder druk nu gebruikers massaal protesteren tegen wat zij zien als een "levenloos" en "censuur-gedreven" systeem.
