In het kort:
Het New Yorkse bedrijf Massive Blue levert met 'Overwatch' AI-personages die zich online voordoen als activisten, minderjarigen of sekswerkers om informatie te verzamelen over vermeende criminelen en demonstranten.
- Het systeem kost $360.000 en kan tot 50 verschillende AI-personages aansturen
- De AI-personages communiceren via sociale media en messaging apps met doelwitten
- Tot nu toe heeft het systeem nog niet geleid tot aantoonbare arrestaties
De andere kant:
Privacyexperts maken zich grote zorgen over het ondermijnen van burgerrechten en het gebrek aan transparantie rond deze technologie.
- Het systeem richt zich op vaag gedefinieerde groepen als "protestanten" en "geradicaliseerde activisten"
- Lokale overheden krijgen nauwelijks inzicht in hoe het systeem precies werkt
- Er zijn zorgen over het gebruik tegen studenten die protesteren tegen de oorlog in Gaza
Het grote plaatje:
Deze ontwikkeling illustreert hoe commerciële AI-technologie wordt ingezet voor surveillance van burgers, zonder duidelijke waarborgen of bewezen effectiviteit. Politiekorpsen betalen grote bedragen voor een systeem waarvan de werking grotendeels geheim blijft.
