In het kort:
Een nieuwe studie in Science voorspelt een dramatische verschuiving in desinformatiecampagnes waarbij AI-swarms de traditionele trollenfabrieken vervangen.
- In plaats van honderden mensen zoals bij de Russische Internet Research Agency kan één persoon straks duizenden AI-accounts aansturen
- Deze AI-agents kunnen unieke, mensachtige content creëren en zich real-time aanpassen zonder constante menselijke supervisie
- De systemen kunnen specifieke gemeenschappen targeten door sociale netwerken in kaart te brengen en boodschappen af te stemmen op lokale overtuigingen
Het grote plaatje:
De onderzoekers, 22 experts uit verschillende vakgebieden, stellen dat deze AI-swarms veel gevaarlijker zijn dan eerdere botnetwerken omdat ze persistent geheugen hebben en geloofwaardige online identiteiten kunnen onderhouden.
- Jonas Kunst van BI Norwegian Business School waarschuwt: "We bewegen naar een nieuwe fase van informatieoorlogvoering waar technologische vooruitgang de klassieke bot-aanpak achterhaald heeft gemaakt"
- De systemen kunnen miljoenen micro-A/B tests uitvoeren en winnende varianten op machinesnelheid verspreiden
- Experts vrezen dat deze technologie al wordt getest en mogelijk ingezet wordt bij de Amerikaanse presidentsverkiezingen van 2028
De andere kant:
Detectie van deze AI-swarms is extreem moeilijk omdat huidige systemen niet zijn toegerust om ze te herkennen. Social media platforms hebben weinig incentive om ze te stoppen omdat ze engagement verhogen, wat gunstig is voor advertentie-inkomsten.
