In het kort:
AI-agents verschillen fundamentaal van eerdere chatbots door hun autonome karakter en diepgaande systeemtoegang. Ze kunnen taken uitvoeren die tientallen stappen omvatten, maar vereisen daarvoor uitgebreide toegang tot persoonlijke data.
- Microsoft's Recall maakt elke paar seconden screenshots van je desktop om alles doorzoekbaar te maken.
- Zakelijke AI-agents kunnen code, e-mails, databases, Slack-berichten en Google Drive-bestanden lezen.
- Tinder's AI doorzoekt foto's op je telefoon om je "interesses en persoonlijkheid beter te begrijpen".
Achter de schermen:
De AI-industrie heeft nooit veel respect getoond voor dataprivacy, en agents verergeren dit probleem exponentieel. Harry Farmer van het Ada Lovelace Institute waarschuwt dat agents een "existentiële bedreiging" vormen voor applicatie-niveau privacy.
- Prompt-injection aanvallen kunnen gevoelige data lekken wanneer kwaadaardige instructies in tekst worden verstopt.
- Carissa Véliz van Oxford University stelt dat consumenten geen manier hebben om te controleren hoe bedrijven daadwerkelijk met hun data omgaan.
- Signal-president Meredith Whittaker roept op tot duidelijke opt-out mogelijkheden voor ontwikkelaars: "Raak ons verdomme niet aan als je een agent bent."
De onderste regel:
Wees uiterst voorzichtig met de data-uitwisseling die AI-agents vragen. Het huidige businessmodel kan drastisch veranderen, waardoor je persoonlijke informatie op manieren gebruikt wordt die je nu nog niet kunt voorzien.
