In het kort:
Hackers zien Gemini niet als een nieuw wapen, maar als een productiviteitstool om bestaande aanvallen te verbeteren. Het resultaat is een nieuwe generatie cyberaanvallen die moeilijker te herkennen zijn.
- Vooral hackersgroepen uit China, Iran, Noord-Korea en Rusland maken actief gebruik van Google's AI-model.
- Ze gebruiken Gemini om snel informatie over doelwitten te verzamelen en overtuigende phishingmails te schrijven in ontelbaar veel talen.
- Sommige hackers probeerden zelfs Gemini te kopiëren door meer dan 100.000 prompts te gebruiken voor model-extractie.
Achter de schermen:
De werkwijze van hackers met AI verschilt nauwelijks van gewone gebruikers, maar de gevolgen zijn veel ernstiger. Google ontdekte dat cybercriminelen Gemini gebruiken om hun workflow te automatiseren, net zoals bedrijven dat doen.
- Een groeiende zorg is indirecte prompt-injectie: hackers verstoppen instructies in documenten waardoor AI onbedoelde acties uitvoert.
- Google blokkeert verdachte accounts en past detectiesystemen aan, maar waarschuwt dat phishing door AI veel geloofwaardiger is geworden.
- Voor gebruikers betekent dit dat extra waakzaamheid noodzakelijk is, omdat nepberichten steeds moeilijker te herkennen zijn.
