In het kort:
YouTube worstelt met een golf aan misleidende AI-gegenereerde videoadvertenties. De advertenties gebruiken deepfakes, synthetische acteurs en gemanipuleerde content om producten te verkopen of mensen op te lichten.
- Google verwijderde in 2024 meer dan 700.000 frauduleuze advertentie-accounts
- Veel advertenties gebruiken bestaande video's waarbij audio en lipbewegingen worden aangepast
- Beroemdheden worden zonder toestemming ingezet voor nepproducten via deepfakes
Het grote plaatje:
De opkomst van toegankelijke AI-tools maakt het steeds lastiger om echt van nep te onderscheiden. YouTube vereist alleen bij politieke advertenties een AI-disclaimer, waardoor misleidende commerciële content vrij spel heeft.
- Met slechts 20 seconden spraak en één foto kan al een overtuigende deepfake worden gemaakt
- Platformen als TikTok bieden nu zelf AI-influencers aan voor adverteerders
- Bestaande wetgeving is ontoereikend voor deze nieuwe vorm van misleiding
De andere kant:
Experts pleiten voor strengere regelgeving en betere handhaving door sociale platforms. De FTC waarschuwt dat AI-gegenereerde getuigenissen en expertise zonder disclaimer illegaal zijn, maar effectieve controle blijft een uitdaging door het enorme volume aan content.
