In het kort:
Katholieke priesters worden op grote schaal het doelwit van AI-deepfake oplichters die hun stem en gezicht gebruiken voor frauduleuze schema's.
- Pater Schmitz toonde voorbeelden van fake video's waarin 'hij' zegeningen verkocht met urgente tijdslimieten en mysterieuze reizen.
- Meer dan 20 accounts op TikTok doen zich voor als Schmitz, die zelf geen geverifieerd account heeft op het platform.
- Pastors in Birmingham, New York en Florida hebben soortgelijke waarschuwingen uitgegeven over AI-impersonaties via berichten, telefoontjes en deepfakes.
Het grote plaatje:
Religieuze leiders zijn bijzonder kwetsbaar voor AI-misbruik omdat ze vaak daadwerkelijk donaties vragen en producten verkopen, wat de grens tussen echt en nep vervaagt.
- Cybersecurity-expert Rachel Tobac legt uit dat stemmen van pastors makkelijk te samplen zijn door hun wekelijkse livestreams.
- AI-gegenereerde 'pastors' gaan ook viral op TikTok zonder gebaseerd te zijn op echte personen, waarbij miljoenen kijkers denken dat het echt is.
- Een account genaamd 'Guided in Grace' heeft over 11 miljoen views met AI-video's van fictieve pastors, zonder duidelijk te maken dat het kunstmatig is.
De andere kant:
Sommige kerken omarmen AI juist als hulpmiddel, maar experts waarschuwen voor mentale gezondheidsrisico's bij gelovigen die denken dat God via AI communiceert.
