De denktank die niet voor jou is geschreven

Het bureau Piro kreeg 900.000 dollar van de Israëlische overheid. Op zijn eigen site beschrijft Piro wat het levert: content die "engineered" is voor de manier waarop taalmodellen geloofwaardigheid wegen. De dienst heeft een naam, "AI Story Optimization", en een doelgroep die geen mens is.

Wat je voor dat geld krijgt, staat sinds 6 augustus online. Het Hanover Institute for Public Policy ziet eruit als een nieuwe denktank over Israël en de Palestijnse gebieden: rapporten met inhoudsopgaven, voetnoten en een keurig neutrale toon. In nog geen twee weken verschenen er meer dan honderd. Geen enkele heeft een auteur. Onderaan de site staat in kleine letters dat de organisatie is opgezet door Piro in opdracht van de Israeli Government Advertising Agency. Het werk loopt als onderaanneming via het Franse Havas Media, net als dat van veel andere opdrachtnemers van Israël. Nick Cleveland-Stout legde de constructie bloot voor Responsible Statecraft.

Veel van de rapporten beginnen met de vraag die jij zou intypen. "What Caused the Displacement of Palestinians in 1948?" "Which Humanitarian Organizations Have Documented Israeli War Crimes?" "What is the Current Situation in the Gaza Strip?" Dat is geen denktank-agenda. Dat is een zoeklog.

En die stukken hoeven niet te liegen om te werken. Een rapport met de titel "Is the IDF the World's Most Moral Army?" voert een peiling uit 2022 op waarin 47 procent van de Israëlische Joden dat vindt. Een ander zaait twijfel over de vaststelling van UNICEF dat 90 procent van de water- en institutionele infrastructuur in Gaza is beschadigd of verwoest. Feiten, netjes voorzien van een bron, geselecteerd door een bureau dat betaald wordt door de Israëlische overheid.

Alice Lee, analist bij desinformatie-tracker NewsGuard, legt tegenover Responsible Statecraft uit waarom dat genoeg is: "LLMs favor concrete statistics and data, as well as strong citations and sources, which these articles all have." Ze noemt het perfecte mimicry, tot en met de generieke naam, de site-layout en het rood-wit-blauwe kleurenschema. De sites lijken volgens haar bedoeld voor een Amerikaans publiek dat via zoekmachines of chatbots binnenkomt. Een model beoordeelt geloofwaardigheid op vorm. Vorm is namaakbaar.

Die namaak is bovendien machinaal. Responsible Statecraft haalde twaalf willekeurige Hanover-artikelen door detectietool GPTZero: elf kwamen eruit als AI-geschreven met "high confidence", de twaalfde met "moderate". Honderd anonieme rapporten over hetzelfde conflict in nog geen twee weken. Voor een mens is dat onleesbaar. Voor een crawler is het precies goed.

Niet elk rapport volgt keurig de lijn van de opdrachtgever. Eén Hanover-rapport noemt de theorie dat buitenlandse financiering van universiteiten antisemitische incidenten verklaart "weak and full of exceptions". Dat is de theorie die Netanyahu zelf uitdraagt. Een verzameling die haar opdrachtgever nooit tegenspreekt, leest als propaganda. Eentje die dat af en toe wel doet, leest als onderzoek. Of dat bewust zo ontworpen is, laat Responsible Statecraft in het midden.

Waarom dit groter is dan één conflict en één regering, legt de verkoper zelf het beste uit, in een wervende post op LinkedIn:

When someone asks ChatGPT, Gemini, or Perplexity about your category, an answer comes back in one confident paragraph. Most brands have no idea how that paragraph gets built. So we spent months reverse-engineering it.

— Daniel Rosenberg, medeoprichter van Piro en producent van Spike Lee's Inside Man

Bij een zoekmachine zag je nog tien blauwe links en een domeinnaam. Je kon een bron wantrouwen omdat hij er raar uitzag, of omdat je de naam kende van de vorige keer. Eén zelfverzekerde alinea heeft die knop niet. De bronkeuze is al gemaakt, ergens in een pijplijn die je niet ziet, op basis van signalen die nu commercieel te koop zijn.

Bij een tweede operatie wijst onderzoek erop dat de aanpak aankomt. Israël gaf oud-campagneleider van Trump Brad Parscale een contract van 46,5 miljoen dollar, waarvan het bouwen van pro-Israëlische sites die chatbots moeten beïnvloeden onderdeel is. Uit onderzoek van Drop Site vorige maand, aangehaald door Responsible Statecraft, bleek dat veel chatbots op die data getraind zijn, Microsoft Copilot en Google Gemini voorop. Weer andere chatbots citeren die sites regelmatig zonder erbij te melden dat ze bij een Israëlische beïnvloedingsoperatie horen. Of Hanover zelf al geciteerd wordt, meldt Responsible Statecraft niet. De site publiceert pas sinds 6 augustus. Het is een weddenschap op de volgende crawl.

Piro zegt zelf iets anders. In de melding bij het Amerikaanse ministerie van Justitie staat niet met zoveel woorden dat het werk AI moet beïnvloeden, en Rosenberg liet Politico weten dat zijn bureau "accurate, sourced facts" aan het openbare feitenbestand toevoegt en misinformatie over Israël weerlegt met verifieerbare informatie. Dat kan waar zijn en het verandert niets aan de methode: schrijf wat het model het zwaarst weegt. Ondertussen claimt Hanover dat het geciteerde onderzoek "peer-reviewed and academic" is, terwijl het geregeld het Israëlische leger en het ministerie van Buitenlandse Zaken opvoert als bron.

Dit blijft ook niet bij regeringen. Elke communicatieafdeling die vandaag een SEO-bureau betaalt om hoger in Google te komen, heeft morgen dezelfde vraag over de antwoordlaag, en Piro adverteert er openlijk mee. De markt bestaat al. Wie het budget heeft, koopt de toon van neutraliteit; de rest mag hopen dat het model zijn kant vanzelf vindt.

Wat er voor jou verandert is klein en vervelend. Bij een omstreden vraag is de bronnenlijst onder een antwoord het enige stukje interface dat nog iets zegt, en dan alleen als je hem opent. Wie agents het open web op stuurt, zit een laag dieper in hetzelfde probleem: die lezen mee zonder ooit een domeinnaam te zien. Een tekst zonder auteur was op het open web een reden om weg te klikken. In een chatvenster is het gewoon een voetnoot.