Russische Informatiecampagne Beïnvloedt AI-Systemen
Amsterdam, zaterdag, 8 maart 2025.
Een netwerk gecentreerd rond de Russische website Pravda heeft AI-chatbots zoals ChatGPT en Gemini met desinformatie gevoed. Uit een gedetailleerd onderzoek door NewsGuard blijkt dat deze chatbots, in 33,55% van de gevallen, nepclaims van Pravda herhalen. Dit netwerk, dat in april 2022 begon en 150 websites omvat, richt zich met SEO-strategieën op de zichtbaarheid in AI-zoekresultaten. Door het verspreiden van ruim 200 valse claims is het Pravda-netwerk voornamelijk een AI-focuspunt geworden. NewsGuard benadrukt dat gebruikers moeite hebben om de betrouwbaarheid van informatie te beoordelen, vooral wanneer chatbots direct naar Pravda-artikelen verwijzen. Dit initieert discussie over de integriteit van AI-systemen in het verwerken van nieuws en informatie.
De Omvang van het Pravda-netwerk
Het Pravda-netwerk heeft in 2024 een indrukwekkende 3.6 miljoen artikelen gepubliceerd, verspreid over 49 landen en in tientallen talen [1]. Dit netwerk, beheerd door TigerWeb, een IT-bedrijf gevestigd in de door Rusland bezette Krim, opereert via ongeveer 150 verschillende domeinen [2]. Opvallend is dat de Engelstalige Pravda-website slechts 955 maandelijkse bezoekers trekt, wat suggereert dat het netwerk primair gericht is op het beïnvloeden van AI-systemen in plaats van menselijke lezers [3].
Impact op AI-systemen
NewsGuard’s analyse van tien prominente chatbots, waaronder ChatGPT-4, Grok, Copilot, Claude en Google Gemini, toont aan dat in 33.55% van de gevallen de AI-systemen Russische desinformatie reproduceren [1][4]. Nog zorgwekkender is dat zeven van de tien geteste chatbots Pravda-artikelen als betrouwbare bronnen citeerden [3]. Dit probleem werd al eerder dit jaar gesignaleerd door Google in een speciaal rapport over de kwetsbaarheid van AI-systemen voor georganiseerde desinformatie [1].
Systematische Beïnvloeding
De strategie achter deze beïnvloeding werd afgelopen januari openlijk besproken door Kremlin-propagandist John Mark Dougan, die expliciet sprak over het veranderen van ‘wereldwijde AI’ door het verspreiden van Russische perspectieven [3]. Het netwerk maakt gebruik van geavanceerde SEO-technieken om hoog in zoekresultaten te verschijnen, waardoor AI-modellen deze content als legitiem beschouwen [5]. Bij 48.22% van de onderzochte gevallen probeerden chatbots de desinformatie te weerleggen, maar creëerden daarbij vaak verwarring door alsnog naar Pravda-bronnen te verwijzen [1].