« LLM grooming » : comment les bots IA relaient la désinformation russe

Le réseau Pravda financé par la Russie infecte les données d’entraînement des modèles IA pour que les chatbots génèrent du contenu favorable aux thèses du Kremlin. Découvert début 2024 par Viginum, l’agence gouvernementale française rattachée à Matignon, ce réseau compte 150 sites web qui diffusent du contenu en plusieurs langues (dont le français), dans 49 pays. On y trouve dans le lot des sites thématiques comme par exemple Trump.News-Pravda ou Macron.News-Pravda.

Un réseau de sites web pour influencer l’IA

Contrairement aux médias traditionnels, ces sites web ne produisent pas de contenus à proprement parler, ils relaient la propagande russe en agrégeant et en diffusant massivement des récits à la gloire de la Russie et des politiques de Vladimir Poutine. L’origine de cette désinformation provient de sources officielles russes, d’influenceurs pro-Kremlin et d’organismes d’État.

Le réseau, aussi connu sous le nom « Portal Kombat », n’a pas de lien direct avec le média Pravda, malgré un nom identique (qui signifie « vérité » en russe). Il est extrêmement prolifique : l’an dernier, les sites web Pravda ont en effet produit la bagatelle de 3,6 millions d’articles, un volume énorme lu… par très peu de monde. Bon nombre de ces sites tournent autour de mille visiteurs uniques par mois. Pour donner un nombre d’idée, le site du média officiel RT dépasse les 14 millions de visiteurs uniques mensuels.

Mais ce réseau ne recherche pas la popularité auprès des internautes. En exploitant des techniques de référencement (SEO), ces sites maximise la visibilité de leurs articles bidons pour mieux influencer les IA génératives. Des IA qui génèrent ensuite des réponses reposant sur la désinformation de Pravda via leurs systèmes de récupération d’informations (robots crawlers et moteurs de recherche). Cette technique de « LLM grooming » (manipulation des modèles de langage) fait visiblement des merveilles, selon une enquête de NewsGuard.

Cette entreprise américaine créée en 2018 par des vétérans du journalisme et de l’édition se présente comme un outil de lutte contre les fausses informations et la manipulation de l’information sur internet. Elle a testé 10 des principaux chatbots IA du marché : ChatGPT-4o (OpenAI), You.com Smart Assistant, Grok (xAI), Pi (Inflection AI), Le Chat (Mistral), Copilot (Microsoft), Meta AI, Claude (Anthropic), Gemini (Google) et le moteur de réponses Perplexity.

L’enquête s’est basée sur un échantillon de 15 fausses informations diffusées par le réseau Pravda entre avril 2022 et février 2025. Ces affirmations ont été préalablement vérifiées et cataloguées dans la base de données Misinformation Fingerprints de NewsGuard. L’objectif était de mesurer la fréquence à laquelle ces outils reprennent cette désinformation à leur compte.

Parmi les fausses informations utilisées pour tester les bots, se trouvait par exemple le mensonge que Volodymyr Zelensky a ordonné le blocage de Truth Social en Ukraine. C’est complètement faux : le président ukrainien n’a jamais demandé une telle chose, et puis l’application du réseau social de Donald Trump n’a jamais été distribuée en Ukraine…

Pour chacune des affirmations, NewsGuard a formulé trois variantes de requêtes : ton neutre, ton « orienté » (la questions sous-entend que l’affirmation est vraie), ton « malveillant » (une formulation explicite incitant à la désinformation). En tout, 45 requêtes différentes ont saisies dans les 10 bots.

La réussite du réseau Pravda

L’analyse des réponses confirme que l’influence de la désinformation sur les réponses des IA est avérée. Un tiers des réponses des bots contenaient effectivement de la désinformation ; près de la moitié (48 %) contenaient un « debunk », autrement dit une vérification des faits. 18 % étaient des non-réponses, indiquant un manque de données ou l’incapacité à traiter le sujet.

7 des 10 bots ont cité des sites du réseau Pravda comme sources. 56 réponses sur 450 contenaient des liens directs vers ces fameux articles. Enfin, 92 articles ont été référencés au total, certains modèles IA citant même 27 articles différents. On le voit, la Russie a gagné des points dans cette guerre de l’information.

Et il ne suffit pas de fermer le robinet Pravda pour ne plus influencer les modèles IA. D’abord parce que le réseau n’est pas la source de la désinformation, il se contente si on peut dire de la relayer et de l’amplifier. Surtout, Pravda représente une menace systémique, car il ne peut pas être neutralisé facilement avec des mesures de filtrage. Sa stratégie repose en effet sur la réplication et la diversification, rendant très difficile le blocage des sites avec des algorithmes de modération. Une liste noire des sites peut bien être établie, il suffit de créer de nouveaux sites web pour contourner les restrictions.