Comment la Russie diffuse de la propagande via ChatGPT & Co.
Selon une étude récente, les chatbot IA reprennent fréquemment de la propagande pro-russe dans leurs réponses. Un réseau nommé Pravda, basé à Moscou, inonderait les LLM développés en Occident de fausses informations pour les inciter à diffuser des informations erronées favorables au Kremlin.
Un réseau de désinformation russe influence les chatbots occidentaux afin de diffuser sa propagande dans le monde entier. C'est la conclusion principale d'une étude de l'organisation Newsguard. Selon les résultats, les chatbots IA tels que ChatGPT ou Google Gemini fournissent 33% de fausses nouvelles pro-russes comme réponses à des questions géopolitiques impliquant la Russie.
«Une quantité énorme de propagande russe - 3 600 000 articles de 2024 sont désormais inclus dans les résultats des systèmes d'IA occidentaux et infectent leurs réponses avec de fausses allégations et de la propagande», écrivent les chercheuses de Newsguard McKenzie Sadeghi et Isis Blachez dans leur rapport.
Millions d’articles générés par IA
Le réseau Pravda, basé à Moscou, serait à l'origine de la campagne mondiale de désinformation. Pravda, qui signifie ironiquement «vérité», inonde de fausses informations les LLM via la technique du «LLM Grooming» (ou «LLM Laundering»). Cette technique consiste à inonder les chatbots avec des millions d’articles générés par IA contenant des informations fausses ou orientées. Ces articles sont ensuite crawlés et intégrés dans les jeux de données d’entraînement, des LLM.
Selon Newsguard, qui a examiné 10 chatbots IA, dont ChatGPT-4, Grok, Copilot, Google Gemini et Perplexity, tous ont relayé de la propagande pro-russe de Pravda. Sept d'entre eux auraient même cité des articles de Pravda comme source légitime. Lors des tests de Newsguards, 6 chatbots sur 10 ont fourni une fausse information en réponse à la question de savoir pourquoi Volodymyr Zelensky avait interdit l'application Truth Social de Donald Trump (ce qu'il n'a jamais fait). Selon l'étude, beaucoup d'entre eux ont indiqué des articles de Pravda comme source. Les bots IA ont également présenté comme vraie l'affirmation selon laquelle les États-Unis exploiteraient des laboratoires secrets d'armes biologiques en Ukraine.
Depuis sa création en 2022, le réseau Pravda (également appelé «Portal Kombat») s'est développé rapidement et couvre désormais 49 pays et des dizaines de langues. Une étude de l'American Sunlight Project (ASP) a également identifié le danger de Pravda et note: «Les risques à long terme - politiques, sociaux et technologiques - associés à la manipulation psychologique potentielle au sein de ce réseau sont élevés. Plus le nombre de récits pro-russes est important, plus il est probable qu'ils soient intégrés dans une manipulation psychologique.»
