Open AI révèle que ChatGPT est utilisé par une campagne prorusse.

Des comptes ChatGPT, probablement liés à des acteurs russes, ont été employés pour produire des commentaires en anglais, dans le but de soutenir un think tank fictif, l’International Burke Institute (IBI), basé en Israël. Ce dernier, à travers son site web, présentait la Russie sous un jour favorable, une opération d’influence récemment mise en lumière par les équipes de sécurité d’OpenAI.

Dans un rapport publié le mardi 25 août, OpenAI a expliqué que leur enquête initiale, centrée sur des publications générées par l’intelligence artificielle sur les réseaux sociaux, avait révélé une manœuvre d’influence bien plus vaste. Selon l’entreprise, cette opération semblait avoir atteint un public relativement limité.

Derrière un réseau privé virtuel (VPN), plusieurs opérateurs, supposés être russes, utilisaient des comptes ChatGPT pour générer des commentaires dans diverses langues. La majorité de ces messages étaient en anglais, et les opérateurs avaient pour consigne de masquer toute indication de leur origine russe, comme l’indique OpenAI. Les comptes en question ont depuis été bannis.

Ces commentaires, produits par ChatGPT, ont été diffusés sur plusieurs plateformes sociales telles que Substack, Telegram, X, Facebook et LinkedIn, souvent en réponse à des publications de véritables utilisateurs de Substack. Ils prenaient généralement la forme d’appels à suivre le canal de l’International Burke Institute, un groupe d’experts autoproclamés.

En outre, les contenus générés par ChatGPT servaient à promouvoir des articles sur le site de ce prétendu think tank. Des vidéos créées par intelligence artificielle étaient également mises en ligne sur YouTube, faisant la promotion d’un indice, le « indice Burke », développé par l’institut.

L’International Burke Institute, qui se présente comme une « communauté d’experts », est au cœur de cette opération d’influence. Son site affiche une longue liste d’experts ayant prétendument collaboré avec l’institut, et les articles attribués à ces chercheurs y sont hébergés.

Cependant, ces affirmations sont trompeuses. Les articles présents sur le site ont été initialement publiés ailleurs. Par exemple, un article d’Emily Benson a été publié à l’origine sur le site du Center for Strategic and International Studies (CSIS).

D’après OpenAI, sur un échantillon de 36 articles liés aux experts mentionnés sur le site de l’IBI, 34 ont été plagiés sur Internet. Certains de ces articles sont anciens, tandis que d’autres sont attribués à de mauvais auteurs.

En plus de ces contenus plagiés, l’institut met en avant un « indice de souveraineté » qui accorde une position favorable à la Russie (4e place), tandis que la France et l’Allemagne se classent respectivement 19e et 21e. Les rapports concernant ces pays sont particulièrement critiques. Par exemple, il est écrit que « en dix ans de macronisme, […] la France a été ouverte comme un coffre-fort […], et est maintenant vendue à la découpe ». Notamment, le rapport sur la Russie n’évoque jamais la guerre en Ukraine menée par le Kremlin.

OpenAI conclut dans son rapport que cette situation illustre comment des acteurs d’influence peuvent tirer parti de l’intelligence artificielle pour renforcer une stratégie visant à crédibiliser leur récit.