« Deepfakes », chatbots relayant des infox… La guerre entre Israël et l’Iran n’échappe pas au flot de désinformation

«Deepfakes » générés par l’intelligence artificielle (IA), chatbots relayant des infox, séquences de jeux vidéo présentées comme de vraies scènes de guerre… Le conflit entre Israël et l’Iran n’échappe pas au flot de désinformation alimenté par les outils technologiques, sur les réseaux sociaux et au-delà.

Cette déferlante d’infox illustre le besoin urgent d’outils de détection plus performants, expliquent des experts, au moment où les plateformes ont réduit la voilure dans la modération de contenu et se passent de fact-checkeurs.

Des vidéos générées par IA largement partagées

Après des salves de missiles tirés par l’Iran, riposte aux bombardements israéliens, des vidéos générées par l’intelligence artificielle largement partagées sur les réseaux sociaux ont prétendu montrer des dégâts subis sur l’aéroport Ben Gourion de Tel Aviv. Une image en réalité fabriquée, issue d’un compte TikTok qui produit du contenu généré par l’IA.

Il y a une « vague de désinformation générée par l’IA en lien avec le conflit Israël-Iran en particulier », constate Ken Jon Miyachi, fondateur de l’entreprise spécialisée BitMindAI, évoquant « une sophistication sans précédent. »

« Des images hyperréalistes »

GetReal Security, une entreprise américaine spécialisée dans la détection de contenus truqués avec l’IA, pointe notamment les images hyperréalistes générées par l’outil de Google, Veo 3. L’entreprise a par exemple lié des vidéos convaincantes de scènes apocalyptiques de bombardements iraniens en Israël au générateur d’IA Veo 3, dont le logo est d’ailleurs visible au bas de l’une de ces vidéos publiée par le média Tehran Times, censée montrer « le moment où un missile iranien a frappé Tel Aviv ».

« Ce n’est pas une surprise qu’au fur et à mesure que les outils d’IA générative s’améliorent en termes de réalisme, ils soient détournés pour diffuser de la désinformation », estime son co-fondateur Hany Farid, également professeur à l’Université de Californie à Berkeley.

Les Iraniens pris au piège de la désinformation

L’entreprise américaine NewsGuard, qui analyse la fiabilité des contenus en ligne, a par ailleurs identifié 51 sites internet qui ont publié plus d’une douzaine d’infox, allant de photos générées par l’IA censées montrer des destructions massives à Tel Aviv à des éléments fabriqués de toutes pièces faisant état de pilotes israéliens capturés par l’Iran.

Parmi ceux qui ont diffusé ces faux contenus, on trouve des chaînes Telegram liées à l’armée iranienne et des sources affiliées aux médias d’Etat iraniens, selon NewsGuard. « Nous assistons à un déferlement de désinformation, et les Iraniens lambda semblent être le cœur de cible », explique McKenzie Sadeghi, chercheur à NewsGuard.

« Avec la télévision d’Etat qui pousse les Iraniens à supprimer WhatsApp, Internet fortement restreint, et un contrôle strict de la presse, les Iraniens sont pris au piège dans un environnement d’information clos, dominé par les médias d’Etat, qui se contredisent activement les uns les autres dans une tentative désordonnée de contrôler le récit », poursuit-il.

Nécessité de préserver l’intégrité du discours public

Certains de ces faux contenus ont par ailleurs été relayés par des médias d’Etat russes et chinois, les exportant ainsi sur une scène plus vaste, ajoute-t-il.

S’ajoutent à ce torrent de désinformation des séquences tirées de jeux vidéo et indûment présentées comme de vraies scènes de guerre, comme précédemment pour l’Ukraine ou la Syrie. « Il y a un besoin urgent de meilleurs outils de détection, d’éducation aux médias, et de responsabilisation des plateformes, pour préserver l’intégrité du discours public », alerte Ken Jon Miyachi, le fondateur de l’entreprise spécialisée BitMindAI.