Merci la CAF : l’extrême droite utilise l’intelligence artificielle sur TikTok.

Une prétendue interview diffusée sur TikTok, générée par intelligence artificielle, met en scène des femmes voilées se vantant de bénéficier des aides de la Caisse d’allocations familiales (CAF). Des internautes appellent ces femmes à « prendre l’avion » ou à « demander la CAF en Algérie » dans les commentaires de ces vidéos.

« Pourquoi manifestez-vous aujourd’hui devant la CAF ? », interroge un faux journaliste de TF1 à un groupe de femmes voilées. « Parce que Jordan veut nous enlever la CAF, répond l’une d’entre elles. […] La CAF, c’est tout ce qu’on a. »

Cette prétendue interview, diffusée sur TikTok, a été entièrement générée par une intelligence artificielle, tout comme d’autres vidéos où des femmes voilées se vantent de bénéficier des aides de la Caisse d’allocations familiales (CAF). Comme l’a relevé 20 Minutes, des internautes utilisant des pseudonymes se servent de ces nouveaux outils pour créer des vidéos diffusant des messages d’extrême droite.

L’usage de l’IA, un outil pour ceux qui regardent

Une autre vidéo sur TikTok présente deux jeunes femmes dans un café, toutes deux voilées. La première demande : « Tu vas fêter Noël ? ». La seconde répond en riant : « Non, jamais, c’est péché, sauf la prime de Noël, ça, je prends ». Dans une troisième vidéo, quatre femmes voilées chantent : « Merci la CAF, c’est grâce à elle que mes enfants ont leur biberon, merci la CAF, je peux même rentrer au bled voir les parents. »

Dans les commentaires, certains internautes incitent ces femmes à « prendre l’avion » ou à « demander la CAF en Algérie ».

Pour certaines vidéos, un bandeau signale que le contenu a été généré par une intelligence artificielle (IA). Cependant, ce n’est pas le cas pour toutes, et cela ne semble pas déranger certains utilisateurs. « C’est de l’IA, mais c’est tellement la réalité, arrêtons la prime de Noël », commente un internaute.

Un vieux thème d’extrême droite

L’utilisation de l’intelligence artificielle ravive un stéréotype ancien de l’extrême droite, liant des populations perçues comme immigrées et le thème de « l’assistanat », désigné par le sociologue Félicien Faury comme « workfare chauvinism ». Avant l’avènement des outils d’intelligence artificielle pour le grand public, ce même message circulait depuis une dizaine d’années sur Internet via une photographie détournée. Cette image montre des femmes entièrement voilées faisant la queue devant un arrêt de bus à Londres, truquée pour y ajouter un logo de la CAF, donnant l’illusion qu’elle avait été prise en France. Cette image, réapparaissant en ligne, est tour à tour présentée comme étant prise à Sarcelles ou Rosny-sous-Bois, deux villes en Île-de-France.

Ce discours qui divise la population « provient du pacte discursif de l’extrême droite », souligne Romain Fargier, docteur en sciences politiques, spécialiste des youtubeurs de droite radicale et d’extrême droite, auprès de 20 Minutes. En ce qui concerne « l’idée que les étrangers profitent des aides sociales, cela fait également vraiment partie du répertoire de l’extrême droite », ajoute le chercheur du CEPEL de l’université de Montpellier.

« Occuper l’espace culturel »

Selon lui, il n’est pas étonnant que l’extrême droite investisse ces nouveaux outils technologiques. « L’extrême droite a été la première à utiliser le Minitel à l’époque, puis les sites Internet. C’est leur vision de leur « bataille culturelle », explique-t-il. Celle-ci provient d’un courant d’extrême droite français, la nouvelle droite, qui a théorisé à la fin des années 1980 le concept de gramscisme technologique, c’est-à-dire occuper l’espace culturel et les domaines de la production artistique afin d’établir un contre-narratif collectif. »

L’usage de l’intelligence artificielle générative permet de créer des images ou des vidéos plus crédibles, ce qui « favorise une viralité instantanée », comme le souligne le chercheur, et entraîne une « économie de l’indignation ». Une économie qui en est encore à ses débuts.