Intelligence artificielle : Comment l’IA alimente le sexisme en produisant de fausses vidéos ultra-réalistes

Leur réalisme est saisissant : des vidéos montrent des femmes en bikini menant des interviews dans la rue et suscitant des commentaires obscènes, mais… elles sont fausses, générées par l’IA pour inonder les réseaux sociaux de contenus sexistes.

Ces contenus médiocres, créés en masse à l’aide d’outils d’Intelligence Artificielle bas de gamme, noient souvent les publications authentiques et brouillent la frontière entre fiction et réalité.

Cette tendance a donné naissance à une industrie artisanale d’influenceurs qui produisent à la chaîne des contenus sexualisés, motivés par les programmes d’incitation des plateformes qui récompensent financièrement les contenus viraux.

Remarques misogynes et sexistes

De nombreux clips générés par l’IA, truffés d’humour grivois, prétendent ainsi montrer des intervieweuses court vêtues dans les rues d’Inde ou du Royaume-Uni.

Les vérificateurs de l’AFP ont trouvé des centaines de vidéos de ce type sur Instagram – dont beaucoup en hindi – qui montrent des hommes interrogés lançant avec désinvolture des remarques misogynes et sexistes, parfois même attrapant les femmes, tandis qu’une foule d’hommes les regardent bouche bée ou rient en arrière-plan.

L’excellence de Google dans le viseur

Ces vidéos ont été visionnées des dizaines de millions de fois. Certaines ont même monétisé cette popularité en faisant la promotion d’une application de messagerie pour adultes permettant de « se faire de nouvelles amies ».

Or ces vidéos ont été créées à l’aide du générateur d’IA Veo 3 de Google, connu pour ses images hyperréalistes, a indiqué la société américaine de cybersécurité GetReal Security dans une analyse partagée avec l’AFP.

« C’est l’internet d’aujourd’hui »

« La misogynie qui restait généralement dissimulée dans les discussions et les groupes de vestiaires est désormais déguisée en images générées par l’IA », analyse pour l’AFP Nirali Bhatia, cyberpsychologue basée en Inde. « Cela fait partie des préjudices sexistes induits par l’IA, cela alimente le sexisme ».

De fait, les réseaux sont désormais de plus en plus submergés par des mèmes, des vidéos et des images générés par l’IA qui rivalisent avec les contenus authentiques pour attirer l’attention.

« C’est l’internet d’aujourd’hui, estime Emmanuelle Saliba, de GetReal Security. Les contenus médiocres générés par l’IA et tout type de contenu non étiqueté généré par l’IA érodent lentement le peu de confiance qui subsiste dans les contenus visuels ».

Le cas « Jessica Radcliffe »

Les vérificateurs de l’AFP ont suivi la diffusion virale de vidéos montrant une fausse dresseuse d’orques nommée « Jessica Radcliffe » et supposée avoir été attaquée mortellement par une orque lors d’un spectacle dans un parc aquatique.

Ces images fabriquées de toutes pièces se sont propagées sur différentes plateformes, notamment TikTok, Facebook et X, suscitant l’indignation mondiale des utilisateurs qui pleuraient la mort de cette femme qu’ils croyaient réelle.

Des « pièges à clics » très populaires

L’an dernier Alexios Mantzarlis, directeur de l’initiative « Security, Trust, and Safety » de l’université Cornell Tech, a découvert 900 comptes Instagram de « mannequins » probablement générés par l’IA, principalement des femmes et généralement peu vêtues.

Ces pièges à clics ont cumulé treize millions d’abonnés et publié plus de 200.000 images, monétisant généralement leur audience en redirigeant leur public vers des plateformes commerciales de partage de contenu.

Avec la prolifération des faux contenus générés par l’IA, « les chiffres sont sans doute beaucoup plus élevés aujourd’hui, déclare M. Mantzarlis à l’AFP. Attendez-vous à voir davantage de contenus absurdes exploitant des normes corporelles qui ne sont pas seulement irréalistes, mais littéralement irréelles ».

Un cercle vicieux inarrêtable

Certaines plateformes ont cherché à sévir contre les comptes promouvant des contenus de mauvaise qualité. YouTube a récemment déclaré que les créateurs de contenus « non authentiques » et « produits en masse » ne seraient plus éligibles à la monétisation.

Notre dossier « Intelligence artificielle »

« L’IA n’invente pas la misogynie, elle ne fait que refléter et amplifier ce qui existe déjà », assure à l’AFP Divyendra Jadoun, consultant en IA : « Si le public récompense ce type de contenu par des millions de likes, algorithmes et créateurs d’IA continueront à le produire. Le combat le plus important n’est pas seulement technologique, il est aussi social et culturel ».