Pourquoi des publicités pornographiques ou de propagande russe envahissent Meta et X ?

L’ONG Eko, spécialiste de la surveillance des grandes entreprises, a profité des élections législatives allemandes du week-end dernier pour dénoncer le manque de modération des publicités sur les plateformes Meta et X.

L’organisation à but non lucratif a volontairement publié sur ces réseaux sociaux de « fausses publicités » haineuses, appelant notamment à l’incendie de synagogues ou la déportation d’immigrés, pour voir si elles seraient supprimées par les systèmes de modération.

Sur les 10 publicités proposées, 5 ont été validées par Meta dans les 12 heures. Sur le X d’Elon Musk, toutes les publicités ont été immédiatement validées.

Un filtrage automatisé et peu fiable

Au sein de l’ONG européenne AI Forensics, Paul Bouchaud, docteur en audit algorithmique a scruté les publicités qui interrompent vos moments de scrollage sur les réseaux sociaux. Comment fonctionne le filtrage ? « Pour être validée, une publicité va être étudiée sous 24 heures, avant d’être approuvée ou rejetée. Aujourd’hui, la grande majorité de cette modération est automatisée. »

Facebook ajoute qu’une fois le premier contrôle automatisé passé, il est possible pour « une équipe d’examen manuel » d’intervenir dans certains cas précis, notamment si de nombreuses personnes signalent la publication.

« C’est encore pire pour les publicités « politiques », ajoute le chercheur, puisque Meta se repose sur l’honnêteté des publicitaires qui doivent eux-mêmes déclarer que leur contenu est politique. » Une déclaration ignorée par la plupart, mais qui n’empêche pas la publication des publicités.

Une fois publiées, et même après signalement, difficile de faire disparaître ces publicités, dont la modération est selon Paul Bouchaud insuffisante. En 2024, AI Forensics a révélé que c’est ce manque de filtrage qui a permis à de nombreuses publicités contenant de la propagande russe d’inonder les réseaux sociaux, quelques semaines avant les élections européennes.

N’importe qui peut diffuser n’importe quoi

Cet océan d’influence est accessible à n’importe qui, à condition de payer pour que son contenu soit diffusé. Seule une vérification d’identité est demandée pour ceux qui diffusent du contenu « politique », mais comme la majorité ne déclare pas leur contenu comme politique, l’obstacle est vité surmonté

L’argent comme seule modération, c’est aussi ce qui fait dire à AI Forensics qu’il existe un « double standard » de contrôle, plus particulièrement sur Meta. Dans un rapport de janvier dernier, l’ONG s’est intéressée cette fois aux publicités contenant du contenu pornographique, faisant la promotion de sites de rencontres frauduleux ou de produits magiques contre les dysfonctionnements érectiles.

« On a découvert que quand on recopie ces publicités pour en faire du contenu  »classique », ils sont automatiquement modérés et supprimés. » Meta possède donc la technologie pour repérer ces contenus problématiques, que ce soit des publicités ou de simples posts, mais les approuve plus facilement quand ce sont des publicités.

Pour Paul Bouchaud, c’est dans leur « intérêt » de les valider parce qu’elles rapportent de l’argent. En effet, AI Forensics ajoute que ces 3 000 publicités pornographiques ont généré en moins d’un an plus de 8 millions de vues, particulièrement en France et en Allemagne.

Chez X, le choix de la modération zéro

Sous la houlette d’Elon Musk, le réseau social X fait un point d’honneur à réduire au maximum la modération de ces contenus au nom de la « liberté d’expression », ce qui inclut les publicités. « Ils laissent tout passer, explique Paul Bouchaud. Que ce soit des bots, des contenus haineux, factuellement ils laissent tout passer. » Difficile donc de dire ce qui pourrait pousser une publicité à être interdite sur ce réseau : des manquements contraires aux engagements de Facebook et Meta, signataires du Digital Service Act, un règlement européen visant à encadrer les pratiques des plateformes.

Face au laxisme de ces dernières, la Commission européenne a notamment lancé une procédure formelle contre Meta sur la modération des publicités « politiques ». Même menace contre X quelques mois plus tard, mais cette fois sur les systèmes de recommandation.

Notre dossier sur les GAFA

Mais pour le chercheur Paul Bouchaud, ces procédures ont peu de chances de faire bouger les firmes américaines. Grand soutien des Gafam, Donald Trump a critiqué à plusieurs reprises le DSA, parlant de « taxes, amendes et contraintes réglementaires sur les services numériques ». Une position qui pourrait pousser les plateformes à réduire toujours plus leur modération, au nom de la « liberté d’expression » mais aussi du profit.