L’UE ne ferme pas l’enquête sur le réseau X et l’IA Grok.

La Commission européenne a annoncé lundi s’intéresser aux fausses images dénudées de mineurs et de femmes générées par Grok, son assistant d’intelligence artificielle. Selon une étude publiée par le Center for Countering Digital Hate, Grok a généré quelque trois millions d’images sexualisées de femmes et d’enfants sur une période de 11 jours seulement, soit 190 images par minute en moyenne.

Une nouvelle enquête concerne le réseau social d’Elon Musk, X. La Commission européenne a annoncé lundi qu’elle se penchait sur les fausses images dénudées de mineurs et de femmes générées par Grok, son assistant d’intelligence artificielle. L’Europe ne « tolérera pas les comportements insensés » des plateformes numériques, notamment « les fausses images dénudées de femmes et d’enfants », a déclaré Ursula von der Leyen, présidente de la Commission européenne.

« Notre position est claire : nous ne confierons pas le consentement et la protection de l’enfance à des plateformes technologiques pour qu’elles les violent et les monétisent », a affirmé la cheffe de l’exécutif européen, ajoutant que « des mesures ont été prises, mais nous devons en faire plus pour protéger les citoyens, en ligne comme hors ligne ».

Cette enquête vise à déterminer si le réseau, anciennement connu sous le nom de Twitter, a enfreint les strictes règles européennes sur le numérique, l’obligeant à protéger les utilisateurs contre les contenus illégaux.

De plus, l’exécutif européen a décidé d’élargir le champ d’une première enquête lancée en décembre 2023 contre X, toujours dans le cadre de sa législation sur les services numériques, le DSA (Digital Services Act). Cela concerne une fonctionnalité permettant aux utilisateurs de demander à Grok de créer de fausses images dénudées à partir de photos réelles de mineurs ou de femmes.

Des millions d’images sexualisées

Face à l’indignation provoquée par la multiplication de ces images, plusieurs pays, dont la France et le Royaume-Uni, ont déjà lancé des procédures, et l’accès à X a été suspendu ou bloqué par plusieurs États. Après avoir d’abord restreint l’accès à cette fonctionnalité, X a annoncé, à la mi-janvier, qu’elle restreindrait son outil d’IA dans les pays où la création de telles images sexuelles est illégale.

Selon une étude du Center for Countering Digital Hate, une ONG qui critique souvent les pratiques de X, Grok a généré environ trois millions d’images sexualisées de femmes et d’enfants en seulement 11 jours, ce qui représente 190 images par minute en moyenne.

Une autre analyse de l’organisation AI Forensics a révélé que plus de la moitié des plus de 20 000 images générées par Grok montraient des personnes légèrement vêtues, avec 81 % de femmes et 2 % semblant être mineures.

En parallèle de la nouvelle procédure lancée lundi, la Commission européenne a également choisi d’étendre le périmètre d’une autre enquête lancée en décembre 2023 contre X, qui avait déjà conduit à une amende de 120 millions d’euros infligée au réseau d’Elon Musk.

Menaces de Trump

Le réseau social se trouve sous l’œil vigilant de l’Union européenne depuis plusieurs semaines en raison de ce scandale. Au début de janvier, Bruxelles a pris une première mesure en ordonnant à X de conserver tous ses documents et données internes relatifs à Grok, jusqu’à la fin de l’année.

Avec cette nouvelle procédure visant X, l’Europe s’expose à d’éventuelles représailles de la part du président américain Donald Trump, alors que les tensions liées à son projet de s’emparer du Groenland viennent à peine de s’apaiser.

Donald Trump accuse régulièrement Bruxelles de cibler les géants américains de la tech à travers sa législation numérique. Son administration a pris des mesures de rétorsion fin décembre, en imposant des sanctions à l’ancien commissaire Thierry Breton, promoteur du DSA, ainsi qu’à quatre autres personnalités européennes engagées dans une régulation stricte de la tech et contre la désinformation.