Une enquête ouverte contre l’IA Grok pour des vidéos sexuelles fausses.

Le parquet de Paris a étendu vendredi son enquête visant X à l’intelligence artificielle Grok, accusée par trois ministres et deux députés d’avoir généré et diffusé de fausses vidéos à caractère sexuel, « mettant notamment en scène des mineurs ». Les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé ont annoncé vendredi avoir signalé au procureur des « contenus manifestement illicites », demandant « leur retrait immédiat ».

Grok est au centre d’une controverse majeure, entraînant l’intervention de la justice. Le parquet de Paris a élargi, vendredi, son enquête concernant X (anciennement Twitter) à cette intelligence artificielle, qui est accusée par trois ministres et deux députés d’avoir généré et diffusé de fausses vidéos à caractère sexuel, « mettant notamment en scène des mineurs », a rapporté l’AFP en citant le ministère public.

Ces parlementaires et ministres français dénoncent la diffusion de « deepfakes », qui sont des vidéos falsifiées à caractère sexuel publiées sur la plateforme X par Grok, sans le consentement des personnes apparaissant dans ces vidéos.

### « Contenus manifestement illicites »

L’enquête visant X est ouverte depuis juillet, suite à des signalements contre le réseau social et ses dirigeants, accusés d’avoir manipulé l’algorithme de la plateforme dans un but d’ingérence étrangère. « Le délit de montage à caractère sexuel d’une personne sans son consentement est puni de deux ans d’emprisonnement et de 60.000 euros », a rappelé le parquet, confirmant une information du site Politico.

Vendredi, les députés macroniste Eric Bothorel et socialiste Arthur Delaporte ont saisi la justice, ce qui a conduit à l’élargissement des investigations. Les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé ont également déclaré avoir signalé au procureur des « contenus manifestement illicites », demandant leur « retrait immédiat. »

### Les internautes incités à signaler ces publications

« Ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement », ont-ils précisé. Un signalement a également été effectué auprès de la plateforme Pharos par le gouvernement, ont-ils ajouté.

L’Arcom, l’autorité de régulation de la communication audiovisuelle et du numérique, a aussi été saisie « au titre de possibles manquements de X à ses obligations découlant du Digital Services Act », le règlement européen sur les services numériques. Sur X, la haute-commissaire à l’Enfance, Sarah El-Haïry, s’est déclarée « scandalisée par les requêtes adressées à Grok de dénuder des filles et femmes » et a invité les internautes à signaler les publications à Pharos.