IAÂ : Le Parlement européen vote l’interdiction des « deepfakes » sexuels

Le Parlement européen a interdit tous les services capables de créer des images sans le consentement des personnes reproduites, avec 569 voix pour et 45 contre lors d’une séance plénière à Bruxelles. Les pays membres de l’UE ont également approuvé une mesure similaire ce mois-ci et devront maintenant négocier avec le Parlement pour en convenir formellement.

Après le scandale autour de l’IA Grok d’Elon Musk, capable de « dénuder » des individus simplement à partir d’une photo habillée, le Parlement européen a décidé d’interdire tous les services capables de générer ce type d’images sans le consentement des personnes concernées.

Cette décision a été intégrée dans un texte adopté par une large majorité (569 voix pour et 45 contre) lors d’une séance plénière à Bruxelles.

Des services de « nudification »

Selon un communiqué du Parlement, l’objectif est d’interdire les systèmes de « nudification », qui « utilisent l’IA pour créer ou manipuler des images sexuellement explicites ou intimes ressemblant à une personne réelle identifiable, sans le consentement de cette personne ». Les IA qui disposent de « mesures de sécurité efficaces » pour contrer ces pratiques ne sont pas concernées par cette interdiction.

Les États membres de l’UE ont également validé une mesure similaire ce mois-ci. Ils devront désormais négocier avec le Parlement afin de parvenir à une formulation commune avant que cette mesure puisse entrer en vigueur.

Ces initiatives font suite, entre autres, à l’introduction il y a quelques mois d’une fonctionnalité dans Grok, l’assistant d’intelligence artificielle d’Elon Musk, permettant aux utilisateurs de demander la création de montages hyperréalistes (ou deepfakes) de femmes et d’enfants dénudés, à partir de photos réelles. Cette situation a provoqué un émoi dans de nombreux pays et a conduit à l’ouverture d’une enquête au sein de l’UE.