Meta désactive son usine à deepfake, une fonctionnalité contestée.

Meta a désactivé son outil de génération d’image Muse quelques jours après son lancement, en raison des critiques concernant la protection de la vie privée. Le syndicat des professionnels du cinéma SAG-AFTRA a recommandé à ses membres de désactiver la réutilisation de leurs contenus afin de protéger leur image.

Sous le feu des critiques après avoir lancé une fonctionnalité permettant de créer des images fausses à partir de photos publiques, Meta a suspendu son outil quelques jours seulement après son annonce.

La semaine dernière, l’entreprise de Mark Zuckerberg avait fièrement présenté son modèle de génération d’images, Muse, en expliquant qu’il permettrait à quiconque de créer du contenu inspiré par leurs photos Instagram. Cependant, elle a rapidement fait marche arrière, selon The Verge.

Meta a expliqué avoir « entendu les retours » et compris que « cette fonctionnalité n’a pas fait l’unanimité ». Elle a donc décidé de désactiver l’outil, au grand soulagement des personnes soucieuses de leur vie privée et de leur image publique.

L’idée initiale de cette fonctionnalité était de permettre aux utilisateurs d’extraire le contenu de leurs photos publiques et de permettre à l’IA de le remixer. Meta avait même mis en avant un exemple permettant de copier-coller l’apparence d’une personne pour l’insérer dans des situations totalement fictives, ce qui revenait presque à créer des deepfakes.

Alors que l’entreprise se félicitait de ce « progrès » technologique, la réaction du public et des organisations de la société civile a été beaucoup moins enthousiasme. Le syndicat des professionnels du cinéma SAG-AFTRA a immédiatement recommandé à ses membres de désactiver la réutilisation de leurs contenus pour « protéger [leur] image ». Une organisation de protection contre les violences sexuelles a également dénoncé un outil qui « facilite le chantage à caractère sexuel et les autres arnaques » tout en « faisant porter la responsabilité de la protection sur les individus ».

« Notre objectif était de proposer un outil créatif et utile permettant aux utilisateurs et utilisatrices de décider si leur contenu pouvait être réutilisé », a néanmoins justifié Meta avant d’annoncer la mise au placard de son outil.

Bien que Meta permettait de désactiver la réutilisation du contenu dans les paramètres d’Instagram, cette option était activée par défaut, du moins pour les comptes américains, et nécessitait de fouiller dans les paramètres de l’application pour se protéger. Une action que la majorité des utilisateurs ne penserait sans doute pas à entreprendre, et qui ne constitue pas un consentement.

Bien qu’il soit malheureusement possible pour d’autres IA de générer de fausses images à partir de photos publiques, cette fonctionnalité n’est plus intégrée à l’application Instagram et ses milliards d’utilisateurs.