« L’IA évolue très vite, trop vite » : avec Glaze, des étudiants créent un logiciel capable de protéger les oeuvres du plagiat par l’IA

Glaze (« vernis » en anglais) ajoute en filigrane une couche d’informations quasiment invisibles à l’oeil nu. L’auteur peut ensuite publier en ligne l’image modifiée. Si un modèle d’IA générative essaie de s’en servir, les données informatiques ajoutées empêcheront la machine d’analyser correctement le style et de le reproduire.

Le SAND Lab de la Chicago University a décidé de concevoir Glaze après avoir été contacté par des artistes, outrés que des programmes comme Stable Diffusion ou Midjourney permettent à leurs utilisateurs de générer en quelques secondes des images imitant leur style de façon très sophistiquée.

« C’est le projet le plus concret et le plus important sur lequel nous ayons travaillé », assure Shawn Shan, l’étudiant chargé de Glaze. « Nous travaillons sur les questions de sécurité et de confidentialité des systèmes d’IA, mais d’habitude nous travaillons plutôt sur des outils ‘au cas où tel ou tel problème se pose’. Cette fois-ci le problème existe déjà, cela entraîne des dommages réels pour les artistes, ils ont besoin d’outils pour les protéger. »

Glaze peut être téléchargé gratuitement depuis le 15 mars.

L’équipe de chercheurs et ingénieurs a travaillé en collaboration avec des artistes, dont Karla Ortiz, une des plaignantes dans les poursuites lancées en nom collectif à San Francisco contre plusieurs entreprises.

« Avec Glaze, Stable Diffusion ne pourra pas apprendre le style de Karla. Le modèle identifiera son art différemment (comme si c’était du van Gogh, par exemple) », détaille un communiqué. « Si quelqu’un demande ensuite à Stable Diffusion de générer ‘une oeuvre dans le style de Karla Ortiz’, il obtiendra des images dans le style van Gogh (ou quelque chose d’hybride). »

L’équipe reconnaît cependant que Glaze n’est pas une solution permanente contre l’imitation par l’IA. Les entreprises spécialisées seront sans doute capables de contourner l’obstacle, forçant les étudiants à améliorer leur outil, et ainsi de suite.

« L’IA évolue très vite, trop vite », remarque Shawn Shan. « L’idée est de gagner du temps en attendant qu’il y ait plus de régulation. »