YouTube ne protège pas ses utilisateurs des vidéos générées par IA.

YouTube a dévoilé son nouvel outil permettant de détecter les usurpations de visages et de voix sur la plateforme de vidéos en ligne. Pour pouvoir bénéficier de cette nouvelle fonctionnalité, il faudra fournir une pièce d’identité afin que le système ait une base sur laquelle s’appuyer.

YouTube a présenté un nouvel outil conçu pour détecter les usurpations de visages et de voix sur sa plateforme. L’objectif est de fournir aux créateurs de contenu une meilleure protection de leur image face à l’augmentation des deepfakes. Ce système de « détection de ressemblance » a été développé pour identifier les images où le visage ou la voix d’une personne apparaissent sans son consentement, selon les informations disponibles sur la page d’aide du site.

Cet outil avertit immédiatement un vidéaste dont le visage est détecté dans une vidéo contenant du deepfake ou entièrement créée par intelligence artificielle (IA). YouTube indique que ce dispositif fonctionne de manière similaire au ContentID, qui signale automatiquement les contenus protégés par le droit d’auteur ayant été réutilisés sans autorisation. Avec cette nouvelle fonctionnalité, c’est cette fois-ci le visage et la voix qui seront analysés grâce à l’IA de Google.

Pour bénéficier de ce nouvel outil, qui est pour l’instant accessible dans certains pays et à un nombre limité d’utilisateurs, il sera nécessaire de fournir une pièce d’identité afin de constituer une base de données. Le créateur de contenu pourra ensuite accéder à un onglet de gestion où il retrouvera toutes les vidéos concernées. Si une vidéo utilise sans autorisation son image, il pourra demander son retrait.

Cependant, le processus ne sera ni automatique ni immédiat. La personne ayant publié les images aura la possibilité de les modifier ou de les supprimer par elle-même. Si ce n’est pas le cas, les modérateurs de YouTube devront évaluer la légitimité de la demande de retrait. Selon BFM Tech & Co, l’outil est encore en phase de perfectionnement et les vidéastes ayant déjà accès à cette fonctionnalité en ont été informés.