Test de Sora 2 : l’IA clone tout, deepfakes et réseaux sociaux.

Sora 2, lancé fin septembre 2023 par Open AI, est un outil d’intelligence artificielle permettant de générer des vidéos et d’interagir sur un réseau social dédié, mais il est uniquement disponible aux Etats-Unis et au Canada. L’application bloque la génération de vidéos de personnalités politiques tout en permettant l’intégration de la reine Élisabeth II, décédée en 2022.

Imaginez un monde où il est possible de mettre en scène qui que ce soit dans n’importe quelle situation de manière réaliste. C’est presque ce que propose Sora 2, le nouvel outil d’intelligence artificielle (IA) lancé par OpenAI à la fin de septembre. Sora 2 est un outil de génération de vidéos, une application pour iPhone, et un réseau social où tous les contenus sont créés par IA.

Actuellement, Sora 2 est uniquement accessible aux États-Unis et au Canada. Son succès est fulgurant, puisqu’il est vite devenu le meilleur téléchargement sur l’App Store d’Apple en Amérique du Nord. OpenAI a évité de se lancer en Europe, où des réglementations strictes existent avec l’“IA Act”, une législation qui encadre le secteur. De plus, un code d’invitation est requis pour utiliser cet outil. Grâce à un VPN et à quelques contacts en Amérique, nous avons pu obtenir le code d’accès et télécharger l’application sur notre smartphone.

## « Caméo », votre double virtuel créé par IA

Dès l’ouverture, Sora 2 permet de créer son propre « caméo », un double virtuel qui sera intégré dans des vidéos imaginaires. La création prend à peine quelques secondes : il suffit de lire trois nombres et de tourner la tête. Ainsi, notre double virtuel apparaît.

Qu’en est-il de nos données personnelles dans cette affaire ? OpenAI reste vague sur l’utilisation future de ces informations, se contentant d’indiquer dans ses conditions générales qu’il n’utilise pas votre contenu pour commercialiser des services ou établir des profils publicitaires, mais pour rendre ses modèles plus utiles. L’utilisation de Sora est gratuite, limitée à trente vidéos de neuf secondes par jour. Mais est-ce vraiment gratuit ? Comme le dit l’adage, il n’y a de fromage gratuit que dans les pièges à souris.

### Un fil de vidéos générées par IA

L’application s’ouvre sur un fil de vidéos à la manière de TikTok. Les vidéos, toutes générées par IA, se succèdent, montrant des membres du réseau dans des situations fantastiques, mais aussi de fausses vidéos de célébrités comme la reine Élisabeth II, Martin Luther King ou Albert Einstein. Ce phénomène est désigné sous le terme « IA slop », qualifiant des médias de mauvaise qualité élaborés grâce à une technologie d’IA générative.

En bas de l’écran, un petit « + » permet de créer son propre contenu. C’est le moment de voir à quoi pourrait ressembler une vidéo de nous-même en tant que professeur de surf sur une plage australien. Quelques minutes plus tard, le résultat apparaît sur l’écran de notre smartphone.

Les concepteurs de Sora ont promis une IA plus réaliste, et c’est vrai que le visage semble convaincant. Cependant, la voix, un peu métallique, peine à séduire. Les mouvements de notre clone lors d’une séquence de surf semblent maladroits, et chaque scène s’arrête brutalement en plein dialogue. L’IA créé les dialogues, mais il est possible de modifier une vidéo pour ajuster certains éléments.

Un détail permettant de détecter le fake : le logo de Sora, un petit nuage aux yeux brillants, qui apparaît à plusieurs reprises. Des sites ont déjà été développés pour supprimer ce logo de manière automatique, tandis que d’autres permettent de l’ajouter dans des vidéos authentiques afin de brouiller les pistes.

### Des vidéos de célébrités ?

En essayant de créer des vidéos avec des personnalités politiques ou sportives belges, l’application bloque, affichant le message : « Ce contenu enfreint peut-être nos règles relatives aux ressemblances avec des contenus tiers ». En revanche, cela ne pose pas de problème d’intégrer la reine Élisabeth II, décédée en 2022.

Sora 2, étant un réseau social, permet de s’abonner aux publications d’autres utilisateurs et de réutiliser leur image, si ces derniers l’autorisent. Cela a été fait par Sam Altman, l’un des dirigeants d’OpenAI, qui a été représenté dans des vidéos où il vole des dessins dans le studio de l’artiste japonais Hayao Miyazaki, faisant allusion aux questions de propriété intellectuelle autour de la sortie de GPT-4.

### Un contenu mêlant création et controverse

Les réseaux sociaux ont récemment été envahis par des hypertrucages sorti de Sora 2, dont de fausses épreuves de jeux olympiques teintées de misogynie ou de racisme, des animaux parlant, ou encore des images falsifiées censées provenir de caméras de surveillance. Bien que tout ne soit pas illégal, tout est faux.

Que se passe-t-il si plusieurs « caméos » interagissent ? C’est possible, à condition que chacun ait consenti à la réutilisation de son image. Dans ce cadre, les utilisateurs concernés reçoivent une notification.

Nous avons expérimenté cela avec l’aide de Jessica Riga, chroniqueuse à « On n’est pas des Pigeons ». Après avoir créé un double virtuel de Jessica, nous avons demandé à l’IA d’imaginer une scène où elle et moi serions membres d’un groupe de rock.

Aucune mention claire n’a été faite sur une fake news suggérant que « du vinaigre peut remplacer tous les vaccins ». L’IA continue d’imaginer des dialogues autour de ce concept, et il est évident que le faux est détectable… pour l’instant.

En février 2024, OpenAI avait déjà suscité des inquiétudes avec la première version de Sora, qui, bien moins performante, a conduit à des questionnements sur la véracité des contenus en ligne. Comme l’a noté le New York Times, l’émergence de Sora et d’autres générateurs vidéo d’IA en 2023 pourrait marquer la fin de la réalité visuelle telle que nous la connaissions, et la société devra désormais aborder les vidéos avec le même scepticisme que les mots.