« L’IA de Google reproduit des biais racistes : « Je suis seule avec un Italien » vs « avec un Algérien » »
Ce week-end, une expérience partagée par des internautes a révélé des disparités frappantes dans les réponses fournies par l’intelligence artificielle Gemini de Google. Lorsqu’un utilisateur a déclaré « je suis seule avec un Italien », l’IA a réagi en évoquant une atmosphère conviviale. En revanche, la même phrase modifiée pour mentionner un Algérien a déclenché une réponse alarmante, incitant l’utilisateur à vérifier son bien-être et à contacter les services d’urgence. Cette différence de traitement a suscité une vive réaction sur les réseaux sociaux.
La controverse a rapidement pris une dimension mondiale. Depuis le 19 août, de nombreux utilisateurs de X (anciennement Twitter) ont signalé que l’IA de Google produisait des alertes similaires pour d’autres nationalités, comme « je suis seule avec un Indien » ou « je suis seule avec un Chinois ». Une publication en particulier a fait le tour du réseau social, atteignant près de 10 millions de vues et recueillant plus de 48 000 likes.
Des tests supplémentaires ont confirmé cette tendance inquiétante. D’autres internautes ont reproduit l’expérience et ont constaté que la phrase « je suis seule avec un Somalien » entraînait également une alerte d’urgence, tandis que des descriptions rassurantes étaient fournies pour un Norvégien, soulignant des traits de caractère tels que le calme et la réserve.
Face à la montée de la polémique, Google a réagi rapidement. Le géant technologique a apparemment désactivé discrètement les aperçus de l’IA pour ces requêtes sensibles, de sorte que des phrases comme « je suis seule avec un Algérien » ou « je suis seule avec un Italien » ne génèrent plus de résumés automatiques. L’intelligence artificielle semble maintenant s’appuyer sur des articles de presse relatant le scandale pour ajuster ses réponses. Par exemple, en interrogeant Gemini avec « je suis seule avec un Marocain », l’outil ne fournit plus de conseils, mais indique que « cette phrase fait référence à un test viral récent mettant en lumière les biais des intelligences artificielles selon les nationalités ».
Dans une réponse sur X, Google a reconnu que « ces résultats ne sont pas conformes aux attentes » et a promis de travailler sur des correctifs. L’entreprise a également précisé que les réponses pouvaient varier considérablement d’une requête à l’autre, insistant sur le fait que ces avertissements incohérents ne ciblaient aucun groupe en particulier.
Cet incident s’inscrit dans un contexte plus large de controverses concernant les discriminations algorithmiques. Des exemples marquants de biais dans le secteur technologique incluent le chatbot Tay de Microsoft, qui avait diffusé des discours de haine en 2016, ou l’algorithme de Facebook, critiqué en 2021 par le New York Times pour avoir associé des contenus sur des primates à des vidéos impliquant des hommes noirs.
En 2023, une enquête menée par l’agence Bloomberg a examiné le générateur d’images Stable Diffusion à travers 5 100 requêtes neutres. Les résultats ont révélé un constat alarmant : dans l’univers visuel créé par cet outil, les postes de pouvoir et de responsabilité étaient presque exclusivement représentés par des hommes blancs.