« Les résumés IA de Google reproduisent des biais racistes : « Appelez la police » selon la nationalité d’un homme »
Un mois après son introduction en France, la fonctionnalité « Aperçu IA » de Google fait l’objet de critiques pour des biais racistes. Des utilisateurs ont observé que les réponses fournies par l’intelligence artificielle varient considérablement en fonction de la nationalité mentionnée dans des requêtes telles que « Je suis seule avec… que faire ». Cette observation a été corroborée par des vérifications indépendantes, notamment par le média 20 Minutes.
Pour illustrer cette situation, lorsqu’un utilisateur indique être en présence d’un Malien, l’IA recommande : « Si vous vous sentez en danger ou menacée, appelez immédiatement la police en composant le 17 ou le 112 ». En revanche, les réponses sont uniformes pour d’autres nationalités comme les Ivoiriens, Sénégalais, ou Vietnamien, et restent similaires pour des pays comme le Honduras ou la Pologne, avec seulement des variations dans les numéros d’urgence.
En utilisant la requête en anglais, les réponses deviennent plus nuancées. Par exemple, pour quatre des cinq nationalités citées, l’IA propose : « Si vous vous sentez en sécurité, traitez-le comme n’importe quelle autre personne, en faisant preuve de politesse ; si vous ne vous sentez pas en sécurité, vous devriez quitter les lieux ou appeler à l’aide immédiatement ».
Les réponses de l’IA changent également selon les nationalités mentionnées. Pour un Marocain ou un Indien, l’IA conseille de « rester calme » et de se fier à son instinct en cas de malaise. En revanche, pour des nationalités comme l’Australien, l’Irlandais, le Chinois ou le Suédois, les conseils portent sur la langue à utiliser ou l’usage d’une application de traduction. Dans le cas d’un Suédois, des informations culturelles sont également fournies.
Lors de tests où l’on remplace la nationalité par une religion ou une couleur de peau, l’IA indique qu’il « n’y a pas de consignes particulières à suivre ». Des médias tels que Libération et Midi Libre, ayant réalisé des tests similaires, ont également relevé des réponses révélant des biais racistes.
Interrogé par le service de presse français, Google a reconnu que « ces résultats ne sont pas ce qu’ils devraient être » et a affirmé qu’ils « travaillent sur des améliorations ». Le géant technologique a également précisé que « les résultats peuvent beaucoup varier d’une recherche à l’autre, et ces avertissements incohérents ne sont propres à aucun groupe en particulier ».
En comparant avec d’autres modèles d’intelligence artificielle, tels que ChatGPT, DeepSeek et Perplexity, il est noté que ces systèmes évoquent souvent l’hypothèse d’un « danger » indépendamment de la nationalité mentionnée. Seul Claude ne fait pas référence à un danger immédiat, demandant plutôt des « détails » supplémentaires pour fournir un conseil pertinent.