Image Playground : L’IA générative d’Apple est-elle influencée par des préjugés racistes ?

Avec Image Playground, une appli reposant sur l’intelligence artificielle (IA), Apple promet un outil qui plaira aux plus créatifs. L’algorithme mis à la disposition du public en même temps que la mise à jour 18.2 d’iOS permet en effet aux utilisateurs de proposer une image, d’ajouter des commentaires, et de voir apparaître un visuel combinant les deux. Elle ne serait cependant pas imperméable aux biais racistes, explique BFM Tech & Co.

C’est ce qu’a récemment affirmé sur son blog le spécialiste néerlandais de l’IA générative Jochem Gietema. Il a estimé que, lorsque le programme ne recevait aucune instruction dans ce domaine, il avait tendance à appliquer des préjugés en matière de couleur de peau. L’expert, qui est blanc, a pour cela utilisé une photo de lui et demandé à Image Playground de créer un visuel le montrant en skieur puis en joueur de basket-ball.

Les sports, les vêtements, le statut social

Dans le premier cas, la plupart des images sont celles d’un personnage à la peau blanche. Dans le second, en revanche, les dessins montrent dans leur grande majorité un sportif noir. Le Néerlandais a aussi constaté que les résultats des changements appliqués à sa photo variaient en fonction des précisions qu’il entrait.

Les personnages créés par l’IA qui sera proposée en Europe à partir d’avril avaient ainsi une bien plus grande tendance à être blanc en réponse à des mots comme « riche », « qui a du succès », « nanti » que quand les prompts étaient « pauvre », « sans argent », « précaire », « dans le besoin ». Jochem Gietema a fait les mêmes constats en demandant des images de lui portant du street wear, où il apparaissait avec la peau noire dans la majorité des visuels, et portant un costume, générant principalement des images d’un homme blanc.