L’Unesco adopte un premier texte mondial encadrant l’intelligence artificielle

L’Unesco a annoncé jeudi avoir adopté un premier texte mondial sur l’éthique de l’intelligence artificielle (IA) afin d’essayer d’encadrer ces technologies révolutionnaires, qui font peser des risques fondamentaux sur les sociétés en dépit des nombreuses avancées qu’elles permettent.

« Les technologies de l’IA peuvent rendre de grands services à l’humanité » et « tous les pays peuvent en bénéficier », mais « elles soulèvent également des préoccupations éthiques de fond », souligne dès son préambule la recommandation de 28 pages, ratifiée par les 193 Etats membres de l’Unesco.

« Assurer la transparence et l’intelligibilité du fonctionnement des algorithmes »

Il y a « nécessité d’assurer la transparence et l’intelligibilité du fonctionnement des algorithmes et des données à partir desquelles ils ont été entraînés », car ils peuvent influer sur « les droits de l’Homme et les libertés fondamentales, l’égalité des genres, la démocratie », assure encore cette organisation internationale basée à Paris.

Presque absente au début du millénaire, l’IA s’est progressivement greffée à nos vies : elle décide quelles actualités nous lirons sur nos smartphones, quels films nous seront proposés en streaming, ou encore quels trajets les systèmes de guidage nous feront suivre.

Les algorithmes détournés à mauvais escient

Mais les algorithmes qui lui permettent de fonctionner ont aussi été détournés à mauvais escient ces dernières années, illustrant ses dangers.

Facebook a été au centre de plusieurs scandales. Le cabinet britannique Cambridge Analytica a été accusé d’avoir détourné les données du géant américain pour peser politiquement sur le référendum ayant amené au Brexit au Royaume Uni, et sur l’élection de Donald Trump aux Etats-Unis. Plus récemment, Facebook a été accusé de polariser les sociétés en surexposant des contenus extrémistes ou conspirationnistes.

Un outil législatif pour encadrer et surveiller les IA

​Fruit d’un travail ayant démarré en 2018, la recommandation de l’Unesco met en avant des valeurs – « Respect, protection et promotion des droits de l’Homme », « diversité et inclusion », promotion de « sociétés pacifiques » et de l’environnement – que les Etats membres s’engagent à respecter. Elle liste également des actions que les signataires devront réaliser, notamment la mise en place d’un outil législatif pour encadrer et surveiller les IA, « assurer une sécurité totale pour les données personnelles et sensibles » ou encore éduquer les masses à leur sujet.

La Russie, la Chine ou encore l’Iran, des Etats régulièrement accusés d’entraves aux droits de l’Homme, sont signataires d’un texte qui, reconnaît l’Unesco, est un « dispositif incitatif » sans possibilité de sanctions. Les Etats-Unis et Israël, très actifs dans les nouvelles technologies, ne font pas partie de l’Unesco.