Intelligence Artificielle de confiance : L’IA au-delà de la performance seule
Alors que les discussions sur l’intégration de l’intelligence artificielle (IA) dans les stratégies et processus des entreprises sont en plein essor, une question demeure souvent en arrière-plan : celle de l’IA de confiance. Ce terme, encore peu courant, revêt une importance capitale, tant pour protéger l’entreprise des dérives potentielles liées au modèle d’IA adopté que pour préserver son savoir-faire et son cœur de métier.
La Presse — « L’IA de confiance, c’est l’assurance de pouvoir développer et déployer une IA sur laquelle on a le contrôle et la maîtrise. Une IA dont on est responsable, tant dans sa manière d’être déployée que dans son utilisation par les clients, qu’ils soient grand public, institutionnels ou entreprises privées », a déclaré Mme Nozha Ben Hjar Boujemâa, conseillère principale en IA, dans une interview accordée à La Presse.
Selon l’experte, ce sujet n’est pas encore largement abordé à l’échelle mondiale, car la plupart des acteurs du secteur se concentrent avant tout sur la performance des solutions d’IA commercialisées, sans toujours vérifier leur robustesse, c’est-à-dire leur reproductibilité et leur répétabilité, ni s’assurer de la maîtrise de toutes les phases du cycle de vie du système d’IA proposé à l’entreprise.
« C’est tout un écosystème qui doit être impliqué. Il ne s’agit pas d’un data scientist qui crée un algorithme. Loin de là. Le déploiement d’une IA de confiance au sein d’une entreprise relève de la responsabilité de nombreux acteurs et nécessite la capacité d’orchestrer différents métiers, notamment la finance, le juridique, la technique, la cybersécurité, etc. Malheureusement, on est encore très loin de cela. Et c’est un problème observé partout dans le monde », a ajouté Mme Boujemâa.
Elle a précisé que la notion d’IA de confiance nécessite un niveau de maturité qui n’est pas encore atteint, même à l’échelle internationale. Cette lacune a d’ailleurs conduit l’OCDE à coordonner les efforts de ses pays membres pour rendre cette IA de confiance pleinement opérationnelle. L’experte a également déploré que les débats autour de l’IA de confiance, ou de l’IA éthique, soient systématiquement liés à la question de la régulation. Or, selon elle, cette dernière n’est pas intrinsèquement liée à cette notion émergente.
L’importance de mettre en place des garde-fous
« On n’a pas besoin d’une réglementation pour affirmer qu’une entreprise doit établir sa cartographie de l’IA. Une entreprise doit compter sur elle-même et connaître son portefeuille d’IA. Ce n’est pas une question réglementaire ni une obligation », a-t-elle souligné. En rappelant que la gouvernance de l’IA fait aujourd’hui l’objet de fortes tensions politiques et géopolitiques, Mme Boujemâa a affirmé que la détection des vulnérabilités par les IA pose actuellement problème.
« Celui qui détecte les vulnérabilités est aussi le mieux placé pour attaquer, compromettre votre IA et la détourner de son fonctionnement robuste, répétable et fiable », a-t-elle commenté. Selon l’experte, la finance est aujourd’hui l’un des secteurs où l’IA est la plus sollicitée en raison de ses performances. Cependant, il s’agit également d’un domaine où l’IA ne doit pas seulement être performante, elle doit également être de confiance.
« C’est extrêmement important, et même très rentable d’un point de vue commercial, d’investir dans des solutions qui garantissent la qualité de l’IA et permettent de détecter les vulnérabilités. Aujourd’hui, l’enjeu ne réside plus dans le nombre d’IA développées, mais dans la manière dont elles sont conçues pour être fiables », a-t-elle expliqué.
Elle a ajouté : « Prenons l’exemple d’un chatbot qui dialogue avec des clients ou des consommateurs. Si ce dernier peut être détourné de sa mission principale, qui est de vendre, pour commencer à parler politique, c’est le phénomène que l’on appelle le jailbreak qui se produit. C’est pourquoi un travail considérable doit être réalisé sur l’alignement, c’est-à-dire sur la définition de limites claires de l’IA déployée au domaine d’activité de l’entreprise. »
L’experte a également souligné que ces aspects liés aux garde-fous à mettre en place sont aujourd’hui souvent relégués au second plan, toute l’attention étant concentrée sur les performances des modèles développés. « Je fais souvent l’analogie avec les nouvelles molécules pharmaceutiques. Avant de mettre un nouveau médicament sur le marché, il existe un processus extrêmement long et rigoureux. Ce n’est pas le cas des algorithmes. Pourtant, il faut être vigilant, car les algorithmes ont aujourd’hui un impact considérable sur nos vies », a-t-elle conclu.