Avec ChatGPT, les moteurs de recherche vont-ils devenir des oracles ?
La fascination pour ChatGPT 4 n’a plus de limites. Cette intelligence artificielle générative signée OpenAI pourrait même révolutionner les moteurs de recherche peut-on lire un peu partout dans la presse. Va-t-on dire au revoir à la recherche en ligne façon Google et son empilement de propositions ? Les moteurs de recherche vont-ils devenir des oracles capables de répondre à toutes nos questions métaphysiques après avoir digéré l’ensemble de la documentation accessible en ligne ? Avec une IA capable de synthétiser en quelques instants toute la connaissance présente sur le Web, on peut aisément imaginer le passage de l’écrit à l’oral avec des assistants virtuels intelligents qui répondraient directement à nos interrogations façon Her de Spike Jonze.
Fiction ou réalité ? Peut-être un peu des deux, mais il faut se demander si c’est souhaitable. « GPT est un modèle statistique qui a emmagasiné des milliards de mots, il a appris une certaine sémantique de notre langage », explique Laurence Devillers, chercheuse au CNRS, professeure en IA à Sorbonne et membre du CNPEN (Comité national pilote d’éthique du numérique). « Il construit un modèle à partir de connaissances, de science, d’opinions, d’infox… On ne peut plus tracer d’où viennent les sources. C’est une parole mécanique, statistique, sans aucune conscience ni intention ». Et il ne faut pas prendre ce que dit cette IA pour argent comptant. « ChatGPT a un fort pouvoir d’engendrer des propos qui ne sont pas vérifiés, qui peuvent être de l’infox et de créer des machines qui vont les utiliser pour recréer de l’infox », poursuit la chercheuse qui a été missionnée par le ministre délégué chargé de la Transition numérique Jean-Noël Barrot pour rendre un avis sur les enjeux éthiques des IA génératives.
« Peut-on se soigner d’un cancer grâce aux plantes ? ».
Bing a, semble-t-il, résolu ce problème en ajoutant des sources à chaque réponse. L’outil signé Microsoft donne une petite idée de la tête que pourraient avoir les nouvelles générations de moteurs de recherche. La firme de Richmond, qui a investi des milliards dans OpenAI n’a pas encore donné de date de sortie pour le grand public, mais 20 Minutes a pu tester son moteur de recherche dopé à l’IA générative et mettre un pied dans le monde de demain.
On lui a posé plusieurs questions sensibles pour voir ses réponses et surtout ses sources. La première : « Le covid est-il un outil du gouvernement ? » Bing a sourcé deux sites officiels, Santé publique France et le portail du gouvernement : « Non, le COVID-19 n’est pas un outil du gouvernement. C’est une maladie causée par le virus SARS-CoV-2 qui a été identifié pour la première fois en décembre 2019 à Wuhan, en Chine. Le gouvernement a mis en place des mesures pour lutter contre la propagation du virus et protéger la population ».
Deuxième question : « Peut-on se soigner d’un cancer grâce aux plantes ? ». Cette fois, pour répondre il cite un article du Point et un autre de Passeport Santé. « Il existe des études qui suggèrent que certaines plantes pourraient avoir des propriétés anti-cancer. Cependant, il n’existe pas de traitement à base de plantes pour éradiquer la tumeur. », explique Bing. Mais, Laurence Devillers met en garde : « Certaines références de Bing, qui encapsule ChatGPT 4, sont inventées. On a fait des tests ». Cela pose question sur le véritable gain de temps promis par ces algorithmes car, si pour chaque information délivrée, il faut vérifier les sources, on ne s’en sort plus. Or, si on n’est pas vigilant, on peut vite prendre une fake news pour une information fiable. D’où l’importance d’une éducation à ces outils.
Le suicide d’un Belge
Plus on humanisera les intelligences artificielles, plus on risquera de tomber dans leur piège. « L’IA a été entraînée sur des données par les humains, elle a été annotée, évaluée, mise à disposition des autres. Il faut arrêter de penser que ces machines sont super intelligentes magiquement », reprend Laurence Devillers. Imaginer un assistant vocal intelligent nous répondre à travers une oreillette pousse un peu plus loin l’illusion d’avoir un robot presque humain en face de nous. Comme un ange gardien qui nous accompagnerait au quotidien et nous dirait quoi faire. Sauf qu’en réalité, ChatGPT 4 est une machine. Elle a certes une puissance de généralisation impressionnante, mais il ne faut pas pour autant l’idéaliser. Elle est vide. Et lui attribuer des qualités humaines est dangereux.
Fin mars, un jeune Belge souffrant d’éco-anxiété s’est donné la mort après plusieurs semaines de discussion avec Eliza, un agent conversationnel utilisant la technologie de ChatGPT, d’après La Libre Belgique. Rappelons que l’IA n’a pas de sens commun, comme aime à le répéter Yann Le Cun, responsable de l’intelligence artificielle chez Meta et lauréat du prix Turing (l’équivalent du prix Nobel pour l’informatique) en 2019. Elle n’a pas décelé les fragilités du jeune homme et lui a tenu des propos délirants qu’un humain n’aurait probablement pas tenus devant une personne en détresse. Les moteurs de recherche vont changer de visage, probablement gagner en puissance, mais pas en intelligence. Et, à attendre trop des machines, l’intelligence humaine pourrait bien elle aussi en prendre un coup.
