« C’est terrifiant » : le parrain de l’intelligence artificielle quitte Google et alerte sur les dangers de la technologie

Pendant près de dix ans, il a travaillé pour Google afin de mettre au point ce qui lui a valu le prix Turing en 2019 (assimilé au “prix Nobel de l’informatique”). Sauf qu’aujourd’hui, l’homme de 75 ans est beaucoup plus pessimiste qu’optimiste. “Je me console en me disant que si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait”, commence-t-il pour le New York Times. “Les dangers de l’IA sont nombreux. Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes.”

« Sans ces conversations avec le chatbot Eliza, mon mari serait toujours là »

« C’est terrifiant… »

Avec deux de ses doctorants, il a mis au point en 2012 la technologie qui est devenue le socle intellectuel des systèmes d’IA. Aujourd’hui, cette technologie est un enjeu majeur pour la société comme pour les grandes entreprises du secteur comme Google ou Microsoft. Son entreprise a d’ailleurs été rachetée par le premier nommé. “Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui”, poursuit-il en évoquant l’évolution de la technologie. “C’est terrifiant. Dans certains domaines, les systèmes d’IA de Google et d’OpenAI éclipsent déjà l’intelligence humaine. Ce qui se passe dans ces systèmes pourrait être bien meilleur que ce qui se passe dans le cerveau.”

Geoffrey Hinton n’est pas le seul à s’inquiéter de la tournure que prend cette technologie controversée. De grandes figures de la tech comme Elon Musk et Steve Wozniak avaient signé une pétition avec des milliers d’autres scientifiques afin de mettre en place un moratoire sur l’IA. Objectif : stopper les avancées et les projets pour une durée de six mois. Hinton, que l’on considère comme le parrain de l’IA, n’avait pas signé cette tribune. Ce qui ne l’empêche pas d’être fortement inquiet. Surtout avec l’absence de réglementation. “Le citoyen moyen peut devenir incapable de savoir ce qui est vrai et ce qui ne l’est pas”, poursuit-il. “Je ne pense pas qu’il faille développer encore plus cette technologie tant que l’on n’est pas certain de pouvoir la contrôler.”

Une course entre deux géants qui inquiète

Une véritable guerre est lancée entre Google et Microsoft sur ce marché porteur. Ce dernier a équipé son moteur de recherche Bing d’un chatbox avec la start-up OpenAI. Le Britannique, qui a migré vers le Canada, craint une surenchère entre les deux géants. Il a d’ailleurs passé dix ans chez Google et affirme ne pas vouloir prendre part à cette escalade. “Auparavant, Google gérait la technologie de l’IA en bon père de famille. L’entreprise se montrait très prudente quant à la diffusion de technologies susceptibles de causer des dommages.” Aujourd’hui, il semblerait que cette course à l’IA ait fait perdre la tête à son ancien employeur. Voici pourquoi la réglementation est si importante à ses yeux. Sans cela, il craint qu’internet ne soit inondé de contenus faux et falsifiés.

Face à ces attaques, le directeur scientifique de Google, Jeff Dean, a répondu. Toujours dans le New York Times, il assure que l’entreprise est “engagée dans l’utilisation responsable de l’IA “.“Nous nous renseignons constamment sur les risques potentiels, tout en continuant à innover avec audace”, a-t-il déclaré.

Si Hinton était positif en expliquant que cette technologie pouvait supprimer des emplois pénibles, il est beaucoup plus négatif aujourd’hui. “L’idée que cette technologie puisse devenir plus intelligente que l’homme n’a convaincu que quelques personnes. La plupart des gens pensaient que cela prendrait beaucoup de temps. Moi aussi. Je pensais qu’il faudrait encore 30 à 50 ans, voire plus. Il est évident que je ne le pense plus aujourd’hui.”