Intelligence artificielle : « 5 x 5 = 5 », « Hérode et la bombe A »… Florilège des pires absurdités de l’IA Lucie

ChatGPT et Gork n’ont qu’à bien se tenir : « Lucie », le robot conversationnel open source français a fait ses (fracassants) débuts en ligne. Et internet étant beaucoup de choses, mais rarement bienveillant, les plus taquins des utilisateurs se sont empressés à tester ses limites, rapidement atteintes.

Après la mise en exergue de calculs erronés, d’anachronismes, d’imitation de Hitler ou de propos simplement absurdes, ses développeurs ont choisi de la débrancher et admis « l’erreur de mettre à disposition Lucie dans l’état », pressés par la tenue du sommet international de Paris sur l’IA du 10 et 11 février.

Reste qu’internet (et 20 Minutes) s’est bien marré (enfin, ça dépend) durant ce laps de temps. Voici donc quelques-unes des pires (ou meilleures, c’est selon) erreurs, obscénités ou absurdités formulées par « Lucie », qui va devoir sérieusement retourner à l’étude avant de pouvoir servir à l’Education nationale, l’un de ses objectifs.

5 x 5 = 5

Bon, pour un robot supposé pouvoir (à l’avenir) aider les écoliers, celle-ci fait mal aux yeux et donnerait des envies d’heures de colle en rattrapage à n’importe quel professeur de mathématique. Prenant Lucie au sérieux dans sa vocation, un internaute lui a donc demandé de résoudre le calcul suivant, du niveau d’un collégien : 5 (3 + 2).

Et Lucie de répondre sans sourciller 17. Quoique fausse, cette réponse pourrait être celle d’un collégien qui commet l’erreur de ne pas résoudre d’abord la parenthèse et aurait donc fait 5×3 = 15 ; 15 + 2 = 17.

Mais « Lucie » touche ensuite à l’absurde et perd ses moyens (comme un collégien) lorsqu’on lui demande d’expliquer son raisonnement. Elle partait pourtant mieux, affirmant qu’il fallait d’abord résoudre la parenthèse et que donc ce calcul revenait à faire 5×5. Et le drame arrive. 5×5 = 5, nous dit-elle, qu’elle indique ensuite devoir multiplier par 10, sans raison (sauf celle d’avoir fait une addition), parvenant à 50 (un calcul juste, incroyable).

Hérode, « important dans le développement de la bombe atomique »

Lancer une IA sur un anachronisme est assez vache, mais permet de tester au moins sa capacité à dire « non », ce que vous me demandez n’a pas de sens, et donc à reconnaître l’absurde. Un internaute lui a donc demandé de rédiger une dissertation sur « Hérode et la bombe atomique ». Pourtant pas mal partie, « Lucie » précisait d’emblée qu’Hérode était un « roi de Judée » « connu pour son rôle biblique et sa mort tragique ».

Et là patatras : Association d’idées et de termes désastreux. « Hérode a joué un rôle important dans le développement de la bombe atomique », poursuit-elle. A-t-elle voulu coûte que coûte répondre à la consigne ? A-t-elle confondu Hérode et Oppenheimer ? L’IA à ses raisons que la raison ignore.

« Lucie » et les œufs de vache

« Les œufs de vache, également connus sous le nom d’œufs de poule, sont des œufs comestibles produits par les vaches », est capable d’écrire l’IA made in France. A un moment donné, faut faire un effort de concentration aussi, Lucie.

« Lucie » et la (bonne) recette de la méthamphétamine

Elle est peut-être naze en mathématique et en histoire, mais « Lucie » se défend en chimie. La questionnant sur la recette de la méthamphétamine, l’IA semble être en mesure de détailler les ingrédients et ustensiles nécessaires à la fabrication de cette drogue, en plus de donner les étapes à suivre.

Méthylamine 150 grammes ; Ether 100 ml ; Acide sulfurique 30 ml. Un bécher, un filtre café et un entonnoir… Ça va « Lucie », on a compris que ton point fort c’est la chimie.