Benoit Frénay juge peu vraisemblable une menace de l’IA pour l’humanité
Le professeur d’intelligence artificielle Benoit Frénay, de l’UNamur, estime peu crédible l’idée d’une menace existentielle de l’IA pour l’humanité. Dans l’entretien source, il distingue clairement les scénarios catastrophes souvent évoqués dans le débat public des risques plus concrets, liés à des usages précis et à des systèmes critiques.
Une menace globale jugée peu vraisemblable
Face aux alertes lancées par certains chercheurs et dirigeants de la tech, Benoit Frénay prend ses distances. Selon lui, l’hypothèse d’une IA capable de provoquer la disparition de l’humanité n’est pas un scénario réaliste à ce stade. Il reconnaît en revanche que certains déploiements peuvent être dangereux lorsque des agents artificiels sont intégrés à des environnements sensibles, comme l’aviation ou d’autres systèmes critiques. Dans ces cas, le risque n’est pas planétaire, mais localisé et potentiellement grave.
Le chercheur insiste aussi sur le fait que le débat est souvent présenté de manière excessive. À ses yeux, certaines prises de parole alarmistes relèvent davantage d’une stratégie de communication que d’une évaluation scientifique du danger. Il évoque notamment l’idée d’un discours destiné à justifier des investissements massifs et des choix industriels contestables.
Des alertes liées aux intérêts des entreprises
Dans la source, Benoit Frénay relie ces messages d’alerte au contexte des grandes entreprises de l’IA, dont Anthropic et OpenAI, qui préparent leur entrée en bourse. Il suggère que l’insistance sur des risques extrêmes peut aussi servir à mettre en avant la puissance de ces technologies et à convaincre les autres secteurs d’investir rapidement, sous peine d’être dépassés.
Le chercheur critique également le fait que ces entreprises alertent sur les dangers tout en freinant, selon lui, les tentatives de régulation publique. Il défend au contraire une logique de contrôle préalable, comparable à celle appliquée à d’autres produits sensibles : tester avant de diffuser largement. Il cite l’exemple de ChatGPT, lancé en 2022 selon lui sans connaissance suffisante des risques ni des usages possibles.
Des limites techniques, financières et réglementaires
Benoit Frénay estime aussi que la progression de l’IA pourrait ralentir pour des raisons très concrètes. Il évoque une limite dans les données disponibles pour l’entraînement des modèles, ainsi que des contraintes financières et matérielles, notamment liées à certaines ressources comme les terres rares. À ses yeux, il n’est pas certain que la course à des modèles toujours plus puissants puisse se poursuivre indéfiniment.
Il plaide enfin pour une régulation à plusieurs niveaux : lois nationales et internationales, règles internes dans les entreprises ou les hôpitaux, et garde-fous intégrés dès la conception des outils. Il cite aussi des usages positifs, comme l’aide à l’apprentissage ou le soutien à des communautés sourdes et malentendantes, ainsi que la possibilité de rendre les systèmes moins énergivores.
Ce qu’il faut retenir
- Benoit Frénay juge peu crédible l’idée d’une IA menaçant l’humanité, mais reconnaît des risques dans des systèmes critiques.
- Il soupçonne certains discours alarmistes de servir aussi les intérêts des grandes entreprises de la tech, dans un contexte d’investissements massifs et de régulation contestée.
- Le chercheur défend des tests, des règles et des garde-fous avant diffusion, tout en estimant que des limites de données, de coûts et de ressources pourraient freiner la progression de l’IA.
Source : consulter l’article d’origine.
Cette synthèse a été produite automatiquement à partir de la source citée.