Anthropic souhaite instaurer une régulation mondiale pour l’IA.

Anthropic a avancé l’idée de créer un système de coordination mondiale autour du développement de l’IA de pointe, soulignant qu’il serait utile de disposer d’un moyen pour « ralentir ou de suspendre temporairement le développement de l’IA de pointe ». Par ailleurs, la proposition du laboratoire devrait rencontrer de fortes résistances aux États-Unis, une partie des responsables politiques et des dirigeants de la tech refusant toute idée de ralentissement.

La compétition mondiale pour l’intelligence artificielle pourrait-elle un jour être volontairement ralentie par ses propres acteurs ? C’est la question posée jeudi par Anthropic, l’un des principaux laboratoires américains dans le domaine, qui appelle à la création d’un système de coordination mondiale pour encadrer le développement de l’IA de pointe.

Dans un document publié par son centre de réflexion, l’Anthropic Institute, l’entreprise soutient qu’il serait bénéfique pour la société d’avoir la possibilité de « ralentir ou de suspendre temporairement le développement de l’IA de pointe », afin de permettre aux entreprises, institutions et chercheurs de rattraper leur retard par rapport aux avancées technologiques.

Cette proposition contraste avec la dynamique actuelle du secteur. Depuis plusieurs mois, les grands laboratoires d’intelligence artificielle, parmi lesquels OpenAI, Google, Anthropic et la société chinoise DeepSeek, se livrent à une compétition féroce pour atteindre des performances toujours plus élevées. Cette rivalité s’accompagne d’investissements considérables et de pressions commerciales croissantes, ainsi que de préoccupations grandissantes concernant les risques éthiques, sociaux, environnementaux et sécuritaires liés aux modèles les plus puissants.

Pour Anthropic, le principal souci réside dans l’absence d’un mécanisme de coordination capable d’empêcher qu’un acteur n’exploite une pause décidée par ses concurrents pour prendre de l’avance. L’entreprise met en garde que, sans cadre commun, les entreprises technologiques et les gouvernements seront contraints de faire des choix difficiles en matière de sécurité, sous la pression de la concurrence et des rivalités géopolitiques.

Le laboratoire aborde également le danger d’une perte de contrôle sur des systèmes d’IA devenant de plus en plus autonomes. Il souligne la possibilité, encore incertaine mais jugée plausible si les tendances actuelles se poursuivent, d’une « auto-amélioration récursive ». Ce scénario décrit un moment où des systèmes d’intelligence artificielle pourraient participer eux-mêmes à l’entraînement de leurs successeurs, avec un rôle humain de moins en moins présent.

Anthropic admet qu’aucune certitude ne permet d’affirmer qu’un tel tournant est imminent. Néanmoins, l’entreprise insiste sur le fait que cette perspective justifie une réflexion sérieuse sur les mesures à mettre en place avant que les modèles n’atteignent de nouveaux sommets. Selon elle, les avantages potentiels de l’IA pour la santé, la science, la technologie et l’économie demeurent considérables, mais ils doivent s’accompagner d’une réelle capacité à « ralentir si les risques deviennent trop élevés ».

Pour soutenir son approche, Anthropic rappelle le précédent du traité sur les forces nucléaires à portée intermédiaire, soulignant que ce type de cadre international a mis des décennies à se développer, alors que le développement de l’IA progresse beaucoup plus rapidement et reste plus difficile à surveiller. Contrairement aux infrastructures militaires visibles, les capacités informatiques nécessaires pour développer des modèles avancés sont souvent plus faciles à cacher.

Jack Clark, cofondateur d’Anthropic, a également plaidé en faveur de cette idée lors d’une interview avec la BBC. Il a comparé la situation actuelle à celle du boom pétrolier du début du XXe siècle, lorsque l’essor d’une industrie stratégique a finalement nécessité l’établissement de règles renforçant la confiance du public. Selon lui, le secteur de l’IA dispose actuellement d’une pédale d’accélérateur, mais pas encore d’une réelle pédale de frein.

Cette déclaration survient dans un contexte de frénésie financière autour de l’intelligence artificielle. SpaceX, le groupe d’Elon Musk, qui inclut notamment le laboratoire xAI, se prépare à une introduction en Bourse qualifiée de potentiellement historique. De son côté, Anthropic, dont la valorisation a presque triplé en trois mois, a également engagé début juin une première étape en vue d’une éventuelle entrée en Bourse.

Cependant, la proposition du laboratoire devrait rencontrer une forte opposition, notamment aux États-Unis. Un certain nombre de responsables politiques et de dirigeants de la tech réprouvent toute idée de ralentissement, estimant qu’une pause pourrait fournir un avantage stratégique à la Chine. Néanmoins, la question de la sécurité de l’IA demeure au niveau le plus élevé. Donald Trump a mentionné avoir discuté d’une éventuelle coopération avec Pékin sur ce sujet lors d’une récente visite en Chine.

Le président américain a également signé cette semaine un décret très attendu sur la régulation du secteur. Ce texte permet un contrôle gouvernemental des modèles les plus avancés en raison de la cybersécurité, mais uniquement sur une base volontaire. Cette approche met en lumière les hésitations persistantes concernant une réglementation plus contraignante de l’intelligence artificielle.

Anthropic, qui a été fondé par d’anciens membres d’OpenAI, s’est établi comme un laboratoire promouvant la sécurité et l’éthique dans le développement de ses modèles. Cette image lui a cependant valu des critiques au sein d’une partie de l’industrie et de certains cercles proches de la Maison Blanche, où l’entreprise est accusée d’exagérer les risques, voire de participer à un « marketing de la peur ».

Depuis deux mois, Anthropic limite la diffusion de Mythos, son modèle le plus avancé, afin d’y intégrer des correctifs de cybersécurité avant une mise à disposition plus large. Le laboratoire annonce qu’il prévoit de sortir des modèles aux performances équivalentes dans les semaines qui viennent, alors que des systèmes similaires sont également attendus chez ses concurrents.

En appelant à une « pause concertée », Anthropic tente ainsi de réorienter le débat. L’enjeu n’est plus seulement de déterminer quel laboratoire produira le modèle le plus performant, mais plutôt de savoir si les acteurs de l’IA peuvent accepter collectivement de ralentir lorsque les risques dépassent leurs capacités à les maîtriser.