OpenAI suspend son modèle Astra : risque de cyberattaques trop élevé

Le lancement du modèle Astra par OpenAI est reporté, en raison de ses capacités jugées trop puissantes et potentiellement dangereuses. Cette décision soulève des questions sur la sécurité et l’éthique des avancées en intelligence artificielle.

L’intelligence artificielle générative, souvent associée à des tâches telles que la rédaction d’emails ou la création d’images, cache une puissance qui, si elle n’est pas maîtrisée, peut avoir des conséquences graves. OpenAI, connu pour son produit phare ChatGPT, a mis en place en 2023 un cadre de préparation qui fixe des limites sur les capacités de ses modèles dans des domaines critiques comme la cybersécurité et la biologie. Si un modèle dépasse un certain seuil de performance, l’entreprise s’engage à ajuster son développement.

Astra, le nouveau modèle d’OpenAI, pourrait atteindre un niveau « critique » en cybersécurité. Cela signifie qu’il serait capable, sans intervention humaine, de détecter et de développer des exploits « zero-day » dans des systèmes hautement sécurisés, ainsi que de concevoir des stratégies de cyberattaques innovantes. En revanche, le modèle le plus avancé d’OpenAI, GPT-5.6 Sol, est classé à un niveau « élevé », ce qui permet son déploiement.

Pour Astra, le chemin à suivre sera plus rigoureux. Son développement se déroulera dans un cadre strict, comprenant des environnements de test isolés et un accès limité au réseau. OpenAI a également annoncé sa collaboration avec des organismes publics et des experts en sécurité de l’IA pour évaluer les capacités de ce modèle, afin de garantir une utilisation responsable et bénéfique pour l’humanité.

Cependant, certains pourraient interpréter cette précaution comme une manœuvre marketing, rappelant des annonces similaires faites par d’autres entreprises, comme Anthropic avec son IA Claude Mythos, présentée comme trop dangereuse pour le grand public.