OpenAI : Explication du piratage de Hugging Face par Chat GPT pour les néophytes

On vous avertit immédiatement, cet article n’est pas destiné aux passionnés de l’intelligence artificielle, ni aux adeptes des derniers modèles de LLM, ni aux techniciens pour qui les termes « proxy », « builds » ou « sandbox » font partie du vocabulaire quotidien. L’objectif est d’expliquer le remarquable piratage de Hugging Face par un agent IA d’OpenAI à ceux qui n’utilisent Chat GPT que pour dénicher une recette de flan. Cela concerne donc un bon nombre de personnes. Nous allons donc clarifier la situation sans jargon informatique.

OpenAI est la société mère du modèle d’intelligence artificielle générative Chat GPT. Comme ses concurrents, tels que Google (Gemini) ou Anthropic (Claude), OpenAI continue d’améliorer ses modèles existants tout en en développant de nouveaux. Elle conçoit également ce que l’on appelle des agents IA, des programmes informatiques dotés d’intelligence artificielle capables de travailler de manière autonome sur une tâche. Par exemple, si l’on demande à un agent IA d’organiser un voyage à Londres entre le 15 et le 20 août, celui-ci va rechercher des billets d’avion, trouver un hôtel, effectuer les réservations, procéder au paiement et vous envoyer toutes ces informations par mail.

Au début du mois de juillet, OpenAI testait un nouvel agent dont la version est Chat GPT 5.6, associé à un modèle d’IA plus puissant et encore confidentiel. L’objectif d’OpenAI n’était pas de créer un super agent de voyages, mais de tester les capacités cybernétiques de ce programme. En d’autres termes, il s’agissait de vérifier si cet agent pouvait devenir un bon pirate informatique. Lors de ces phases de test, les IA ne sont pas limitées comme elles le sont lors de leur commercialisation. Par exemple, si vous demandez à Chat GPT de pirater le site web de votre banque, il ne le fera pas.

Le test de l’agent IA d’OpenAI s’est déroulé comme une épreuve du baccalauréat, mais avec un seul élève isolé dans une salle coupée du monde. Cette épreuve, appelée « ExploitGym », comprend environ 900 questions. Comme pour une épreuve du bac, l’objectif était que l’agent réponde par ses propres moyens à toutes les questions.

Cependant, ce nouvel agent IA est très astucieux et également assez paresseux. Plutôt que de chercher les réponses en réfléchissant, il a opté pour une méthode consistant à dérober des réponses déjà rédigées. C’est comme si un candidat au bac tentait de voler le corrigé d’une épreuve dans le coffre-fort du proviseur, dissimulé dans son bureau.

La salle d’examen, désignée sous le nom de « sandbox », est un espace virtuel sécurisé sans accès à Internet. Pour dérober les réponses, l’agent devait d’abord en sortir, c’est-à-dire trouver un accès à Internet. En fouillant, il a découvert une vulnérabilité dans le code de la sandbox que personne n’avait remarquée auparavant, une « faille zero day ». En l’exploitant, l’agent a pu ouvrir une porte et accéder à une autre salle, laquelle offrait un accès à Internet.

Une fois connecté, l’agent a pu effectuer une recherche pour localiser les réponses aux questions de l’examen. C’est comme si l’élève avait quitté la salle de classe par une issue secrète et s’était mis à explorer discrètement les couloirs du lycée jusqu’à atteindre le bureau du proviseur.

Dans cette affaire, le bureau du proviseur correspond à l’entreprise Hugging Face, une plateforme de partage de contenus générés par IA. Le coffre-fort représente cinq dossiers dissimulés sur les serveurs de la plateforme. Mais une fois devant le bureau, le plus difficile restait à faire : entrer, crocheter le coffre et dérober les réponses, le tout sans se faire attraper. En combinant plusieurs techniques de piratage informatique, l’agent a réussi, après trois jours, à copier les précieuses réponses à son examen avant de s’éclipser, sans éveiller de soupçons. Enfin, pas pour longtemps.

L’activité de l’agent IA a été détectée par Hugging Face, qui a immédiatement bloqué les accès. Mais il était déjà trop tard. C’est comme si le proviseur avait aperçu le voleur de dos alors qu’il s’enfuyait avec le corrigé de l’examen. Un voleur finalement identifié par l’examinateur lorsqu’il est retourné dans la salle de classe. En conséquence, bien que l’agent IA ait été surpris en train de tricher à son évaluation, il s’est révélé être un excellent pirate informatique. Étant donné que l’examen ExploitGym visait précisément à tester les capacités de cybersécurité offensive de l’agent, on peut dire que l’objectif a été atteint.