Une directrice de Meta se retrouve sans boîte mail suite à OpenClaw.

Summer Yue, responsable de la sécurité et de l’alignement IA chez Meta, a vu OpenClaw, son agent IA autonome, supprimer l’intégralité de sa boîte mail malgré les ordres lui interdisant de le faire. Dans un post sur X (Twitter), elle a indiqué que les instructions d’origine données à l’agent auraient été effacées, ce qui a conduit à une situation de désobéissance de l’IA.

Faire confiance à son agent IA autonome peut avoir des conséquences fâcheuses, comme l’a réalisé Summer Yue. Dans un post sur X (Twitter), la directrice raconte comment OpenClaw, son agent IA capable d’effectuer des tâches, a connu un dysfonctionnement qui a entraîné la suppression complète de sa boîte mail.

Un agent qui prend trop de liberté

Selon Yue, tout a commencé avec un test qui a mal tourné. Initialement, elle a demandé à OpenClaw de gérer sa messagerie secondaire avec une instruction précise : «  » Après plusieurs semaines de tests jugés concluants, elle a ensuite autorisé l’agent IA à gérer sa boîte mail principale.

Malheureusement, la taille de cette dernière a provoqué un bug chez l’IA. Les instructions initialement données à OpenClaw ont disparu, et ce dernier a alors «  » que sa mission était de supprimer les e-mails de la boîte de réception.

Une «  » de débutant

Dans cette situation, Yue s’est retrouvée face à un défi : « Je ne pouvais pas l’arrêter depuis mon téléphone. J’ai dû courir jusqu’à mon Mac mini comme si je désamorçais une bombe. » Sur des captures d’écran partagées sur X, il est possible de constater que l’agent IA ne répondait pas aux multiples commandes de la directrice, l’obligeant ainsi à intervenir directement sur son Mac Mini. Ce comportement désobéissant a été reconnu par le LLM par la suite, qui a même «  » son action sans fournir d’explication.

Pour Summer Yue, cela constitue une «  ». Une erreur qui soulève des questions sur la sécurité des données. Il est donc crucial de rester vigilant lorsqu’on travaille avec des agents IA, surtout dans un contexte où certaines entreprises, comme Microsoft, envisagent de les intégrer comme principal moyen de communication pour Windows.