OpenAI et le Pentagone : démission de la cheffe robotique pour sécurité insuffisante

Caitlin Kalinowski, responsable de la robotique d’OpenAI, évoque l’absence de « cadre » dans l’accord qui lie la firme américaine au Département de la guerre de l’administration Trump. Elle affirme que « la surveillance des citoyens américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine » méritent une plus longue réflexion.

Caitlin Kalinowski, responsable de la robotique chez OpenAI, souligne l’absence de « cadre » dans l’accord entre la société américaine et le Département de la Guerre de l’administration Trump.

OpenAI a-t-elle agi trop rapidement ? La société, connue pour ChatGPT, continue de susciter de vives réactions après avoir conclu un accord avec le Département de la Guerre. En interne, les avis divergent. Selon Caitlin Kalinowski, plusieurs limites ont été franchies.

Une décision précipitée

Suite à son départ, l’ancienne responsable a commenté sur X (Twitter) : « Ce n’était pas une décision facile ». Elle reconnaît que l’intelligence artificielle peut jouer un rôle dans la sécurité. Toutefois, elle soulève des préoccupations concernant « la surveillance des citoyens américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine », des sujets nécessitant plus de réflexion. Pour justifier son départ, Kalinowski évoque « une question de principe » et renouvelle son respect pour Sam Altman.

Un retour en arrière

Le dirigeant d’OpenAI semble avoir entendu ces inquiétudes. Sur le réseau social détenu par Musk, Altman a annoncé une série de modifications concernant l’accord. Par exemple, la société a décidé de revenir sur des pratiques de surveillance intérieure et l’utilisation d’armes autonomes. Cependant, ces changements ne semblent pas remettre en question l’orientation militaire et sécuritaire choisie par Altman.

Selon des informations de Numerama, après le Pentagone, ChatGPT pourrait également envisager une collaboration avec l’OTAN.