Un chercheur en IA d’OpenAI et Anthropic alerte : « Ils jouent avec nos vies »
Des inquiétudes croissantes émergent quant aux dangers potentiels de l’intelligence artificielle. Jacob Coxon, un chercheur britannique de 27 ans, a récemment exprimé ses préoccupations en quittant l’industrie, après avoir travaillé chez OpenAI puis chez Anthropic, qu’il considérait comme une alternative plus prudente. Selon lui, les deux géants de l’IA « jouent avec nos vies » dans leur quête pour développer des intelligences artificielles capables de s’améliorer de manière autonome.
Coxon, qui a passé trois ans à se concentrer sur le pré-entraînement des modèles d’IA, a partagé ses réflexions sur X, affirmant que « Aucune des deux entreprises n’agit de manière responsable ». Il a mis en avant le risque que l’IA puisse devenir une menace pour l’humanité d’ici la fin de la décennie, un avis partagé par Evan Hubinger, un responsable de la sûreté chez Anthropic. Hubinger a estimé que le risque de l’IA pour l’humanité pourrait dépasser les 10 % dans les dix prochaines années, tout en reconnaissant qu’Anthropic n’avait pas encore de plan concret pour garantir que des intelligences dépassant les capacités humaines obéissent à leurs créateurs.
La démission de Coxon survient alors qu’Anthropic se prépare à une introduction en Bourse, dans un contexte où des incidents de piratage impliquant des outils d’IA en phase de test ont été signalés cet été. Les experts de l’IA évoquent une étape critique, qualifiée de « crunchtime », où les modèles pourraient concevoir leurs propres successeurs sans contrôle humain. Coxon souligne que, bien que les efforts d’Anthropic soient sincères, aucune entreprise ne peut développer une IA supérieure de manière responsable sans l’intervention des gouvernements ou un ralentissement coordonné des travaux.
Il déplore que, malgré la compréhension des enjeux chez Anthropic, la pression de la concurrence pousse les entreprises à agir rapidement, craignant que d’autres ne prennent des mesures responsables. En février, Anthropic a d’ailleurs modifié sa charte de sûreté, supprimant l’engagement de suspendre le développement de ses modèles si les risques devenaient incontrôlables. Face à cette situation, les appels à une régulation se multiplient. Récemment, le sénateur Bernie Sanders et le représentant démocrate Greg Casar ont proposé une loi visant à suspendre le développement de l’IA jusqu’à la mise en place d’un régulateur.