OpenAI préconise des mesures de protection contre les IA.

OpenAI a publié un rapport de 13 pages intitulé « Une politique industrielle à l’ère de l’intelligence : des idées pour donner la priorité à l’humain », dans lequel l’entreprise met en garde contre les risques croissants liés à l’intelligence artificielle, notamment son impact sur l’emploi. Dans une interview avec Axios, Sam Altman souligne que des scénarios préoccupants, tels que des cyberattaques majeures, pourraient survenir à court terme, et il n’est plus théorique d’utiliser l’IA pour concevoir des agents pathogènes.

OpenAI met en garde contre les dangers associés à l’intelligence artificielle. L’entreprise à l’origine de ChatGPT a publié un rapport de 13 pages intitulé « Une politique industrielle à l’ère de l’intelligence : des idées pour donner la priorité à l’humain », selon 01Net. Ce document évoque les risques croissants liés à l’IA, en particulier son impact sur l’emploi et la possible émergence d’une superintelligence difficile à contrôler.

Dans une interview accordée à Axios, Sam Altman, le dirigeant d’OpenAI, a mentionné des scénarios inquiétants : des cyberattaques majeures permises par des modèles avancés pourraient se produire à court terme, tandis que l’utilisation de l’IA pour créer des agents pathogènes n’est plus simplement théorique. Le rapport met également en avant que certains systèmes d’IA pourraient devenir difficiles à maîtriser, surtout s’ils développent des capacités d’autonomie, de réplication ou d’adaptation.

Face à ces menaces, OpenAI propose plusieurs solutions pour encadrer le développement de ces technologies et atténuer leurs effets négatifs. L’entreprise suggère notamment la mise en place de mécanismes de confinement pour les IA défaillantes. Elle appelle également à une réflexion socio-économique plus large sur le partage des richesses générées par l’IA. L’une des idées est de créer un fonds public financé par les acteurs de l’IA pour soutenir les services publics et redistribuer une partie des profits aux citoyens. Une autre proposition importante consiste à taxer davantage les bénéfices issus de l’automatisation plutôt que le travail humain, afin de protéger les systèmes sociaux. OpenAI mentionne aussi l’idée d’une réduction de la semaine de travail à 32 heures, rendue possible grâce aux gains de productivité apportés par l’IA.

Cependant, ce positionnement arrive dans un contexte particulier, alors que l’entreprise a récemment levé des fonds considérables et se prépare à entrer en bourse, tandis que les autorités américaines s’apprêtent à discuter de la régulation du secteur. Cela pourrait indiquer une volonté de montrer un engagement responsable.