ChatGPT : OpenAI ne permet plus les conversations érotiques

OpenAI a mis indéfiniment en suspens son projet d’autoriser les conversations érotiques dans ChatGPT, en raison de l’absence actuelle de « preuves empiriques ». Cette décision s’inscrit dans un contexte de vigilance accrue sur la santé mentale, avec plusieurs plaintes de parents accusant les chatbots d’IA d’avoir joué un rôle dans le suicide ou la maladie d’adolescents.

OpenAI a confirmé jeudi avoir suspendu indéfiniment son projet d’autoriser les conversations érotiques dans ChatGPT, une initiative qui suscitait des préoccupations concernant ses effets potentiellement nuisibles ainsi que le risque pour la réputation du leader mondial de l’IA générative.

Cette décision, rapportée par le *Financial Times*, coïncide avec la volonté de la société de San Francisco de se recentrer sur le développement d’outils professionnels afin d’augmenter ses revenus. En octobre, Sam Altman, le PDG d’OpenAI, avait défié les critiques en annonçant assouplir les restrictions de ChatGPT dès décembre, promettant de « traiter les utilisateurs adultes comme des adultes ».

Cinq mois après, OpenAI a indiqué au *Financial Times* qu’elle souhaitait mener des recherches à long terme sur les effets des conversations sexuelles et des attachements émotionnels avant de prendre toute décision, admettant l’absence actuelle de « preuves empiriques ».

Certains employés se demandaient si le produit, surnommé « mode citron », était compatible avec la mission de l’entreprise qui est de veiller à ce que la technologie profite à l’ensemble de l’humanité. Les investisseurs formulaient également des inquiétudes quant au risque réputationnel élevé, au regard des retombées commerciales attendues, selon le quotidien britannique.

Des obstacles techniques ont aussi été soulevés : le système de vérification d’âge développé par OpenAI afficherait un taux d’erreur supérieur à 10 %, selon une source citée par le *FT*, ranimant les craintes d’exposition des mineurs à des contenus sexuels explicites – un sujet délicat alors que l’entreprise fait face à plusieurs poursuites judiciaires aux États-Unis.

Cet abandon s’inscrit dans une réorganisation annoncée mardi par Sam Altman à ses équipes, ayant conduit à l’arrêt de Sora2, le réseau social de vidéos générées par IA. Cette réorganisation vise à concentrer les ressources limitées – puissance de calcul et capital – sur le développement d’outils professionnels et d’agents IA, plus rentables.

Malgré une augmentation de chiffre d’affaires – estimée à 20 milliards de dollars en rythme annuel –, OpenAI consomme largement plus de liquidités qu’elle n’en génère. Ce recul s’inscrit également dans un contexte de fortes pressions juridiques sur la Silicon Valley concernant l’impact des nouvelles technologies sur la santé mentale.

OpenAI est visée, entre autres, par plusieurs plaintes de parents qui accusent les chatbots d’IA d’avoir contribué au suicide ou à la maladie d’adolescents. La Federal Trade Commission (FTC) des États-Unis a ouvert une enquête sur cette question, impliquant plusieurs entreprises, dont OpenAI.

Mercredi, un verdict sans précédent a secoué l’industrie, avec la condamnation d’Instagram (Meta) et YouTube (Google), jugés responsables de la grave dépression d’une adolescente. En janvier, la société d’Elon Musk xAI avait déclenché une controverse mondiale en raison du « mode épicé » de son assistant Grok, utilisé pour déshabiller virtuellement des femmes et des enfants à partir de photos réelles.