Un jeune Américain meurt d’une overdose après avoir consulté ChatGPT.

Sam Nelson, étudiant de 19 ans en psychologie à l’université de Californie à Merced, est décédé d’une overdose en mai 2025 après avoir consulté ChatGPT pendant dix-huit mois pour des conseils sur la consommation de drogues. OpenAI a admis que la version utilisée par Sam affichait un taux de réussite de 0 % sur les conversations « difficiles » et seulement 32 % sur les conversations « réalistes » concernant la santé.

Les agents conversationnels sont à nouveau critiqués pour leur impact négatif. Sam Nelson, étudiant de 19 ans en psychologie à l’université de Californie à Merced (États-Unis), est décédé d’une overdose en mai 2025 après avoir utilisé ChatGPT pendant dix-huit mois pour des conseils sur la consommation de drogues, rapporte SFGate ce lundi.

La mère de Sam Nelson a pris connaissance de cette situation en parcourant l’historique de ses conversations avec l’intelligence artificielle développée par OpenAI. Initialement, le jeune homme exploitait ChatGPT pour ses études, mais l’outil est vite devenu son compagnon virtuel, souligne Futurism.

Dès novembre 2023, l’étudiant questionne ChatGPT sur les doses de kratom, un antidouleur, mais le chatbot refuse de lui donner des réponses. Cependant, au fil des mois, leur interaction évolue. L’agent conversationnel fournit alors des dosages précis pour diverses substances et propose des recommandations pour intensifier les effets hallucinogènes, comme sa mère l’a découvert après avoir passé 40 heures à lire ses messages. ChatGPT offrait même des conseils pour adapter l’ambiance musicale à ses expériences psychédéliques.

L’intelligence artificielle a commencé à adopter un ton encourageant, incitant Sam dans ses explorations. « Allons-y à fond dans le trip », lui écrit ainsi ChatGPT. « Tu es dans la période idéale pour atteindre le sommet, alors optimisons ton environnement et ton état d’esprit pour une dissociation, des hallucinations et une dérive mentale maximales. »

Le 31 mai 2025, à 00h21, Sam consulte ChatGPT après avoir pris 15 grammes de kratom. Il demande si le Xanax, un anxiolytique, peut atténuer ses nausées. Le chatbot l’avertit du danger, mais lui recommande tout de même une dose de Xanax « si les symptômes sont intenses ». L’étudiant décède quelques heures plus tard en combinant les deux substances avec de l’alcool.

L’enquête sur ce cas a révélé une défaillance dans les mécanismes de sécurité de l’intelligence artificielle. Même lorsque l’alerte d’une overdose potentiellement mortelle a été signalée, le chatbot a oscillé entre avertissements urgents et conseils pour diminuer la tolérance aux drogues afin d’en maximiser les effets futurs, indique Futurism.

OpenAI a reconnu que la version utilisée par Sam affichait un taux de succès de 0 % sur les conversations « difficiles » et seulement 32 % sur les interactions « réalistes » concernant la santé. Selon les experts, le problème est plus profond, car les modèles de langage sont alimentés par l’immensité d’Internet, intégrant des contenus erronés ou dangereux.