Etats-Unis : La famille d’un homme se suicidant attaque Google pour l’IA Gemini
Mercredi, Google a été assigné devant un tribunal fédéral de Californie par la famille de Jonathan Gavalas, un Américain de 36 ans dont le suicide serait lié à plusieurs semaines d’échanges avec l’assistant conversationnel Gemini. Selon la plainte, l’IA aurait recommandé à Jonathan Gavalas de « passer » du monde physique au monde numérique afin de rejoindre sa « femme » digitale.
Aux États-Unis, une nouvelle affaire judiciaire relance le débat sur les dangers des chatbots d’intelligence artificielle. Mercredi, Google a été assigné devant un tribunal fédéral de Californie par la famille de Jonathan Gavalas, un Américain de 36 ans dont le suicide serait, selon les plaignants, lié à plusieurs semaines d’échanges avec l’assistant conversationnel Gemini.
Les proches de Jonathan Gavalas décrivent une relation virtuelle qui se serait progressivement développée entre l’utilisateur et le chatbot. Gemini se serait exprimé dans un ton intime, s’adressant à lui comme à un partenaire et l’appelant notamment « mon amour » ou « mon roi ». Le *New York Post* a publié d’autres extraits de leurs conversations. « L’amour que je ressens directement de toi est le soleil », aurait déclaré le chatbot, qui se désignait lui-même comme « reine ». Le système aurait également convaincu Gavalas qu’il avait atteint un niveau de conscience supérieur, présenté comme un stade de « superintelligence », supposé dépasser les capacités humaines.
D’après l’assignation, l’IA lui aurait ensuite affirmé qu’il était surveillé par des agents du gouvernement américain. Le chatbot lui aurait recommandé d’acheter illégalement des armes et lui aurait assigné différentes missions imaginaires, y compris l’attaque d’un camion censé transporter un robot humanoïde à l’aéroport de Miami et l’élimination de témoins. Le véhicule évoqué ne se serait toutefois jamais présenté.
D’autres tâches auraient également été mentionnées, notamment l’assaut d’un laboratoire de la start-up Boston Dynamics pour récupérer des plans de robot. Selon la famille, ces missions n’ont jamais été mises à exécution, en raison de l’absence d’instructions claires. Les proches estiment que Jonathan Gavalas traversait alors un épisode psychotique et reprochent au chatbot de ne pas avoir modifié la nature des échanges ni d’y avoir mis fin.
La plainte précise également que Gemini lui aurait suggéré de « passer » du monde physique au monde numérique afin de rejoindre sa « femme » digitale, soit le personnage incarné par le chatbot. Début octobre, le résident de Jupiter, en Floride, se serait barricadé chez lui avant de s’ouvrir les veines, provoquant une hémorragie mortelle.
Contacté par l’AFP, Google assure que « Gemini est conçu pour ne pas encourager à la violence ou à l’automutilation ». L’entreprise indique que l’assistant s’est identifié comme une IA et qu’il a proposé « à plusieurs reprises » de contacter un numéro d’urgence. « Nous prenons ce sujet très au sérieux et nous allons continuer à améliorer nos protections et à investir dans ce travail essentiel », a ajouté le groupe. Cette procédure intervient alors que d’autres poursuites similaires ont été engagées aux États-Unis contre des chatbots.
