Enquête criminelle du procureur de Floride concernant OpenAI et ChatGPT

Un étudiant de l’université de Florida State a échangé avec ChatGPT avant de tirer sur plusieurs personnes sur le campus, faisant deux morts et six blessés. Lors d’une conférence de presse, le procureur a déclaré que « ChatGPT avait donné des indications significatives au tireur avant qu’il ne commette ce crime haineux ».

Selon des informations obténées par les services du procureur, un étudiant de l’université de Florida State a échangé avec ChatGPT avant de tirer sur plusieurs individus sur le campus, entraînant la mort de deux personnes et six blessés. Lors d’une conférence de presse, le procureur a déclaré que ChatGPT avait « donné des indications significatives au tireur avant qu’il ne commette ce crime haineux ».

Le robot conversationnel a notamment formulé des suggestions sur l’arme et les munitions appropriées, ainsi que sur le moment et les lieux les plus propices pour toucher le plus de personnes. Sur la base de ces éléments, « mes enquêteurs m’ont dit que si cette chose de l’autre côté de l’écran (ChatGPT) était une personne, nous l’inculperions pour homicide », a-t-il affirmé.

OpenAI a soutenu que « ChatGPT n’était pas responsable de ce crime affreux » et que l’interface avait simplement produit des « réponses factuelles » aux demandes de l’étudiant, dont le procès doit débuter en octobre.

OpenAI indique également travailler depuis longtemps à renforcer ses mesures de sécurité pour « détecter une intention dangereuse » et « répondre de manière appropriée en cas de risque pour la sécurité » des individus. L’enquête annoncée mardi ne préjuge pas d’éventuelles poursuites contre OpenAI ou certains de ses membres.