ChatGPT le présente comme un meurtrier d’enfants, il porte plainte contre OpenAI

Qui n’a jamais recherché son nom sur Google ? Faire la même chose sur ChatGPT pourrait vous donner quelques sueurs froides. Un Norvégien a par exemple découvert que la célèbre intelligence artificielle conversationnelle le considérait comme un meurtrier. Il a décidé de porter plainte contre OpenAI, rapporte l’association de protection de la vie privée en ligne Noyb, qui le représente.

Une violation du RGPD

« Certains pensent qu’il n’y a pas de fumée sans feu. Ce qui me fait le plus peur, c’est que quelqu’un puisse lire ce document et croire qu’il est vrai », s’est inquiété le plaignant. Dans le détail, ChatGPT l’a présenté comme un criminel condamné à 21 ans de prison pour le meurtre de ses deux enfants et une tentative de meurtre sur son troisième. Ces hallucinations, nom que l’on donne aux réponses erronées des IA, lui sont apparues comme d’autant plus inquiétantes qu’elles intégraient des éléments réels de sa vie personnelle, comme le nombre, le sexe de ses enfants et le nom de sa ville natale.

De ce mélange, résultent ainsi de véritables mensonges diffamatoires, estiment le Norvégien et Noyb. En cela, ChatGPT et OpenAI auraient violé un point de l’article 5, qui indique que les entreprises doivent s’assurer que les données personnelles qu’elles produisent sur les individus sont exactes.

Un manque de correctifs

Pour les avocats de l’association, la petite clause de non-responsabilité indiquant que ChatGPT peut faire des erreurs ne fait pas disparaître la loi pour autant. « Le RGPD (règlement général de protection des données) est clair. Les données personnelles doivent être exactes. Et si elles ne le sont pas, les utilisateurs ont le droit de les faire modifier pour qu’elles reflètent la vérité », a insisté Joakim Söderberg, avocat de l’association spécialisé dans la protection des données. A ce titre, Noyb a fustigé l’incapacité ou le manque de volonté d’OpenAI de rectifier ces erreurs, aussi constatées dans le cadre d’autres plaintes.

L’entreprise ne permet par ailleurs aucun droit d’accès aux utilisateurs, ce qui contrevient également au RGPD. Dans tous les cas, en attendant le résultat de cette plainte, le Norvégien a eu le soulagement de découvrir que depuis l’intégration des données issues des recherches Internet ces derniers mois, ChatGPT ne le présente plus comme un meurtrier. L’association rappelle cependant que d’autres erreurs diffamatoires peuvent malgré tout subsister.