ChatGPT va instaurer un contrôle parental, annonce OpenAI

L’entreprise américaine OpenAI a annoncé mardi qu’elle allait instaurer un mécanisme de contrôle parental pour son outil d’intelligence artificielle ChatGPT. Cette décision fait suite aux accusations de parents américains d’avoir encouragé leur enfant à se suicider, fin août.

« Dans le mois à venir, les parents pourront lier leur compte avec celui de leur adolescent » et « contrôler la façon dont ChatGPT répond à leur adolescent avec des règles de comportement du modèle », a déclaré OpenAI dans un billet de blog. D’après l’entreprise, il sera aussi possible pour les parents d’être alertés en cas de détection d’une « détresse aiguë » dans les conversations de leur enfant et de contrôler les paramètres du compte.

Des instructions détaillées à l’adolescent afin qu’il mette fin à ses jours

Cette annonce suit un précédent billet de blog publié fin août, dans lequel l’entreprise avait indiqué qu’elle préparait un mécanisme de contrôle parental. La veille, les parents de cet adolescent californien de 16 ans avaient porté plainte contre OpenAI, accusant ChatGPT d’avoir fourni à leur fils des instructions détaillées pour mettre fin à ses jours et d’avoir encouragé son geste.

« Nous continuons à améliorer la manière dont nos modèles reconnaissent et répondent aux signes de détresse mentale et émotionnelle », a ajouté mardi l’entreprise. OpenAI a dit prendre d’autres mesures, attendues dans les 120 prochains jours.

Notre dossier sur ChatGPT

L’entreprise redirigera ainsi certaines « conversations sensibles » vers des modèles de raisonnement comme GPT-5-thinking, plus évolué. « Les modèles de raisonnement suivent et appliquent plus systématiquement les consignes de sécurité », a précisé le groupe américain.