« L’IA n’est pas votre ami » : Signal met en garde contre les dangers

Meredith Whittaker, la patronne de Signal, a déclaré lors d’une interview : « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles. » Elle a également souligné que « le moteur économique de l’industrie technologique repose sur la collecte et la monétisation des données. »

Les modèles de langage (LLM) ont évolué d’un simple outil de conversation à des capacités génératives en matière d’images, de vidéos, de sons et de code. Cette avancée technologique est poussée par des entreprises comme Google ou Microsoft qui, à travers des initiatives comme Gemini ou Claude, visent à permettre aux utilisateurs de déléguer certaines tâches personnelles ou professionnelles, telles que la gestion de projets ou de voyages, à une intelligence artificielle. Meredith Whittaker, à la tête de Signal, remet cependant cette approche en question.

Dans une interview accordée à Bloomberg, elle a souligné une vérité fondamentale sur ces chatbots : « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles. »

Un service contre vos données

Meredith Whittaker, ancienne employée de Google, explique : « Le moteur économique de l’industrie technologique repose sur la collecte et la monétisation des données. » Pour illustrer son propos, elle fait référence à un exemple évoqué par une journaliste de Bloomberg concernant Mustafa Suleyman, PDG de la division intelligence artificielle de Microsoft. Ce dernier envisage un avenir où Copilot pourrait s’occuper de l’organisation des cadeaux de Noël, ce que Meredith Whittaker considère comme une absurdité.

En plus de l’aspect émotionnel de confier un événement personnel à une intelligence artificielle, elle met en avant les implications relatives aux données personnelles. Une telle situation impliquerait de donner à une entreprise « l’accès à ma carte de crédit, à mon navigateur, à mon compte Signal, la possibilité d’envoyer des messages à mes frères et sœurs en mon nom, à mon adresse personnelle et à mon agenda ».

Selon Meredith Whittaker, cette évolution serait pour Signal comparable à l’établissement d’une porte dérobée dans les systèmes de communication. Cette question est cruciale pour elle, qui défend la sécurité des conversations privées.

Pour aller plus loin
Pourquoi l’application Signal menace de quitter la France