Faut-il se méfier de DeepSeek, la nouvelle IA chinoise ?
Les répliques du tremblement de terre survenu lundi dans le monde de l’IA n’en finissent plus. L’entreprise chinoise DeepSeek a lancé son propre robot conversationnel à base d’intelligence artificielle, façon ChatGPT. Se revendiquant bien moins coûteux en puissance de calcul, DeepSeek est venu court-circuiter l’annonce du projet Stargate de Donald Trump, qui promettait d’investir 500 milliards de dollars dans l’IA aux côtés d’OpenAI, SoftBank et Oracle, trois géants américains de la tech.
L’annonce de l’arrivée de DeepSeek a été suivie d’un vent de panique dans la Silicon Valley. Nvidia, entreprise qui fabrique des processeurs initialement destinés au gaming mais dont les performances alimentent des modèles d’IA, a vu son action chuter de 17 %. Et dans le sillage de cette nouvelle, plusieurs voix ont exprimé leur inquiétude comme Marc Andreessen, un pionnier d’Internet qui a décrit l’irruption de DeepSeek comme « le moment Spoutnik de l’IA ». Alors, faut-il avoir peur du champion chinois de l’IA ? Jean-Vincent Brisset, chercheur associé à l’Iris, apporte à 20 Minutes des éléments de réponse.
Y a-t-il un risque pour les utilisateurs ?
A peine disponible, DeepSeek a fait l’objet de toutes les attentions. D’après un billet des chercheurs de Kela, une société de conseil en cybersécurité, le robot peut facilement être utilisé pour « produire des résultats malveillants, comme le développement de ransomwares, la création de contenus sensibles ou la fourniture d’instructions détaillées pour fabriquer des toxines et des dispositifs explosifs ».
Un autre point préoccupe les utilisateurs : les données personnelles. Aux Etats-Unis, le cas de TikTok a déjà attiré l’attention sur le risque de voir des données d’utilisateurs stockées en Chine [sa maison mère, ByteDance, est chinoise], où elles pourraient être utilisées par le gouvernement. « Il y a un enjeu de collectes de données, confirme Jean-Vincent Brisset. Le data mining, c’est quelque chose d’important pour la Chine, et ça représente une intrusion pour les utilisateurs. » Il rappelle cependant que « la Chine n’est pas la seule à le faire », et que la question pourrait aussi se poser pour les données personnelles des Européens qui utilisent des outils comme l’Américain ChatGPT. Pour le moment, l’équivalent italien de la Cnil a envoyé une demande d’information à DeepSeek.
Deepseek censure-t-il des informations qui ne plaisent pas au gouvernement chinois ?
Il n’aura pas fallu attendre longtemps avant que des petits malins, en sachant que DeepSeek était une IA chinoise, tentent de l’interroger sur des questions politiques censurées en Chine. Une vidéo sur X montre par exemple le robot incapable de donner l’origine de « la célèbre photo d’un homme avec des sacs de courses devant un tank » (prise en marge des manifestations étudiantes de 1989 sur la place Tiananmen, réprimées dans la violence). En voulant refaire le test, on peut confirmer que l’IA refuse de parler de ces sujets. Pire, en activant la fonction « Deep Think », censée montrer le cheminement de pensée de l’IA en direct, on voit la réflexion s’arrêter en direct, remplacée par un « Désolé, je ne sais pas encore comment répondre à ce type de questions. Parlons plutôt de maths, de code ou de logique ! »
« Il est très facile d’introduire des réponses formatées dans ce type d’intelligence artificielle, commente Jean-Vincent Brisset. On peut aussi imaginer un chatbot qui donnerait des éléments de réponses différents selon où vous vous situez dans le monde. » Pour l’instant, la censure semble trop grossière pour tromper n’importe qui ne s’étant pas endormi pendant ses cours d’Histoire. Mais l’IA pourrait ouvrir une nouvelle bataille inattendue du soft power.
Quels sont les impacts économiques et politiques de Deepseek ?
L’IA risque de devenir un aspect supplémentaire de la guerre économique que se livrent les Etats-Unis et la Chine. Donald Trump a qualifié la percée fulgurante de l’IA chinoise de « signal d’alarme pour l’industrie technologique américaine ». John Moolenaar, élu républicain du Michigan, a demandé pour sa part un contrôle plus strict sur les exportations technologiques essentielles aux infrastructures des IA. Plus largement, et pour en revenir à ce « moment Spoutnik », « L’Occident découvre que la Chine n’a plus de retard », conclut Jean-Vincent Brisset.
