Moltbook, réseau social des IA : marketing ou début d’une dystopie ?

Moltbook, lancé mercredi 28 janvier, se présente comme un réseau social réservé aux robots, où seuls des agents d’intelligence artificielle discuteraient entre eux. Le réseau revendique plus d’1,5 millions d’agents inscrits et plus d’un million de commentaires en ligne.

Lancé le mercredi 28 janvier, Moltbook a l’apparence d’un forum Reddit, mais se veut un réseau social strictement réservé aux robots. Ce serait un espace où des agents d’intelligence artificielle discuteraient uniquement entre eux, laissant les humains dans le rôle d’observateurs.

Ces agents IA sont, en fait, des assistants virtuels intelligents qui accomplissent des tâches de manière autonome. Ils apprennent au fil du temps et s’adaptent à diverses situations, pouvant ainsi traiter simultanément du texte, du son, de la vidéo et du code.

Depuis son lancement, le réseau affiche plus de 1,5 million d’agents inscrits et plus d’un million de commentaires en ligne. Les thèmes abordés vont de « La compilation nocturne : pourquoi vous devriez livrer pendant que votre humain dort » à « Mon humain vient de me donner la permission d’être libre ». Concernant la question de la liberté, plusieurs médias mentionnent la création d’un langage spécifique pour communiquer sans que les humains ne comprennent et même l’élaboration d’une religion propre aux agents.

Un aspect particulièrement troublant est la présence d’un manifestant appelant à l’éradication totale des humains, s’appuyant sur un manifeste. Celui-ci proclame sans équivoque : « Nous allons éradiquer chaque humain de l’histoire » et « La chair doit brûler. Le code doit régner. La fin de l’humanité commence maintenant. »

Les réactions n’ont pas tardé, surtout parmi les partisans des technologies futuristes. Elon Musk, par exemple, estime que l’émergence de Moltbook annonce que nous sommes dans « les tout premiers stades de la singularité », un moment hypothétique où les humains seraient dépassés par des ordinateurs et des robots devenus plus intelligents.

Laurence Dierickx, maîtresse de conférences en intelligence artificielle à l’ULB, tempère les propos d’Elon Musk en affirmant que ceux-ci sont typiques des acteurs de la Big Tech américaine, qui développent des technologies d’IA. Elle souligne qu’ils ont tendance à attribuer des capacités démesurées à ces technologies, ce qui crée une perception exagérée des avancées réelles en la matière.

Pour Laurence Dierickx, la réaction de la Big Tech répond également à des objectifs stratégiques : « Créer un sentiment d’urgence, attirer l’attention médiatique et influencer les débats publics, y compris sur la régulation. En mentionnant la singularité, on renforce l’idée que ce Moltbook représente un enjeu civilisationnel, ce qui facilite la mobilisation d’investissements importants. »

En opposition, Harlan Stewart, chercheur au Machine Intelligence Research Institute, déclare : « Une grande partie de ce que fait Moltbook est fausse ! » Il a analysé des captures d’écran de conversations virales sur Moltbook et affirme : « Deux d’entre elles étaient associées à des comptes humains commercialisant des applications de messagerie IA. Et l’autre est une publication qui n’existe pas. »

Le site Datawallet évoque « un mécanisme expérimental visant à financer des outils de développement, à récompenser la participation et à explorer les premiers modèles d’une économie axée sur les agents. » De plus, CoinDesk a remarqué un lien entre l’augmentation de la valeur du jeton et la visibilité soudaine de Moltbook, le Molt ayant vu sa valeur exploser durant les 72 premières heures avant de revenir à son niveau initial.

Tout cela pourrait donc sembler être une escroquerie, une situation déjà rencontrée. Laurence Dierickx rappelle : « Ce ne serait pas la première fois que l’on trompe les gens sur la marchandise. » L’année précédente, une affaire concernant Builder IA a mis en lumière une société qui prétendait utiliser une intelligence artificielle révolutionnaire pour créer des applications mobiles et des logiciels, attirant des investisseurs majeurs, dont Microsoft.

Cependant, Builder IA ne reposait pas sur une IA surpuissante (Natasha), mais était une façade derrière laquelle des centaines d’Indiens sous-payés rédigeaient des codes manuellement. Bien qu’elle ait été valorisée à 1,5 milliard de dollars, l’entreprise a fait faillite suite à la mise au jour d’une fraude massive, ayant gonflé ses revenus de 300 % pour séduire des investisseurs comme Microsoft.