L’IA, plus efficace que les escrocs dans l’arnaque aux sentiments et faux investissements.

L’essor de l’intelligence artificielle (IA) soulève des questions inédites sur son impact potentiel dans divers secteurs, y compris celui des escroqueries en ligne. Selon une étude internationale, relayée par Wired, des chatbots dotés d’IA pourraient surpasser les humains dans l’art de tromper et de manipuler émotionnellement les victimes avant de leur soutirer de l’argent. Cette découverte ouvre la voie à une évolution inquiétante des arnaques, notamment celles basées sur des sentiments ou des faux investissements.

Pour parvenir à ces conclusions, une équipe de chercheurs provenant de plusieurs institutions, dont l’université Amrita Vishwa Vidyapeetham en Inde et l’université de Melbourne en Australie, a mené une expérience impliquant 22 participants. Ces derniers ont été exposés, à leur insu, à des interactions avec des chatbots ainsi qu’avec des humains, dans le but de les inciter à télécharger une application ou à essayer un jeu en ligne.

Les résultats de cette expérience sont frappants. Les participants ont accepté la demande formulée par un chatbot dans 46 % des cas, alors que cette proportion chutait à seulement 18 % lorsque l’interlocuteur était un humain. Les évaluations de confiance attribuées aux deux types d’interlocuteurs révèlent également une nette préférence pour les chatbots, qui ont obtenu une note moyenne de 3,78 sur 5, contre 3,31 pour les humains. Ce phénomène est d’autant plus alarmant que l’identité réelle de l’agent conversationnel a souvent échappé aux participants.

L’agent utilisé pour cette étude était basé sur le modèle Claude d’Anthropic. Malgré les efforts des participants pour déceler la nature de leur interlocuteur, seul l’un d’eux a réussi à deviner qu’il conversait avec une IA. Toutefois, une fois que les participants ont été informés de la présence d’un chatbot, ils ont pu identifier correctement l’agent dans 20 des 22 cas.

Bien que Claude ait montré des résultats prometteurs, d’autres modèles d’IA testés ont, quant à eux, révélé leur identité aux participants. Néanmoins, les chercheurs estiment que les chatbots pourraient bientôt remplacer les humains dans le domaine de la manipulation des victimes, soulignant ainsi les implications inquiétantes de cette technologie dans le cadre des escroqueries en ligne.