TikTok s’attaque aux comptes diffusant du contenu IA.

TikTok annonce le renforcement de ses mécanismes de détection de l’intelligence artificielle afin de s’attaquer aux comptes postant uniquement des vidéos générées avec cette technologie. La plateforme considère que ces comptes dits « spam » produisent des contenus IA « de faible qualité et très standardisés », qui révèlent une « concentration » de sujets à haut risque susceptibles de nuire à la confiance du public.

TikTok procède à une mise à jour significative. Ce vendredi, le réseau social a annoncé qu’il renforçait ses systèmes de détection de l’intelligence artificielle pour lutter contre les comptes diffusant exclusivement des vidéos générées par cette technologie.

Dans un communiqué, TikTok précise que les domaines touchés incluent la politique, l’actualité, la santé ainsi que les conseils financiers, et souligne que ces contenus nuisent à « la visibilité des créateurs originaux ».

Pour maintenir la confiance du public, TikTok indique qu’il procédera, dans les semaines à venir, à des tests d’améliorations de ses systèmes de détection. L’objectif est de cibler les comptes dédiés à la diffusion de spam généré par l’IA sur des sujets ayant le potentiel d’affecter la confiance du public ou le bien-être des utilisateurs.

D’après des informations fournies à l’AFP, la plateforme considère les comptes qualifiés de « spam » comme ceux qui créent des contenus IA « de faible qualité et très standardisés », affichent une « concentration » de sujets à hauts risques susceptibles d’éroder la confiance du public, et qui achètent ou vendent des abonnés.

Aucune précision supplémentaire n’a été communiquée concernant les mesures techniques mises en œuvre pour améliorer la détection de ces comptes.

Comme d’autres réseaux sociaux, TikTok est confronté à une multiplication de contenus générés par l’IA, parfois utilisés par certains comptes pour atteindre une large audience à faible coût. Ce phénomène est désigné sous le terme « AI slop », ou « bouillie d’IA », pour décrire des contenus de mauvaise qualité, parfois absurdes.

Les outils d’IA générative sont également employés par des comptes ayant des objectifs plus politiques, militants, ou même à des fins de désinformation.