L’IA révolutionne-t-elle la lutte contre les pédocriminels en ligne ?

Dominique B., un homme de 66 ans, a été placé en garde à vue et mis en examen après avoir tenu des propos sexualisés en direct sur Twitch à une personne se présentant comme mineure. L’association 211 a émis 174 signalements aux forces de l’ordre et a arrêté 36 personnes en un an grâce à ses actions de lutte contre la pédocriminalité.

La scène a rapidement circulé sur les réseaux sociaux. Dominique B., un homme de 66 ans, pensait échanger avec une adolescente de 14 ans. En réalité, il conversait avec Finnyzyy, un streamer de 21 ans, utilisant l’intelligence artificielle. En direct, devant des milliers de spectateurs sur Twitch, le sexagénaire, ancien directeur du sport scolaire de Haute-Saône, a proféré des commentaires sexualisés à une personne se présentant comme mineure. Peu après, il a été placé en garde à vue et mis en examen.

Parallèlement, Finnyzyy, membre de l’association 211, est devenu une figure de la « chasse aux pédocriminels » numérique, illustrant l’utilisation de l’IA pour « piéger les prédateurs ». Cette technologie peut-elle réellement servir d’outil dans la lutte contre la pédocriminalité ?

### L’IA, un outil qui permet d’être « en avance »

Comme celui de Finnyzyy, de nombreux comptes en ligne de « chasseurs » apparaissent sur les réseaux sociaux, prenant l’apparence d’adolescentes ordinaires grâce à l’intelligence artificielle. « On n’utilise pas d’identité réelle, mais une générée artificiellement », confirme KNZ, 29 ans, responsable des « chasseurs » dans l’association 211. Elle précise que l’IA intervient à différents niveaux : des outils créent des visages, d’autres façonnent des « fonds d’écran » du quotidien afin de rendre le profil « crédible », et certains modifient la voix.

« L’IA nous aide également face à des pédocriminels avérés, qui tendent à être plus méfiants », ajoute KNZ. Par conséquent, si un suspect exige une preuve, des photos de secours sont préparées à l’avance, montrant une main levant le pouce ou se touchant le nez. « Il est très rare qu’ils dénichent quelque chose, même lorsque des chasseurs sont en conversation vidéo et utilisent des filtres IA [comme Finnyzyy] », indique Merogis, président fondateur de l’association.

Pour Thyss, vice-président, l’association 211 possède « un avantage » sur d’autres. « Nous avons rapidement intégré l’IA à nos méthodes », souligne-t-il. « Depuis le début, nous avançons avec la technologie, tout en respectant un cadre légal. Les personnages générés ne sont jamais sexualisés ou dans un contexte sexuel », ajoute-t-il. L’association, composée d’une cinquantaine de bénévoles, affirme être continuellement conseillée par un avocat.

### « Un filtre et le travail est fait »

Mister Fox, connu sur Twitch pour l’hameçonnage de pédocriminels, observe un véritable « avant/après » depuis l’introduction de l’IA. Ayant été confronté à un pédocriminel à 13 ans sur Habbo, il a voulu « troller ces prédateurs ». « Tout au long de mon adolescence, j’ai continué à les agacer avec mes comptes Skyblog ou Coco. Il y a quatre ans, j’ai décidé de partager cela sur TikTok pour montrer à quel point les pédocriminels sont omniprésents et sensibiliser un public plus large », raconte-t-il.

À partir de ce moment, il a créé de faux comptes sur les réseaux sociaux. « Avant l’arrivée de l’IA, j’utilisais des photos qu’une personne transgenre m’avait envoyées, dans son corps féminin. Bien qu’il soit majeur, il semblait très jeune », précise-t-il. Fin 2023, voyant émerger les IA, il saisit un léger prompt sur ChatGPT et découvre « la puissance phénoménale » de la technologie. « Même au niveau de la voix, j’ai pu passer des appels avec les prédateurs alors qu’auparavant, des filles de mon équipe devaient intervenir pour faire des vocaux et crédibiliser le personnage. »

Depuis qu’il utilise l’IA, il peut désormais tout réaliser seul. « C’est beaucoup plus facile pour créer des profils, et les appels font que les prédateurs révèlent davantage d’informations. C’est triste à dire, mais c’est presque devenu industriel vu le volume de demandes que nous avons », lâche-t-il.

### Une évolution des pratiques

Pour l’association 211, les pratiques ont également évolué grâce à l’IA. Lorsque Merogis a débuté sur les plateformes, il avait aussi 13 ans. « Nous sommes une génération d’enfants d’Internet », déclare-t-il, maintenant âgé de 20 ans. En utilisant les réseaux sociaux, il a rapidement pris conscience des dangers en ligne. À l’époque, pour piéger les pédocriminels, il créait de faux comptes « avec des amis », sans aller plus loin. Avec l’accessibilité de l’IA générative, « les choses ont pris une autre dimension ». Merogis affirme que leurs actions ont permis d’arrêter 36 personnes en un an et d’émettre 174 signalements aux forces de l’ordre.

### En 30 secondes, 20 messages

Le protocole est bien établi au sein de 211. KNZ rappelle que les personnes désireuses de rejoindre leur groupe doivent suivre une formation de cinq semaines pour apprendre les pratiques à respecter et le cadre légal. Une fois formés, ils créent des profils de mineures de 14 ans [dépendant de la majorité sexuelle, fixée à 15 ans] et attendent. « Dès qu’il y a des enfants, il y a des pédocriminels », précise Thyss, 18 ans. « Minecraft, Fortnite, Roblox, Snapchat, Instagram… Dès qu’il y a un chat, ils sont là. En 30 secondes, vous pouvez recevoir 20 messages de présumés pédocriminels. Cela va extrêmement vite », assure KNZ, qui utilise des profils de jeunes filles de 11 à 13 ans.

Mister Fox, quant à lui, a dépassé les 11 000 abonnés en cinq mois sur un compte Snapchat présenté comme celui d’une fille de 12 ans. « C’est lunaire », dit-il, abattu. « C’est une réalité que beaucoup ont du mal à croire. » Si des individus leur écrivent, ils veillent à « ne jamais ajouter quelqu’un ou engager la conversation », « ne jamais inciter » et toujours « rappeler l’âge de la jeune fille », constituant parallèlement un dossier à transmettre aux forces de l’ordre. « Moi, je filme en direct pour la prévention, mais cela sert aussi de preuves pour la police qui peut récupérer tout ce qui l’intéresse », ajoute Mister Fox.

### Un gain de temps pour les enquêteurs ?

Mais cette action citoyenne aide-t-elle réellement les enquêteurs officiels ? « La limite de ces initiatives citoyennes est d’entraver le travail d’enquête, car une diffusion peut alerter l’auteur qui va détruire des preuves numériques”, détaille Agathe Foucault, porte-parole de la police nationale. « Des opérations judiciaires peuvent être compromises, alors que l’objectif doit rester l’arrestation de ces pédocriminels. »

Le service communication de la police nationale rappelle également qu’aucune « suite d’enquête » ne peut être envisagée après la transmission d’informations à leurs services, car les enquêteurs doivent d’abord vérifier les éléments. « Il n’est donc pas possible de parler d’un gain de temps », affirme le service, tout en incitant les citoyens à signaler les contenus pédocriminels sur Pharos, sur masecurite.gouv ou auprès des services de modération des plateformes.

### L’IA et la police

En ce qui concerne l’identification des pédocriminels, les citoyens, associations et services d’enquête ne sont pas soumis aux mêmes exigences. Les policiers peuvent « enquêter sous pseudonyme », se faisant passer pour un autre individu ou une victime, avec une autorisation préalable, tout en respectant le principe de loyauté de la preuve, de non-provocation à l’infraction et le respect de la présomption d’innocence sous l’autorité du procureur de la République. Par conséquent, pas d’IA.

« Et je ne suis pas sûre que nous aurons un jour le droit de nous créer des avatars », souligne Agathe Foucault. « Nous en sommes loin et ce n’est pas la seule avancée que cette technologie pourrait nous apporter lorsque le cadre le permettra. » Elle précise que « l’intelligence artificielle pourra vraiment aider dans le traitement des données et des images. Parfois, ce sont des heures de vidéos à visionner. L’IA pourrait aider à analyser plus rapidement ces volumes d’informations, allégeant ainsi la charge mentale des policiers qui doivent visionner ces éléments, parfois horribles. »

Agathe Foucault ajoute que l’IA pourrait aussi constituer un apport technique pour analyser les signalements, permettant d’atteindre une « plus grande efficacité ». « Pharos en reçoit plus de 55 000 par an », précise-t-elle. En 2025, la plateforme a enregistré 31 676 signalements liés aux atteintes aux mineurs. « La pédocriminalité n’est pas nouvelle, elle existe depuis toujours. Comme dans d’autres domaines, ces criminels s’adaptent. L’intelligence artificielle ne nous enlèvera malheureusement pas de travail face à l’ampleur du problème, c’est certain. »

Car si l’IA est aujourd’hui utilisée par les hameçonneurs, rien n’empêche les prédateurs de s’en emparer également. « Un pédocriminel pourrait tout aussi bien générer un avatar d’adolescent pour approcher des enfants », glisse Mister Fox. « Et cela se passe probablement pendant que nous parlons… »