Algorithmes de la justice : Le G7 des avocats plaide pour un encadrement

Les délégations d’avocats des pays du G7 vont soumettre des propositions en faveur d’un encadrement de l’usage des algorithmes par la justice. — THOMAS SAMSON / AFP

  • Pendant six mois, les organisations d’avocats d’Allemagne, de France, du Japon, des Etats-Unis, du Royaume-Uni, d’Italie et du Canada se sont réunies pour élaborer des propositions communes sur la justice.
  • La place accordée aux algorithmes et à l’intelligence artificielle dans les systèmes judiciaires des pays du G7 inquiète ces professionnels du droit révèle en exclusivité 20 Minutes.
  • Ils appellent les gouvernements à plus de contrôle et à évaluer ces nouveaux outils mis au service des magistrats.

Ce n’est pas Minority Report de Spielberg, mais presque. D’ici la fin de l’année 2019, les robots-juges seront une réalité en Europe. En mars dernier, l’Estonie a annoncé la mise en place d’un juge numérique chargé de trancher les litiges dont le montant est inférieur à 7.000 euros. Dans le viseur de la justice estonienne : les excès de vitesse, les indemnités de licenciement ou les créances.

Même placé sous l’autorité d’un magistrat en chair et en os, ce juge numérique inquiète les professionnels du droit. Ce vendredi, les délégations d’avocats des Etats membres du G7 publient une série de propositions en amont du sommet entre chefs d’Etat prévu fin août à Biarritz. Ils appellent les gouvernements à encadrer et évaluer la place – de plus en plus importante – accordée aux algorithmes et à l’intelligence artificielle dans les systèmes judiciaires, révèle en exclusivité 20 Minutes.

Des bases de données sur la jurisprudence

Pendant six mois, les représentants de près de deux millions d’avocats dans le monde se sont réunis pour élaborer des orientations communes. Tous, à travers le monde, partagent le même constat : l’intelligence artificielle s’imisce de plus en plus dans leur quotidien. « On est conscient que le métier change et que ça peut avoir un aspect positif pour les citoyens en leur donnant un meilleur accès au droit. Mais on voit aussi arriver des algorithmes dont on ne contrôle pas les règles d’élaboration ou de conception », alerte Christiane Féral-Schuhl, présidente du Conseil national des barreaux (CNB) et membre du G7 des avocats.

En France, le développement de la « legal-tech » et l’arrivée d’entreprises offrant aux avocats des bases de données pour anticiper des décisions judiciaires s’est accentuée ces dernières années. De plus en plus de start-up ou des éditeurs (Dalloz, LexisNexis ou Wolters Kluwer) proposent aux avocats des logiciels élaborés sur un algorithme utilisant des bases de données constituées par la jurisprudence. C’est ce qu’on appelle la «  justice prédictive » ou «  justice prévisionnelle ».

Des échecs qui interrogent

En 2017, des expérimentations avaient été mises en place à Rennes et Douai pour les magistrats des cours d’appel. Les résultats avaient été jugés peu concluants et trop vagues par la Chancellerie qui avait demandé à l’entreprise à l’origine du logiciel de revoir sa copie. Depuis « il n’y a pas de recours aux algorithmes dans le cadre de la prise de décision de justice », précise le ministère de la Justice à 20 Minutes. Mais les avancées en la matière diffèrent d’un pays à l’autre. Aux Etats-Unis, un logiciel d’aide à la décision pour les juges, intitulé « Compas » est l’un des outils les plus utilisés en la matière. En mai 2016, une enquête réalisée par le site américain ProPublica mettait en lumière les inégalités générées par ce programme. Selon les investigations menées par le site, le risque de commission d’un crime violent prédit par cette machine était largement surévalué et visait plus spécifiquement les détenus afro-américains.

Pour éviter de telles dérives, les représentants du G7 des avocats appellent les gouvernements à créer un mécanisme indépendant d’évaluation et de surveillance de l’impact des nouvelles technologies et des algorithmes dans le système judiciaire. « Les bases de données ne sont pas toujours fiables et pourtant elles se développent. En France, comme tous les jugements des tribunaux ne sont pas numérisés, il y a un risque de bases incomplètes », note par exemple Florian Borg, avocat au barreau de Lille et membre du Syndicat des avocats de France (SAF).

Un facteur humain essentiel

Autre crainte partagée par les avocats, le risque d’uniformisation et de déshumanisation des décisions rendues par les tribunaux. « Certes, les avocats et les magistrats se sont toujours basés sur la jurisprudence. Mais pour que la justice soit rendue, il faut toujours tenir compte du contexte et la perception humaine est déterminante pour juger », estime Christiane Féral-Schuhl. Les avocats plaident aussi pour la mise en place d’un cadre éthique dans le développement de ces algorithmes à destination des magistrats.

« S’il n’y a pas de contrôle sur qui finance et qui développe l’algorithme, c’est dangereux, il y a un risque de manipulation. Par exemple, si dans le cadre d’une négociation pour un préjudice corporel, le logiciel utilise une base de données issues des assureurs, il y aura forcément un déséquilibre », illustre Florian Borg. Une analyse partagée par la présidente du Conseil national des barreaux : « On ne doit pas permettre à des entreprises comme Google ou Microsoft de développer et concevoir ces algorithmes sans obligation de transparence. Il faut maintenir le rôle des acteurs judiciaires – avocats et magistrats. C’est la justice de nos sociétés qui est en jeu ».

Culture

Justice: Peut-on faire confiance au jugement d’un robot?

Lille

Lille: Les avocats testent un logiciel de «justice prédictive»

1 partage