Par Gaylord Marchesseau.
 
  • 770 lectures
  • Parution : 21 septembre 2020

  • 5  /5
Guide de lecture.
 

Justice prédictive : comment concilier algorithmes et transparence de la justice ?

Faisant l’objet de nombreuses spéculations la justice prédictive fait couler beaucoup d’encre. C’est le cas notamment depuis la publication du décret sur la mise en œuvre de l’open data des décisions de justice. Ce décret soulève de nombreux enjeux en matière de transparence, d’impartialité et d’anonymisation. Comment concilier l’open data et les algorithmes avec la justice sans compromettre la confiance des citoyens dans les pouvoirs publics.

L’open data : un enjeu démocratique.

L’open data ouvre un nouveau champ des possibles dans l’exercice de la justice. Outre le désencombrement des tribunaux, l’open data apporte davantage de clarté et de prévisibilité aux décisions de justice. Elle représente non seulement un enjeu démocratique, mais vise également à accélérer le règlement des litiges tout en améliorant la prévisibilité des décisions. Les juges peuvent avoir accès aux pratiques de leurs confrères et les justiciables sont en mesure d’estimer les chances de succès de leur procédure. Beaucoup craignent néanmoins que l’open data des décisions de justice, couplée au développement des algorithmes et de l’Intelligence artificielle (IA), ouvre la voie à une « justice prédictive » dont les décisions pourraient être rendues grâce à l’IA sans l’intervention d’un juge.

Craintes légitimes ou fantasme digne d’un scénario de film hollywoodien ? Avant d’imaginer une quelconque justice prédictive, il convient de s’attarder sur les conditions indispensables à son développement. En effet, la mise en oeuvre de la justice prédictive suppose que toutes les précautions aient été prises en amont pour écarter certaines dérives. Toutes les mesures de confidentialité et d’anonymisation doivent être mises en place pour éviter des utilisations malveillantes des informations contenues dans les décisions. Une fois anonymisées, les décisions pourront alors être diffusées en open data.

La crainte des dérives des algorithmes prédictifs.

L’IA est performante lorsqu’il s’agit de faire du quantitatif et d’exécuter des tâches ciblées. Elle peut prédire approximativement l’heure d’arrivée lors d’un trajet ou réaliser un ciblage publicitaire détaillé. En cas d’erreur, l’impact sera alors relatif. Mais lorsqu’il s’agit de décisions de justice, les considérations et les enjeux ne sont évidemment plus les mêmes.

Des cas d’erreurs, il y en a eu, notamment aux Etats-Unis où des algorithmes sont utilisés pour évaluer les risques de récidive des détenus. Ces algorithmes sont en réalité un véritable échec puisqu’ils défavorisent largement les Afro-Américains dont le risque de récidive est souvent surévalué par rapport à des détenus Blancs [1].

Malgré les objectifs ambitieux en termes d’innovation jurisprudentielle et de justice prédictive, il faut réfléchir dès maintenant aux limites du développement d’un tel projet. Le décret « DataJust », entré récemment en vigueur, illustre parfaitement les difficultés substantielles de la robotisation de la justice. Ce décret vise à créer un référentiel afin de développer un algorithme prédictif en matière de réparation de préjudices corporels. Ainsi seront collectées les décisions de justice liées à des indemnisations de préjudice corporel. Un algorithme sera ensuite créé sur base de ces données dans le but de guider le juge dans sa prise de décision.

Au-delà du risque d’éventuels biais de l’algorithme, il est légitime de craindre l’émergence d’une future justice dans laquelle l’évaluation des préjudices serait automatisée. Le juge ne prendrait plus en compte la singularité de la situation de chaque victime : à cas similaires, il prendrait continuellement les mêmes décisions et attribuerait toujours les mêmes indemnisations.

Les algorithmes au service d’une justice transparente.

Revenir aux fondamentaux ne signifie pas pour autant rester paralysé par le fonctionnement poussiéreux de la justice et renoncer aux technologies. L’enjeu est de trouver la façon la plus saine de les introduire tout en garantissant les principes d’une justice impartiale et transparente. L’open data est un outil qui pourrait permettre d’arriver à cet équilibre. En effet, partager ses données instaure de la confiance. Cette confiance est bienvenue, lorsqu’on sait à quel point la société se méfie de la parole publique.

Aujourd’hui, le potentiel des technologies doit surtout être mis au service d’une justice plus transparente. Dans un contexte où la diffusion de l’information est de plus en plus rapide, la justice doit être modernisée et devenir plus efficace. Pour (re) créer le lien de confiance, il est primordial qu’il y ait une équité dans l’accès à l’information, grâce à une démarche open data volontariste et proactive.

La circulation de l’information au sein même des pouvoirs publics est perfectible, à l’image d’une récente commission parlementaire pendant laquelle les parties prenantes semblaient découvrir en séance les chiffres des condamnations pour viols [2].

Par ailleurs, l’ouverture de ces données n’est pas nécessaire seulement au niveau national. En effet, au niveau local, le maire a également besoin d’informations précises pour prendre des décisions éclairées et faire respecter les mesures au maintien de l’ordre, de la sécurité, de la tranquillité et de la salubrité publics sur le territoire de la commune. Par exemple, l’accès aux données concernant les condamnations pour délits routiers permet à un maire de s’appuyer sur des chiffres concrets afin de mener une réflexion détaillée à propos de l’aménagement de la ville.

Bien que la justice prédictive reste encore à l’état de projet, il convient dès maintenant de s’attarder sur les conditions sine qua non à son futur développement. Aujourd’hui, on plaide beaucoup pour le dialogue entre les différents acteurs, mais celui-ci reste vain s’il n’est pas nourri par des données sur lesquelles s’appuyer. Moderniser la justice oui, mais sans remettre en question les principes fondamentaux.

Merci à Jean-Marc Lazard, CEO d’Opendatasoft pour son concours.

Notes :

Gaylord Marchesseau, Expert Secteur Public

Recommandez-vous cet article ?

Donnez une note de 1 à 5 à cet article :
L’avez-vous apprécié ?

3 votes

A lire aussi dans la même rubrique :

LES HABITANTS

Membres
PROFESSIONNELS DU DROIT
Solutions
Formateurs