Procès filmés : faut-il craindre une possible analyse prédictive des décisions de justice ?

La crainte d’une analyse prédictive des décisions de justice, si on peut parler de menace, est totalement justifiée. Elle s’inscrit dans le cadre des spéculations faisant état de ce dont l’intelligence artificielle serait en train de menacer la démocratie telle que nous la connaissons en raison d’études récentes sur les possibilités d’user de l’intelligence artificielle et/ou de l’apprentissage automatique pour rendre la justice.

L’intelligence artificielle atteint des proportions grandissantes au sein de notre société et cela dans beaucoup de domaines. Cependant, le cadre juridique autour des TIC semble, pour le moment, très en retard pour contrôler leur ingérence dans nos vies, mais cela pourrait changer avec la mise en place des procès filmés.

La santé, l’éducation, la médecine, la mobilité, la communication, le commerce, etc. Tous ses domaines sont aujourd’hui couverts par l’IA. À l’horizon, selon Daniel Chen, chercheur et professeur à l’Université Toulouse Capitole, on pourrait bientôt inclure dans cette longue liste le droit dans l’objectif d’avoir plus de crédibilité dans certaines décisions rendues par les juges de tribunaux. On pourrait penser à ce stade que l’IA viendra combler les "lacunes" de la justice. Daniel Chen préconise donc d’utiliser l’apprentissage automatique pour réduire les décisions parfois biaisées des juges.

À terme, l’apprentissage automatique pourra apprendre, grâce aux vidéos, des décisions déjà rendues dans les cours et tribunaux, faire des analyses et apporter des améliorations sur celles contenant des biais humains. Encore une fois, le big data, l’apprentissage automatique et l’intelligence artificielle tenteront peut-être de voler la vedette aux juges. Une invention de l’homme pour se juger soi-même ?

L’analyse judiciaire prédictive promet d’accroître l’équité du droit.

De nombreux travaux observent la présence de biais cognitifs [2] et des incohérences dans le comportement des juges [3].

En prédisant les décisions judiciaires avec plus ou moins de précision, en fonction d’attributs judiciaires ou de caractéristiques de procédure, l’application automatique, issue de la vidéothèque des procès, permettra de détecter les cas où les juges sont le plus susceptibles de laisser des préjugés juridiques supplémentaires influencer leur prise de décision.

Prédire les comportements humains.

La multiplication des données numériques et les avancées de l’intelligence artificielle permettent aujourd’hui d’aborder la prédiction des comportements humains par le biais d’une approche quantitative, qui s’affranchit en grande partie du caractère subjectif de l’observation humaine et de la modélisation par un expert.

Les humains perçoivent le monde à travers des concepts complexes qu’il est parfois difficile de mettre en évidence parmi une multitude de données brutes. Par exemple, comment déterminer humainement, à partir du visionnage de procès le comportement de tel ou tel acteur d’un procès ?

Pour cela, le premier élément indispensable est de disposer de modèles précis de prédictivité des comportements humains et des contextes dans lesquels ils interviennent.

Par comparaison avec la théorisation des lois de la Nature opérée par les physiciens, la difficulté principale est la quasi-impossibilité de réaliser des expériences dans un contexte contrôlé et simplifié afin de pouvoir isoler l’influence d’une variable sur les comportements des individus. Avec la mise en place des procès filmés, ce point sera, en grande partie, réglé.

Pouvoir mettre en évidence l’influence de chacune des variables prise isolément demandera alors de disposer :

• D’une description aussi exhaustive que possible du contexte (environnement, mais aussi caractéristiques de l’individu) dans lequel les comportements humains se produisent ;
• D’un grand nombre d’observations ;
• De la capacité de traiter cette énorme quantité d’informations hétérogènes.
  L’autre élément indispensable à la démarche de théorisation sera de disposer des bons outils de modélisation.

L’évolution des dispositifs de mesure.

Nous pouvons partir du principe que tout type de comportement humain est prédictible, la qualité de la prédiction étant directement fonction de la quantité et de la variété des données contextuelles disponibles, de notre capacité à traiter ces dernières de manière algorithmique et du modèle de prédictibilité utilisé.

Plusieurs modèles ont été développés au cours de la seconde moitié du XXe siècle pour prédire les comportements des individus. Pour simplifier, ils peuvent être classés en deux groupes principaux : le modèle sociocognitif, qui fait intervenir un nombre restreint de déterminants du comportement (croyances, attitudes, auto-efficacité), et le modèle intégré de De Vries [4].

1. Modèles sociocognitifs.

Ces modèles ont pour vocation d’organiser des interventions visant à changer le comportement des individus. Dans ces modèles, les déterminants « proximaux » (facteur motivationnel ou attitude, perception et intériorisation des normes, sentiment d’auto-efficacité) ont un rôle premier, et conditionnent l’intention d’agir, qui précède elle-même le comportement ; l’influence des déterminants « distaux » (société, culture, personnalité) est modulée par les premiers. Ces trois éléments – attitude, normes, auto-efficacité – se trouvent à la base de nombreux modèles développés depuis.

2. Modèle intégré.

Hein de Vries, a développé un modèle intégré. La triade classique attitudes – normes –auto-efficacité (intégrée ici sous le titre « Motivational factors ») est au centre du processus ; ces trois facteurs motivationnels sont influencés par des facteurs prédisposants (comportementaux, psychologiques, socio-culturels), des facteurs de conscientisation et des facteurs d’information. Le processus cyclique de Prochaska et DiClemente [5] (intégré ici sous le titre « Intention state ») vient ensuite. Entre l’intention et le comportement proprement dit, des facteurs favorisants et des obstacles peuvent encore moduler l’issue comportementale.

L’intelligence artificielle.

Les progrès en intelligence artificielle permettent :

• De traiter automatiquement et pour un faible coût de grandes quantités de données hétérogènes. Ce qui sera le cas pour les procès filmés ;
• D’apprendre des concepts complexes à partir de données qu’il aurait été impossible de programmer explicitement.

Les algorithmes peuvent-ils améliorer les décisions des juges ?
Les recherches de Daniel Chen [6] ont fourni de nombreuses données probantes sur les préjugés au sein du système juridique américain. Il soutient ici que l’intégration des outils d’apprentissage automatique et des données juridiques offre un mécanisme permettant de détecter en temps réel - et donc de corriger - les comportements judiciaires qui minent l’état de droit.

Jusqu’à présent, la plupart des travaux empiriques se sont concentrés sur l’observation des influences sur le comportement des juges, aidant à diagnostiquer des problèmes de partialité, mais offrant peu de solutions. Il existe une abondante documentation qui démontre que des caractéristiques qui ne devraient pas être pertinentes sur le plan juridique - comme la couleur de peau, la météo ou les attributs judiciaires - sont en fait prédictives des résultats juridiques dans divers contextes.

Selon Daniel Chen, les juges sont plus susceptibles de permettre à ces préjugés extra-légaux d’influencer leur prise de décision lorsqu’ils sont le moins influencés par des circonstances juridiquement pertinentes. Dans les tribunaux, Daniel Chen montre que les juges ayant les taux d’octroi les plus élevés et les plus bas sont beaucoup plus prévisibles que les autres. « Toutefois, les juges moins prévisibles ont tendance à avoir des taux de subvention moyens. Il se peut qu’ils n’aient pas de préférence marquée et qu’ils soient donc guidés par des facteurs aléatoires lorsqu’ils prennent une décision - essentiellement en jouant à pile ou face… »

L’apprentissage automatique offre un moyen de détecter automatiquement de tels cas d’indifférence judiciaire - où les décisions des juges semblent ignorer les circonstances de l’affaire - parce que ce sont aussi les contextes dans lesquels les outils d’apprentissage automatique sont susceptibles d’être les moins précis dans la prévision des décisions.

De même, les recherches de Daniel Chen ont démontré la possibilité pour l’apprentissage automatique d’automatiser la détection des incohérences entre les juges en raison de facteurs juridiquement non pertinents. Dans les tribunaux, Daniel Chen estime que ces influences sont très répandues, notamment l’heure de la journée, la taille de la famille du demandeur et la date de la décision.

Intervention extérieure.

Grâce aux vidéos de procès, l’identification de juges dont le comportement est prévisible à des stades relativement précoces de la procédure pourront permettre une intervention extérieure. Par exemple, des programmes de formation pourraient cibler ces juges, soit dans le but d’éliminer leurs préjugés, soit pour aider à améliorer le processus d’audience. Le simple fait d’alerter les juges, via le visionnage de procès et l’analyse de données, sur le fait que leur comportement peut indiquer une injustice pourrait suffire à modifier leur comportement.

Les progrès de l’analyse des données peuvent permettre des interventions plus ciblées. « Il est peut-être possible, suggère Daniel Chen, d’établir les combinaisons les plus prévisibles des caractéristiques des affaires et des caractéristiques judiciaires. Lorsque de telles paires sont trouvées, les juges peuvent recevoir un avertissement, comme contrepoids au biais de confirmation ou à d’autres sources d’influence non juridiques. »

Informer les juges des prédictions faites par un décideur modèle pourrait contribuer à réduire les variations et l’arbitraire au niveau du juge. S’ils sont portés à l’attention d’un juge, les préjugés potentiels pourraient faire l’objet d’un examen cognitif de plus haut niveau. Ces efforts s’appuieraient sur les travaux visant à intégrer l’évaluation des risques dans le processus de justice pénale.

La formation des juges.

La formation des juges, à travers notamment les vidéos de procès, serait un autre moyen pour l’apprentissage automatique d’améliorer les décisions judiciaires. Le premier objectif serait d’exposer les juges à des conclusions concernant les effets de facteurs juridiquement pertinents et juridiquement non pertinents sur les décisions. Le deuxième objectif serait d’éduquer les décideurs juridiques sur l’inférence, la prédiction et les outils d’analyse des données, afin qu’ils puissent mieux comprendre l’information disponible et les facteurs conscients et inconscients qui peuvent influencer leurs décisions.

À titre d’exemple, la formation des juges a connu un succès considérable aux États-Unis.
En 1990, 40% des juges fédéraux avaient suivi un programme de formation de deux semaines en économie lancé en 1976. Cette formation a diffusé le langage économique, qui s’est rapidement répandu dans les verdicts judiciaires. Plus concrètement, la formation a changé la façon dont les juges perçoivent les conséquences de leurs décisions.
Dans les affaires de réglementation économique, les juges ont modifié leur vote de 10% dans le sens contraire à la réglementation. Dans les tribunaux de district, lorsqu’ils disposaient d’un pouvoir discrétionnaire en matière de détermination de la peine, les juges formés en économie prononçaient des peines 20% plus longues que leurs homologues non-économistes.

On peut logiquement penser que cette formation a probablement fourni aux juges une structure leur permettant de comprendre les tendances. Le prochain défi sera de voir si l’apprentissage automatique, l’analyse de données visuelles et textuelles et d’autres développements permettront de franchir une nouvelle étape.

Finalement, si l’on présente aux juges, à partir des vidéos de procès, des résultats comportementaux, seront-ils moins enclins aux préjugés comportementaux ? Si on enseigne aux juges la structure théorique qui sous-tend les préjugés comportementaux, seront-ils de meilleurs juges ? Une nouvelle génération de théories et de preuves issues des sciences comportementales et sociales pourrait-elle apporter une meilleure justice et accroître la coopération, la confiance, la reconnaissance et le respect ?