Accueil Actualités juridiques du village La réforme de la Justice dans tous ses états ! Tribunes et analyses.

Justice Prédictive : les enjeux du Big Data.

Par Patrick Roulette, Avocat.

Pour apprécier les conséquences de l’introduction de la Justice Prédictive, il est indispensable que nous réfléchissions tous ensemble sur les risques d’inclure les données des justiciables dans le Big Data. Il ne s’agit pas d’opposer les opinions des confrères sur l’intérêt d’éventuelles nouvelles technologies, mais plutôt d’essayer de déterminer ce qui peut se cacher derrière le miroir aux alouettes d’une Justice "High Tech" !

Le débat sur la Justice Prédictive semble se diriger vers la sempiternelle opposition entre les anciens et les nouveaux.

C’est une erreur, dont profite le Gouvernement pour faire avancer une modification substantielle de la Justice, dans son intégralité.

Rappelons que dès les premiers articles du projet de loi, il est institué un recours préalable et obligatoire, dénommé conciliation, mais qui peut être pris en charge de façon dématérialisée (via l’Internet) par des sociétés agréées, dénommées très souvent les « Legal tech ».

Ces structures vont alors modéliser la demande, c’est-à-dire remplir des champs et entrer des variables, de telle sorte qu’elles pourront alors interroger leur banque de données et prédire le sort de la procédure.

Et ce dispositif est présenté comme un progrès, s’appuyant sur les avances technologiques et permettant – enfin – de faciliter l’accès à la Justice.

Le but me paraît tout autre et l’engouement de certains confrères pour cette proposition me paraît résulter d’une grave confusion entre robotisation et prédiction.

La robotisation concerne tous les outils nous permettant de faciliter la création de documents, en permettant de fusionner des données recueillies avec des formulaires pré-rédigés, le tout de façon quasi automatique.

Il s’agit d’une avancée formidable tant pour les justiciables que les Avocats.

La prédiction c’est autre chose.

Elle repose au préalable sur la constitution d’une base de données gigantesque, destinée à recueillir toutes les décisions de toutes les juridictions, pour les classer, les analyser et en extraire les éléments significatifs.

C’est cette base de données qui va constituer l’un des éléments de ce que l’on appelle le Big Data.

Mais cette base de données n’a aucun intérêt si elle n’est pas croisée avec celles des demandes formulées par les justiciables.

C’est là qu’intervient la « Legal Tech » qui va se charger de faire entrer les données dans les cases immortalisées par le fameux « Zézette épouse X » [1].

Il s’agira tout d’abord de rentrer les données personnelles du justiciable, démarche indispensable pour pouvoir ensuite justifier de la saisine préalable prévue par la loi.

Ensuite il faudra analyser les demandes pour les faire correspondre à une grille de lecture des données préenregistrées.

Enfin c’est le croisement entre ces différents fichiers qui permettra d’effectuer la fameuse « prédiction » grâce au recours à ce qui est appelé l’IA, l’intelligence artificielle.

C’est cet ensemble de données croisées et le recours à l’IA qui constituent le « Big Data ».

Il faut regarder les domaines dans lesquels le Big Data s’est imposé pour comprendre les risques et les enjeux.

Dans un article du 23 mai 2017, Pierre-Cyrille Hautcœur écrivait dans le Monde que :

« La gestion optimale des données est ainsi devenue un horizon commun à de très nombreuses entreprises, avec des effets très concrets sur la vie de chacun : depuis la tarification « optimale » (pour ses profits) pratiquée par la SNCF jusqu’aux compteurs­ « intelligents » d’EDF, en passant par l’ajustement des « propositions » des GAFA (Google, Amazon, Facebook et Apple) et autres entreprises du secteur du numérique accumulant les données à des échelles pharamineuses (le big data). »

Il complétait ce propos de la façon suivante :

« Celles-ci (les données), néanmoins, restent leur propriété et ne sont pas rendues publiques, quand bien même elles concernent d’autres parties (sauf de très hypothétiques droits de rectification). »

Nous savons aujourd’hui que le Big Data est devenu un enjeu économique majeur et que les GAFA investissent à tour de bras pour capter ce marché.

Nous savons également que la détention de ces données expose à des détournements à la hauteur du volume des informations connectées.

Le cas le plus récent et le plus emblématique est celui du piratage des données des comptes Facebook par la société Cambridge Analytica.

Sur le site de France info figure une analyse détaillée de cette affaire dont j’ai extrait quelques éléments :
« Les 50 millions de profils Facebook et toutes leurs données ne sont pas tombées entre n’importe quelles mains. Cambridge Analytica, spécialisée dans la communication stratégique et notamment dans la collecte de données à des fins électorales, est une filiale américaine de la société britannique de marketing ciblé SCL. Elle n’est pas vraiment neutre politiquement. Son propriétaire Robert Mercer est un milliardaire climato-sceptique, nationaliste, islamophobe, et l’un des rares à avoir soutenu Trump dès le début. L’Américain Steve Bannon, ancien proche conseiller du président américain et invité d’honneur du congrès du Front national mi-mars à Lille, a également siégé à son conseil d’administration. »

Mais ce qui paraît fondamental ce sont les propres déclarations de cette société dont France Info nous dit :
« Elle s’est vantée d’avoir mis en œuvre un logiciel capable de prévoir et d’influencer les choix des électeurs et améliorer la visibilité et l’efficacité de la campagne électorale, et notamment celle de Donald Trump avec qui elle a signé un contrat en juin 2016 pour la campagne présidentielle. Elle a aussi travaillé au Royaume-Uni pour un groupe pro-Brexit, Leave.EU. »

La problématique est alors simple à poser pour ce qui concerne la justice prédictive.

  • Si Facebook a pu ainsi se voir pirater ses millions de données, quel sera le niveau de sécurité de nos fameuses Legal Tech ?
  • Dans la mesure où certaines de ces sociétés sont déjà constituées et que compte tenu du calendrier voulu par le Gouvernement, leur procédure de certification est déjà en cours, quel est le cahier des charges établi par la Chancellerie et qui a défini le process de certification ?
  • Où seront stockées les données concernées, sachant que pour 2017 il y a eu plus de 2.670.000,00 affaires nouvelles au civil !
  • Qui vérifiera les modalités de saisine, c’est-à-dire l’entrée des variables ?
  • Qui validera l’algorithme d’interrogation et donc la pertinence de la prédiction ?
  • Qui aura ensuite accès aux données enregistrées à l’occasion de cette phase préalable et comment pourront-elles être exploitées ?

Ces question doivent être résolues avant la mise en place de ce dispositif, car à défaut leur traitement relèvera ensuite du décret, sans contrôle et sans concertation

Aujourd’hui le Big Data est défini par ce que l’on appelle les 3 V à savoir Volume, Vitesse, Variété.

Plusieurs acteurs de l’Internet souhaitent y rajouter un quatrième V, celui qui regroupe trois éléments : Visualisation, Valeur et surtout Véracité.

C’est ce quatrième V qui est l’enjeu du dispositif de Justice prédictive et pour lequel aucun élément n’a été communiqué.

Ce faisant la Chancellerie (ou plutôt semble-t-il Bercy) ouvre la Boite de Pandore et transfère sur des structures privées des données confidentielles dont l’utilisation peut être détournée, avec l’utilisation de techniques mal définies et non-contrôlées qui peuvent priver la « prédiction » de toute valeur mais également la rendre totalement manipulable.

Ces dangers sont-ils perçus ?

En tout cas ils ne sont pas dans le débat public alors même que la mauvaise utilisation de cet outil peut priver les Justiciables de l’accès au droit ou tout simplement, favoriser ceux qui disposeront de leurs propres outils pour « manipuler » à leur tour ces fameuses « Legal Tech » et influer ainsi sur leur « analyse »

Certes l’approche technique de l’outil est quelque peu éloignée de notre culture et de nos centres d’intérêts, mais la mise en place des « Legal tech » est en cours depuis de nombreux mois et ce ne sont pas les adaptations à la marge que propose la Chancellerie qui répondent aux questions de fond.

Le scandale Facebook peut être un support de notre contestation, tant il met en lumière les risques du Big Data mais surtout de son usage incontrôlé.

Si nous voulons que dans le futur les « Zézette épouse X » puissent encore saisir une Juridiction et avoir la possibilité d’y faire reconnaitre leurs droits, il me paraît urgent que la profession se saisisse de cette question de fonds.

Patrick Roulette,
Avocat au Barreau de la Seine-Saint-Denis.
patrick.roulette chez wanadoo.fr

Voir tous les articles
de cet auteur et le contacter.

Recommandez-vous cet article ?

Donnez une note de 1 à 5 à cet article : L’avez-vous apprécié ?

46 votes

Notes :

[1Voir le film "Le Père-Noël est une ordure".