Numérique : quel impact des algorithmes sur la décision judiciaire ?

Les 21 et 22 novembre s’est déroulé à la Cour de cassation, à Paris, un séminaire consacré à "l’impact des algorithmes sur la décision judiciaire". Première séquence d’un cycle, il s’inscrit dans une thématique de travail globale "numérique et justice" qui vise à développer une culture commune des magistrats formateurs de l’ENM sur le sujet. Retour sur ces deux jours inédits de formation.

« Le numérique est désormais incontournable, matérialisé dans la législation par la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique. Il apparaissait donc impératif à l’ENM d’en cerner les enjeux : l’École devait engager une réflexion raisonnée sur les nouvelles potentialités et sur les questions que peut poser cette évolution de la société », explique Valérie Lauret, magistrate-coordonnatrice de formation à l’ENM à l’origine de ce séminaire. « Le choix a été fait de réaliser ce 1er séminaire, en collaboration avec l’Institut des hautes études juridiques et le Service de documentation, des études et du rapport de la Cour de Cassation, sur le cœur du métier du magistrat, donc sur l’impact des algorithmes sur la décision judiciaire », ajoute-t-elle, avant de préciser : « Que savons-nous des algorithmes ? De quoi s’agit-il ? Est-ce nouveau ? Comment ces outils peuvent-ils alimenter, augmenter, réduire ou transformer l’activité juridictionnelle ? Plus qu’une suite d’intervention d’experts ou de professeurs sur le sujet, l’ENM a souhaité inviter les magistrats participants à cette formation à examiner concrètement leur raisonnement à l’œuvre pour la motivation de leur décision. Chacun a pu se sentir directement impliqué. »

Comprendre comment les magistrats réagissent face aux algorithmes

« Nous cherchons des réponses aux questions suivantes : l’information chiffrée (pourcentage) fournie par l’algorithme est-elle une vérité pour le magistrat ? S’en méfie-t-il ? Ou l’ignore-t-il ? Va-t-il chercher à comprendre comment ce chiffre a été obtenu ? » annonce Étienne Vergès, membre du comité de pilotage de ce séminaire, professeur de droit privé et science criminelle à l’université de Grenoble et chercheur. « Pour cela, nous avons analysé le processus décisionnel du magistrat à travers 2 dossiers, l’un pénal et l’autre civil, que les participants ont dû traiter en amont du séminaire. Pendant le séminaire, une première analyse des critères pris en compte dans la décision a été effectuée. »

Comprendre et maîtriser les technologies du numérique

« Le sujet choisi renvoie chez chacun à de nombreuses représentations et à des notions très éloignées de notre culture et de notre langage juridique d’où la nécessité, rapidement repérée, d’un travail pluridisciplinaire. Pour ce faire, le comité de pilotage de ce séminaire a fait appel à un informaticien, Fabien Tarissan, chargé de recherche au CNRS, professeur attaché à l’ENS Paris-Saclay et vice-président Médiation de la Société Informatique de France, qui, avec Yannick Meneceur, magistrat de l’ordre judiciaire, détaché au Conseil de l’Europe et Étienne Vergès, ont été les experts indispensables à une construction éclairée de cette formation », explique Valérie Lauret.

« L’objectif de mon intervention était d’expliquer aux magistrats le fonctionnement des algorithmes - en mettant en exergue les outils mathématiques utilisés dans la prise de décision judiciaire. Il s’agissait en outre de les sensibiliser à la nécessité de maîtriser ces techniques - et ce, pour éviter d’attribuer une vérité démesurée ou d’extrapoler les réponses qui en résulteraient et qui se seraient présentées au sein des dossiers pénal et civil » détaille Fabien Tarissan.

 « Il s’agit de comprendre que le choix d’un algorithme ne peut pas être à 100% objectif. Il faut être également attentif au fait que lorsque l’algorithme analyse la base de données, il ne peut faire remonter que des données d’apprentissage partielles car il est impossible d’extraire l’ensemble des décisions de justice correspondant à un problème soulevé. », ajoute Fabien Tarissan.

« Autrement dit, quand une estimation chiffrée provenant d’un algorithme est présentée à un magistrat lors de sa prise de décision, même à titre de conseil, il y a une influence. Gardons aussi à l’esprit qu’un algorithme, même utilisé dans d’autres contentieux, n’est qu’un rétroviseur qui regarde le passé contenu dans ses données. Et loin de répondre à l’ambition assignée, ces mécanismes reproduiraient, voire aggraveraient les biais déjà présents dans la société. C’est en tout cas ce que semblent démontrer les études faites sur les tentatives d’évaluation du risque de récidive aux États-Unis », alerte Yannick Meneceur.

Des bienfaits du numérique à la nécessité de repenser aux fondamentaux

Étienne Vergès explique, pour sa part, que ces nouvelles techniques permettraient « une meilleure prévisibilité et davantage de cohérence des décisions car des critères fixes permettent de les guider ».

« Nous ne pouvons pas réduire nos réflexions à un débat qui consisterait à être pour ou contre le numérique. Détracteurs ou promoteurs ont chacun des arguments valables. Il s’agit pour nous magistrats de les connaître bien sûr mais surtout, de saisir cette chance de revenir, à l’aune de ce mouvement universel, aux fondamentaux : le numérique ne renvoie-t-il pas à une exigence renouvelée de rendre compte de l’acte de juger ? Ne serait-ce pas alors l’occasion formidable de repenser l’office du magistrat ? Nous faut-il donc repenser cet office ? Telle était la question posée à Julie Allard, professeure de philosophie du droit et doyenne de l’Université libre de Bruxelles qui, intervenant le second jour, a pu nous offrir son expertise et son regard sur ces journées avec la hauteur de vue qu’il nous fallait », indique Valérie Lauret.

L’ENM et le numérique : des formations et des études

En 2019, se sont déroulées 2 formations continues en régions sur la hiérarchie des preuves (notamment les outils d’aide à la conviction) auxquelles a participé Étienne Vergès. Par ailleurs, l’ENM finance un projet de recherche de l’université de Grenoble-Alpes sur le raisonnement probatoire du juge, pour lequel les chercheurs, dont Étienne Vergès, s’appuient sur l’observation des directions d’études à l’ENM et travaillent également sur une méthode graphique – la méthode de Wigmore – pour raisonner efficacement face aux nombreux éléments d’un dossier.

Par ailleurs, un numéro de la revue de l’ENM « Justice et actualités » a également été consacré à la preuve numérique.