Linux Quimper

La justice se prépare à l’arrivée des algorithmes


(l'homme réparé) #1

Cela fait plusieurs années que tout un écosystème de start-ups attend l’ouverture du marché de la justice numérique, aujourd’hui freiné par le manque de décisions en open data et de cadre juridique. Le projet de réforme de la justice en cours d’examen en pose les bases. Certains s’inquiètent de l’application d’algorithmes au monde judiciaire, promettant, à terme, de prédire l’issue des procédures.

La numérisation de l’État était l’une des grandes promesses d’Emmanuel Macron. La « start-up nation » est censée s’accompagner d’une dématérialisation de tous les aspects des relations entre les institutions et les citoyens. Certains chantiers sont déjà bien avancés, par exemple dans le domaine fiscal avec le paiement des impôts à la source. Le projet de loi sur la justice en cours d’examen au Parlement en ouvre un nouveau : celui de la numérisation de la justice.

Ce texte introduit quelques mesures qui marquent les premiers signes de l’adaptation de l’institution judiciaire au numérique, ainsi que de son ouverture au marché de la « legaltech » (en français, technologie juridique ou technologie au service du droit). Derrière ce terme se cache tout un écosystème d’acteurs dont le but est de promouvoir la numérisation de la justice : les procédures qui pourront se faire en ligne, les jugements qui pourront être rédigés, voire rendus, par un algorithme ou encore les décisions elles-mêmes, qui formeront ainsi une gigantesque base de données, autrement dit le « big data » dont ont besoin les algorithmes pour tourner.

Comme pour sa cousine la « civic tech », dont le but est de numériser les institutions démocratiques, la communauté de la legaltech abrite des acteurs convaincus que l’informatique a le pouvoir de transformer la société, mais également de nombreuses entreprises impatientes de « disrupter » un nouveau marché potentiellement colossal. Benjamin Jean appartient à la première catégorie. L’association qu’il préside, Open Law, milite pour un « droit ouvert » et un rapprochement entre le monde du juridique et celui du numérique.

« Il existe plusieurs définitions possibles de la legaltech, explique-t-il à Mediapart. Au sein d’Open Law, nous considérons comme acteurs de la legaltech tous ceux qui s’appuient sur des solutions et des outils numériques pour favoriser l’accès au droit et à la justice. La finalité, c’est vraiment l’accès au droit et à la justice. Et c’est l’utilisation du numérique dans cette optique qui caractérise la legaltech. »

« C’est donc une définition très large , poursuit Benjamin Jean. Les premières formes de legaltech ont été les plateformes de marché, qui permettaient de contacter facilement un avocat. Au sein des cabinets d’avocats et des études de notaires, le numérique permet déjà de faire mieux ce qu’on faisait avant. Il existe pas mal de solutions qui permettent de mieux gérer les documents et toutes les saisies. Ensuite, il y a tout ce qui permet de favoriser la collaboration. Certains nouveaux outils permettent d’aller dans le sens de la pluridisciplinarité, de faire travailler facilement des avocats avec des notaires, avec des huissiers, de favoriser les relations entre les professions réglementées. »

« Aujourd’hui, explique Benjamin Jean, il y a toute une diversité d’acteurs venant soit du numérique, des pure players , soit des secteurs traditionnels. Les éditeurs juridiques notamment sont tous depuis quelque temps sur le numérique. Il y a également des acteurs institutionnels comme la Dila (Direction de l’information légale et administrative) ou le Parlement. »

Au-delà de la numérisation des dossiers et des procédures, certaines sociétés proposent d’aller plus loin en introduisant des algorithmes dans notre système juridique. « Certains outils permettent de faire des choses impossibles auparavant. C’est notamment le cas de ce que l’on appelle la “justice prédictive” , ou en tout cas l’intelligence artificielle appliquée au droit » , souligne le président d’Open Law.

Les 27 et 28 novembre derniers, l’association organisait à la Cité des sciences à Paris, avec le site communautaire de professionnels du droit Village de la justice, le quatrième Village de la LegalTech, un salon témoignant du foisonnement d’offres déjà existantes sur le marché. Aux côtés des éditeurs juridiques les plus connus, tels que Dalloz, venus présenter leurs services en ligne, de nombreuses start-ups proposent de numériser le travail administratif des avocats, de réaliser son divorce à l’amiable en ligne ou encore de prévoir, grâce aux algorithmes, l’issue d’une procédure.

Parmi ces plateformes, Mesindemnites.com propose par exemple d’ « obtenir le montant précis des indemnités du solde de tout compte, les droits à Pôle Emploi et les indemnités de licenciement prud’homales » . La société Predictice, elle, propose une offre complète promettant d’analyser « des millions de décisions de justice en 1 seconde » afin de prédire « le taux de succès d’une action contentieuse » . Le « rapport d’analyse » est accompagné d’une série de données comme la répartition des décisions favorables ou défavorables en fonction des différents ressorts géographiques, ainsi que d’un accès à la jurisprudence disponible.

« Je suis assez réservé sur ces nombreux outils qui permettent de faire de la statistique, de l’accompagnement avec une certaine prédictibilité , modère Benjamin Jean. Aujourd’hui, c’est plus un argument commercial qu’une réalité. La legaltech est un marché déjà important, mais encore en pleine expansion. Il y a plein d’acteurs, mais je pense qu’on est encore dans une phase d’exploration et que ça va se resserrer ensuite. »

En dépit des promesses que font miroiter certaines start-ups, la legaltech n’en est en effet qu’à ses balbutiements. Pour fonctionner à plein régime, les algorithmes ont besoin d’un maximum de données, ou au moins d’une masse suffisante pour constituer du « big data ». Or la justice française est une institution qui s’accommode encore mal des immixtions du privé dans ses affaires. De nombreux juristes voient d’un très mauvais œil la numérisation de procédures qui se font encore bien souvent sur papier.

À ce jour, seules les principales décisions, importantes pour la jurisprudence et émanant le plus souvent des hautes juridictions, la Cour de cassation et le Conseil d’État, sont mises en ligne sur les sites de Légifrance et de la Dila. Pour le reste, les sociétés doivent se débrouiller pour se procurer les décisions qui les intéressent. Parfois de manière peu orthodoxe. Au mois d’octobre dernier, le barreau de Paris a ainsi porté plainte après le piratage de plusieurs milliers de décisions de justice par la plateforme Doctrine.fr.

Malgré leurs efforts, les start-ups peinent à constituer une base de données digne de ce nom. Une plateforme telle que Doctrine.fr affirme par exemple disposer de 7 millions de décisions de justice alors que, chaque année, environ 4 millions de jugements sont rendus par les juridictions judiciaires et administratives. Pour que le marché de la legaltech , et plus particulièrement de la justice prédictive, puisse réellement décoller, celui-ci a un besoin vital d’accéder à l’ensemble des décisions de justice.

Ce big-bang de la legaltech est pourtant promis depuis plus de deux ans par l’État. La loi pour une République numérique du 7 octobre 2016 avait posé, dans ses articles 20 et 21, le principe d’une « mise à la disposition du public à titre gratuit dans le respect de la vie privée » de l’ensemble des décisions de justice. Mais ces dispositions nécessitaient la publication d’un décret précisant, notamment, les conditions d’anonymisation des décisions. Celui-ci n’a toujours pas été pris en raison des vifs débats sur le sujet.

Un manque de contrôle

L’arrivée au pouvoir de la majorité LREM et de sa « start-up nation » a placé la numérisation des institutions, dont la justice, en tête des réformes prioritaires. Dès le mois d’octobre 2017, la garde des Sceaux Nicole Belloubet lançait une série de consultations devant aboutir à une vaste réforme du système judiciaire. Celle-ci est divisée en cinq chantiers, dont l’un s’intitule « Transformation numérique » .

Les résultats des travaux, présentés au mois de janvier 2018, ont servi de base au projet de loi sur la justice en cours d’examen. Le même mois, la ministre de la justice recevait le rapport sur l’ open data des décisions de justice, commandé un an plus tôt par son prédécesseur Jean-Jacques Urvoas au professeur de droit Loïc Cadiet.

Au mois d’avril, le gouvernement déposait au Parlement son projet de loi de programmation 2018-2022 sur la justice. Toujours en cours d’examen, celui-ci devrait être définitivement adopté au milieu du mois de janvier. Comme prévu, plusieurs de ses dispositions amorcent le virage numérique promis. Concernant la numérisation des procédures, le texte prévoit de permettre de déposer plainte et de se constituer partie civile sur Internet – alors qu’aujourd’hui il n’y est possible que d’y déposer une pré-plainte –, ainsi que de permettre le recours à la visioconférence lors des audiences pour la prolongation des gardes à vue.

Certaines plateformes, qui proposent de régler de petits litiges en quelques clics, sont déjà nombreuses sur le marché. Benjamin Jean en donne un exemple : « Il y a quelque temps, après avoir pris un vol qui avait eu cinq heures de retard, j’avais testé une de ces solutions en ligne. Ça se fait sur son téléphone. Ils se chargent de faire tous les échanges avec la compagnie aérienne, qui m’a proposé un avoir, ce qu’ils ont refusé. Au final, un avocat a été saisi, qui plaidait pour moi sans même que je ne le rencontre, simplement en signant des autorisations. Ils m’ont pris 10 % de la somme et j’ai reçu 400 euros sur mon compte. C’est un bon exemple de ce que peut apporter le numérique à la justice. Il faut savoir qu’en France, il existe deux TGI, ceux de Roissy et d’Orly, qui consacrent chaque semaine une journée complète à ne traiter que les litiges de retards d’avion. Alors que les indemnités sont fixées par un barème qu’il n’y a pas besoin d’interpréter. »

Le problème est que, pour l’instant, ces offres ne font l’objet d’aucun contrôle. Pour réglementer ce secteur émergent, le gouvernement a écarté l’idée d’un label officiel, mais ouvre la voie à une reconnaissance officielle des plateformes spécialisées dans les « modes amiables de résolution des différends » (Mard) en leur proposant une « certification » facultative, que les plateformes pourront ou non demander. Une demi-mesure dénoncée, notamment, par le député de La France insoumise Ugo Bernalicis.

Cette question de la régulation des Mard est d’autant plus sensible que le texte prévoit également de permettre au juge d’imposer le recours à une procédure de conciliation ou de médiation pour les « petits » litiges, c’est-à-dire ceux portant sur moins de 5 000 euros.

Mais c’est la question de l’ open data des décisions de justice qui est la plus attendue. Le débat portait sur la question de l’anonymisation des noms des magistrats et du personnel de justice. D’un côté, certains, comme l’association Regards citoyens, plaidaient pour que ceux-ci apparaissent clairement afin de permettre des recherches « sur la probité des magistrats et la lutte contre les conflits d’intérêts ou la corruption » . De l’autre, de nombreux magistrats s’inquiétaient de recherches effectuées sur leur nom afin d’établir des classements ou d’exercer des pressions individuelles.

Après plusieurs modifications, la version actuelle du texte, adoptée en deuxième lecture à l’Assemblée nationale, prévoit que les noms des magistrats apparaîtront. Cependant, il prévoit d’interdire « toute forme de réutilisation des données d’identification des magistrats et agents de greffe dans le but d’évaluer, d’analyser, de comparer, ou de prédire leurs pratiques professionnelles » . Une fois adoptée, cette réforme de la justice permettra donc aux start-ups de la legaltech d’appliquer au droit les techniques d’intelligence artificielle déjà appliquées en matière de marketing ou de police prédictive. Avec la promesse, à terme, de pouvoir reconstituer le raisonnement d’un juge ou encore de prédire, avec une quasi-certitude, l’issue d’un procès.

L’idée d’utiliser les chiffres pour automatiser les décisions de justice n’est pas nouvelle. Comme le racontait le philosophe canadien Ian Hacking dans son livre L’Émergence de la probabilité (Seuil, collection Liber, novembre 2002), le raisonnement juridique est même étroitement lié à la naissance de la conception moderne de la probabilité durant la seconde moitié du XVIIe siècle.

Gottfried Wilhelm Leibniz, alors jeune étudiant en droit, joua notamment un rôle central dans cette révolution intellectuelle en tentant d’appliquer la logique mathématique au raisonnement juridique. Par la suite, de nombreux auteurs poursuivront cette quête d’une rationalisation du droit, comme Nicolas de Condorcet qui, en 1785, se penche sur la composition des jurys en matière pénale dans son Essai sur l’application de l’analyse à la probabilité des décisions à la pluralité des voix .

L’importance de la jurisprudence dans la hiérarchie des normes, bien que moindre que dans le système du précédent anglo-saxon, a également conduit les juristes à compiler de manière codifiée les décisions de justice. À partir des années 1960, l’informatique commence à offrir des outils permettant d’exploiter ces bases de données et, dès 1968, un Institut de recherche et d’études pour le traitement de l’information juridique (IRETIJ) voit le jour à Montpellier sous la direction du professeur Pierre Catala.

« Il y a, depuis l’époque moderne, l’idée qu’on peut tenter de rationaliser les rapports sociaux, et le droit, dans ce cadre, peut s’armer d’outils nés dans les sciences sociales, et en particulier l’outil statistique , analyse Jean Lassègue, philosophe et épistémologue au CNRS et coauteur, avec le magistrat Antoine Garapon, de Justice digitale (PUF, avril 2018). Aujourd’hui, l’électronique et l’informatique ont totalement changé la donne et on a l’impression que ce rêve peut se réaliser. Mais il ne faut pas oublier que ce rêve a ses limites. L’informatique est née d’un théorème que l’on appelle négatif, qui est un théorème de limitation. S’il y a des limitations, il ne faut pas les oublier. »

Dans leur livre, Antoine Garapon et Jean Lassègue pointent plusieurs de ces limitations. Concernant la dématérialisation des procédures, le magistrat et le philosophe soulignent l’importance de ce qu’ils appellent la « quatrième dimension de l’audience » , c’est-à-dire le « rituel » entourant toute procédure et nécessitant une rencontre physique entre les parties extrêmement codifiée.

« La justice, ce n’est pas seulement appliquer la loi , explique Jean Lassègue . C’est réussir à ce que, par une opération très ritualisée et très complexe, on arrive à se mettre d’accord sur l’issue d’un certain litige. Et tout ça prend du temps. C’est pour cela qu’un procès, c’est long et compliqué, et avec toutes sortes de ritualisations collectives. Si l’on oublie toute la dimension anthropologique du droit pour ne conserver que sa dimension algorithmique, ce qui est un rêve formaliste pour certains juristes, on rate le but qui est de rendre justice. »

Jusqu’où laisser faire les algorithmes

Pour le philosophe, toute dématérialisation n’est pourtant pas à rejeter, à condition qu’elle relève d’un choix encadré par le politique : « Il y a toutes sortes de litiges qui peuvent être automatisés. Pour les excès de vitesse par exemple, même si vous pouvez contester devant un juge, il s’agit d’un processus quasiment entièrement automatisé. Mais c’est parce que c’est extrêmement simple : vous êtes au-dessus ou en dessous de la limitation de vitesse. »

Cependant, « la chose importante est de déterminer quels types de litige peuvent être traités avec des algorithmes et jusqu’où , poursuit Jean Lassègue. Et ça, c’est ce qui en train d’être fait. C’est selon moi très important car je pense que les informaticiens ne sont pas capables de faire ce travail par eux-mêmes. Ce sont des décisions d’ordre politique. C’est au politique de déterminer à quel niveau il faut faire intervenir le débat contradictoire, la réunion des parties, l’intervention humaine du juge… pour que se produise quelque chose que l’on a peut-être un peu tendance à sous-estimer : le sentiment d’avoir été jugé. Dès que l’on a affaire à des témoignages, des auditions de témoins pour des affaires pénales, ça me paraît impossible de s’en remettre à des algorithmes ».

Cette réaffirmation du politique est d’autant plus nécessaire que les différents logiciels et Mard sont les produits de sociétés privées, dont le développement pourrait conduire à une privatisation de facto de toute une partie de la justice.

« Pour l’idéologie néolibérale, l’État est une espèce de parasite dont on pourrait se passer , souligne Jean Lassègue. Elle voudrait réussir à ajuster les rapports sociaux sans en passer par lui. De ce point de vue, l’informatique joue ce rôle : elle permet d’ajuster des rapports sans en passer par des tiers médiateurs. Dans le cas de la justice, c’est pareil. Un algorithme va répondre à des questions sans en passer par le juge ni par l’État. C’est, selon moi, une folie pure et simple. L’informatique, c’est une médiation, certes d’un nouveau genre, mais une médiation. Il n’y a aucune raison de la penser contre l’État. Celui-ci a son mot à dire. Par exemple, l’État doit pouvoir dire “oui ou non, on utilise ce logiciel” ou “celui-là, je veux connaître son code source”. C’est une question de souveraineté. »

Outre une déshumanisation par l’abandon des rituels et une privatisation par la legaltech , la justice est menacée par la logique même des algorithmes dits prédictifs. Quel intérêt aura un avocat à accepter un dossier dont un algorithme lui aura affirmé que les chances de succès sont inférieures à 50 % ? Un juge osera-t-il s’écarter d’une solution qu’un logiciel présentera comme la plus prononcée par ses pairs ? À terme, la justice prédictive dessine un système judiciaire à deux vitesses, où seuls les justiciables potentiellement rentables pour leur avocat pourront agir en justice, et où le juge se contenterait d’appliquer la loi de manière automatique, sans possibilité d’interprétation.

« Ce risque existe, mais je ne pense pas que ce soit une obligation , estime Jean Lassègue. Quand on dit “justice prédictive”, c’est en fait de la pub. En réalité, ce n’est jamais prédictif au sens strict. Existe-t-il une science qui soit intégralement prédictive ? Non. Par contre, parler de justice prédictive, ça fait de la publicité. »

« Il faut en effet être très vigilant sur les cas particuliers dans les décisions de justice , poursuit le philosophe. Le risque est réel d’avoir une espèce de voie moyenne qui s’impose. Il ne faut pas considérer seulement qu’il s’agit de cas particuliers, il faut aussi considérer que ce sont des cas qui peuvent faire bouger la loi. Et c’est très important. Une loi, ce n’est jamais gravé dans le marbre, ça évolue, mais tout en conservant son pouvoir de contrainte. Et qu’est-ce qui fait évoluer une loi ? Ce n’est pas la décision moyenne, c’est la décision très peu spécifiée, dans un cas qui ne s’était jamais posé, et où on se dit “tiens, ça, on n’y avait pas pensé”. »

Faudrait-il aller jusqu’à interdire aux sociétés de permettre l’affichage des chances de succès d’une affaire, comme le font déjà certains logiciels ? « Je ne crois pas , estime Benjamin Jean. La question n’est pas tant de savoir s’il faut l’empêcher car, de toute manière, cela va se faire. Plein de choses dont nous parlons sont déjà accessibles à ceux qui en ont les moyens. L’enjeu est donc plutôt de savoir s’il faut le démocratiser ou pas et s’il y aura ou non une transparence. Il faut un accompagnement et une lecture critique des chiffres. Il faut plus travailler sur l’accompagnement que sur la limitation. »

« Personnellement, je ne vois pas de problème à ce qu’une personne sache, avant d’aller en justice, combien elle peut espérer toucher comme indemnités et combien de temps ça prendra , poursuit le président d’Open Law. Cela lui permet de se projeter dans un milieu qui est tout de même extrêmement complexe. Au bout du compte, un avocat fait exactement la même chose. Il s’appuie sur son expérience pour dire, pour reprendre l’exemple, que dans tel contexte, vous ne toucherez pas plus que telle somme et que cela prendra tant de temps. Cette expérience peut être rendue accessible au plus grand nombre, et je pense que c’est peut-être bien pour le droit. Après, bien entendu, il faut conserver une place pour la liberté humaine. Je connais des cas où des personnes sont allées jusqu’au procès contre l’avis de leur avocat, pour le principe. Il faut que les gens comprennent ce que ces outils peuvent apporter comme conseils, mais il ne faut pas que ça les limite. »

Lire aussi

Concernant la dématérialisation des procédures, Benjamin Jean rejoint le point de vue de Jean Lassègue. « Il faut juste ne pas tout mélanger. Il y a différents types de situation qui amènent à différents enjeux , estime-t-il. Ce n’est pas la même chose lorsqu’il s’agit d’une action en vice caché pour un téléphone cassé, d’un procès pour harcèlement en droit du travail ou d’un crime jugé en cour d’assises. Il ne faut pas mettre de côté l’aspect présentiel, physique et il ne faut surtout pas enlever l’aspect humain et les rites qu’il y a tout autour des procédures. Il y a des situations, par exemple en matière pénale, où la plaidoirie est un moment indispensable. Tout cela sert à accompagner non seulement le procès, mais également les victimes. »

« Mais en dehors de ces domaines, poursuit Benjamin Jean, il existe de nombreuses choses qui peuvent être automatisées. Par exemple, pour les retards d’avion, les dédommagements sont calculés en fonction d’un règlement européen très précis. Il est tout de même dommage de faire plaider un avocat pendant une heure pour qu’il demande l’application automatique d’un texte. Si on automatise totalement cette procédure, on fait gagner du temps à tout le monde. »

Les acteurs de la legaltech ont conscience des enjeux éthiques qu’ils soulèvent. Plusieurs d’entre eux ont déjà publié divers rapports ou chartes non contraignantes sur le sujet. La société Predictice a ainsi commandé à la clinique du droit de Sciences-Po un livre blanc sur les enjeux éthiques de la justice prédictive, publié au mois d’octobre 2018. Celui-ci formulait sept propositions portant notamment sur les obligations de transparence des algorithmes dont les concepteurs devraient expliciter les données utilisées, les critères appliqués, les logiques mises en œuvre, etc.

En décembre 2017, une « Charte éthique pour un marché du droit en ligne » a même été rédigée et adoptée depuis par plusieurs dizaines d’acteurs, dont récemment par le Conseil supérieur du notariat. On y retrouve les obligations de transparence des algorithmes ainsi que des dispositions sur leur conformité au droit positif ou sur la sécurisation des données.

Le projet de loi sur la justice ne prévoit pas beaucoup plus de garanties. S’il ouvre enfin les vannes de l’ open data judiciaire, il ne prévoit aucune contrepartie pour les acteurs de la legaltech , se contentant de mettre en place un système de certification facultatif.


(Michel) #2
  • Chaque partie au procès espère gagner ; comme ils sont deux (ou plus), il y a nécessairement un gagnant et un perdant ; mais le juge peut partager les torts.

  • Les juges, et aussi les médecins, ont leur indépendance professionnelle affirmée par la loi, sinon il n’y a plus de justice, ni de médecine.

  • Je retiens : « La justice, ce n’est pas seulement appliquer la loi , explique Jean Lassègue. C’est réussir à ce que, par une opération très ritualisée et très complexe, on arrive à se mettre d’accord sur l’issue d’un certain litige. Et tout ça prend du temps. C’est pour cela qu’un procès, c’est long et compliqué, et avec toutes sortes de ritualisations collectives. Si l’on oublie toute la dimension anthropologique du droit pour ne conserver que sa dimension algorithmique, ce qui est un rêve formaliste pour certains juristes, on rate le but qui est de rendre justice. »
    Ben oui…


(l'homme réparé) #3

Tu as une vision idyllique de la justice et de la médecine. C’est bien de rester jeune :grinning:
https://cornouaille.ecologie.bzh/spip.php?article11236


(Michel) #4

Certes, il y a des juges aux ordres, des médecins douteux, des avocats marrons, des politiciens vendus (ou achetés ?)
Ils peuvent tous aussi être « fous », genre président des États-Unis ou de la Corée du Nord…
(Bref, ils peuvent aussi être comme tout le monde.)
Je me plaçais sur un plan théorique légal, en réponse à l’article, un peu long.