Un algorithme peut-il prédire le risque de récidive des détenus ?

D’après les calculs d’Angèle Christin, maître de conférences au département de communication de l’Université de Stanford (Californie), plus d’une soixantaine d’algorithmes prédictifs seraient employés aujourd’hui dans les différents États du pays par la justice américaine. Ces « outils d’évaluation du risque » (risk-assessment tools en version originale) sont principalement utilisés pour estimer le risque de récidive des détenus et décider (ou non) de leur libération conditionnelle. Mais ils sont controversés car, bien qu’utilisés pour réduire les risques de discrimination, ils sont soupçonnés, au contraire, de les entretenir.

L’ethnographe Angèle Christin réalise actuellement un travail de terrain pour évaluer la réception de ces algorithmes prédictifs, c’est-à-dire à la façon dont ils sont utilisés dans les tribunaux américains. Son enquête n’est pas encore terminée, mais elle a déjà pu mesurer à quel point les magistrats font preuve d’une certaine défiance à l’égard de ces algorithmes. Elle a accepté de nous parler pour nous en dire plus sur son travail d’enquête, sur le fonctionnement de ces outils et sur leur perception par les professionnels du droit censés les utiliser.

Les algorithmes prédictifs sont utilisés depuis quinze ans par la justice américaine. Dans quel contexte pénal sont-ils venus s’insérer ?

La justice pénale des États-Unis incarcère énormément : c’est le pays qui, en proportion, incarcère le plus au monde. Et cette incarcération touche principalement les minorités ethniques et raciales, notamment les Afro-américains. On peut faire remonter cette « incarcération de masse » à la présidence de Ronald Reagan qui, dans les années 1980, a mis en place un programme très répressif qui a touché de façon disproportionnée les minorités ethniques et raciales.

Il y a une quinzaine d’années, on a commencé à se dire que le taux d’incarcération devait baisser. À gauche, principalement pour des raisons de justice sociale ; et à droite, pour des raisons budgétaires, parce que ces incarcérations coûtent trop cher à l’État fédéral et aux différents États. Avec l’arrivée des big data, on a voulu s’appuyer sur l’intelligence artificielle et les algorithmes prédictifs, jugés plus à même de prendre des décisions objectives concernant les détenus. Et puis, en 2016, il y a eu la publication de l’article « Machine Bias », du média ProPublica sur le sujet…

Cet article, paru en mai 2016, démontrait que les Noirs sont deux fois plus susceptibles que les Blancs d’être considérés à « haut risque » de récidive par ces algorithmes, quand bien même ils ne récidivent pas par la suite…

Effectivement, les journalistes de ProPublica ont montré qu’à casier judiciaire équivalent, Noirs et Blancs se voyaient quand même attribuer des scores de dangerosité différents. Ils en ont déduit que les algorithmes, censés être objectifs, reproduisent en fait les inégalités raciales et sociales. Mon angle de recherche sur cette question est un peu différent puisque je m’intéresse moins aux outils eux-mêmes qu’à leur réception et à la façon dont ils sont utilisés dans les tribunaux nord-américains.

Comment fonctionnent exactement ces algorithmes prédictifs ?

Prenons l’exemple de COMPAS. C’est un logiciel utilisé en fin de la procédure pénale pour évaluer le risque de récidive, afin de décider des remises en liberté conditionnelle. Mais il a remonté la chaîne pénale et il est maintenant utilisé aussi au moment du jugement… Sur une interface comme COMPAS, un travailleur social va répondre, en collaboration avec le prévenu, à plus de 100 questions du type « Que pense le prévenu de la police ? », « Quelles sont les caractéristiques des amis du prévenu ? », « Certains d’entre eux ont-ils déjà été condamnés ? », etc.

L’interface de COMPAS

Une fois que tous les champs sont remplis, le travailleur social clique sur « calculate risk » et le logiciel sort un résumé avec un score de dangerosité. C’est un chiffre, compris entre 1 et 10 : à 1, le risque est faible ; et à 10, il est jugé très élevé. En général, ce score s’accompagne d’un code couleur : quand le score est plus faible que 5, ça s’affiche en vert, et au-delà, c’est en rouge. C’est une esthétique visuelle de la dangerosité. En général, ce résultat est ajouté au dossier du prévenu et il le suit tout au long de la procédure pénale.

L’échelle de dangerosité que permet d’obtenir le logiciel Compas

Qu’en pensent les magistrats, ceux qui sont censés utilisés ces algorithmes prédictifs ?

J’avance mes résultats avec prudence car j’ai fait mon travail de terrain dans trois tribunaux, donc ça n’est pas représentatif de ce qui se passe à l’échelle du pays. Mais j’ai découvert que ces outils sont en fait assez peu utilisés et qu’on observe un rejet à leur égard de la part des magistrats ou des professionnels du droit.

C’est-à-dire ?

Pendant l’audience, on parle du casier judiciaire, de la nature du délit, mais la question des scores calculés par ces logiciels n’apparaît pas dans le quotidien des négociations. Les entretiens que j’ai menés confirment cette tendance. Si je résume, le propos des magistrats est le suivant : « Pourquoi devrais-je suivre les recommandations d’un algorithme dont je ne comprends pas le fonctionnement, au lieu de m’appuyer sur ma propre expérience, sachant que je suis procureur ou magistrat depuis 30 ans ? ». C’est intéressant parce que, d’une certaine façon, ça nuance les résultats de ProPublica. Certes, ces algorithmes sont biaisés et très problématiques, mais il n’est pas sûr qu’ils aient sur la justice pénale américaine l’impact qu’on leur prête aujourd’hui.

Mais n’existe-t-il pas un certain écart entre les propos officiels des professionnels du droit et leurs pratiques ?

Effectivement, ils ont tout intérêt à me dire qu’ils ne regardent pas ces algorithmes, ce qui ne veut pas dire que ces derniers n’ont aucune influence sur eux. Si jamais il y a un code couleur rouge, et que le score d’évaluation du risque de récidive est à 10, même s’ils disent préférer s’appuyer sur leur expérience, est-ce que le logiciel n’a pas un impact, même inconscient, sur la décision qu’ils prendront au final ? C’est la direction que prend ma recherche, mais c’est une question délicate.

Par ailleurs, je me suis aperçue que ces algorithmes avaient des effets sur la démarche de « plaider coupable », le plea bargain, quand procureurs et avocats négocient pour se mettre d’accord sur une peine, validée ensuite par le juge. Si le score est élevé, le procureur va dire : « Vous devriez accepter la peine que je propose parce que le risque de récidive de votre client est fort ». Et vice-versa quand les avocats ont accès à ces scores, ce qui n’est pas du tout systématique. Les avocats peuvent aussi se servir de ces scores si le risque est jugé faible, en contestant une peine d’incarcération. C’est pour ces raisons que l’approche ethnographique est très importante : elle permet de voir des effets même là où on ne les soupçonne pas nécessairement.

Et qu’en est-il des travailleurs sociaux chargés de remplir les champs de ces logiciels ?

On pense que les algorithmes fonctionnent seuls, mais ce n’est pas le cas. Ça demande beaucoup de travail de faire fonctionner le modèle. Souvent, ce sont les travailleurs sociaux qui répondent à ces outils, ce qui pose un ensemble de questions car ils peuvent tout à fait savoir quelle variable manipuler pour obtenir des scores qu’ils estiment plus légitimes pour le prévenu en question.

Cela démontre une certaine perte de pouvoir des magistrats, qui n’ont pas le contrôle sur la façon dont ces scores sont produits. Si ces logiciels se développent encore davantage à l’avenir, le rôle du travailleur social va être encore plus prépondérant, ce qui peut être bien en soi, mais il faut alors être certain qu’ils soient bien formés, qu’ils puissent rendre des comptes, et qu’on puisse contester ce score si on n’est pas d’accord. Or, pour l’instant, on se pose très peu ces questions. Par exemple, la plupart des détenus ignorent qu’ils ont un score, et encore moins à combien ce score s’élève. Certains ont essayé de le contester au sein des juridictions au sein desquelles ils étaient jugés. Mais à ce jour, ces démarches n’ont jamais abouti.

Laura Fernandez Rodriguez

Source : https://usbeketrica.com

Date: 22 août 2017
Auteur: Laura Fernandez Rodriguez
Catégorie: Actualités juridique pénale