IA en prison en Catalogne : RisCanvi et l’évaluation du risque de récidive
IA en prison en Catalogne : RisCanvi et l’évaluation du risque de récidive
Utilisé depuis quinze ans dans les établissements pénitentiaires catalans, le logiciel RisCanvi détermine la durée et les conditions de détention, y compris les permissions de sortie.
Présenté par l’administration comme un outil objectif et performant, RisCanvi soulève toutefois des questions éthiques sur la capacité d une machine à prédire le comportement futur d’un détenu et sur la balance entre sécurité et droits humains.
À lire : Travail obligatoire en prison, une clé pour favoriser la réinsertion des détenus.
Jésus, ancien détenu de Brians II près de Barcelone, décrit avoir pu remplir les critères pour des permissions de sortie et avoir déjà purgé le temps requis, mais voir sa demande de sortie un week-end refusée.
Selon lui, le refus reposait sur le score RisCanvi, et il ignorait l’existence du système; il a fallu plusieurs années pour que RisCanvi soit réévalué sur son dossier.
DROIT DE SORTIE ENCADRÉ PAR L’IA
Dans chaque prison, des experts évaluent les détenus selon des critères tels que l’origine sociale, la personnalité ou les addictions. Dans les établissements utilisant RisCanvi, un permis de sortie ou une libération conditionnelle dépend de la note attribuée par le logiciel.
Selon Carles Soler, psychologue et agent pénitentiaire impliqué dans le développement du logiciel, RisCanvi permet d’harmoniser les évaluations en appliquant une grille commune à l’ensemble des 700 agents pénitentiaires.
La Catalogne n’est pas une exception : les États-Unis, le Canada et le Royaume-Uni utilisent aussi des algorithmes dans leurs prisons.
DES PROBLÈMES ÉTHIQUES
Bien que présenté comme objectif, l’outil présente des limites et n’est pas infaillible. Selon une étude, 82% des détenus considérés à risque ne récidivent pas.
Le magistrat Varona affirme que juger une personne sur la base d’une statistique soulève un problème moral et juridique, car cela consiste à évaluer le comportement passé d’autres individus.
Pour l’avocate Eva Vivo, ce mécanisme peut aussi décourager les détenus et entraver leur réinsertion, car les peines ne servent pas uniquement à punir mais aussi à favoriser la réinsertion; priver l’aménagement de peine lorsque le détenu se comporte bien peut produire l’effet inverse.
Reportage TV : Marie Bolinches. Adaptation web : Raphaël Dubois.
