Le département pénitentiaire du Michigan prévoit d’introduire un système soutenu par l’IA conçu pour estimer quels détenus pourraient présenter un risque potentiel de violence. Cette évaluation serait utilisée pour placer les détenus dans l’une des cinq catégories de sécurité, selon un article de Futurism.
Le département s’attend à ce que le système produise des évaluations des risques 30 % plus précises que les méthodes actuelles. Un projet pilote doit commencer en septembre 2026 dans plusieurs prisons pour hommes. L’objectif annoncé est de réduire une récente augmentation des attaques contre les employés et des violences entre personnes incarcérées.
Le logiciel a été développé par le département pénitentiaire en partenariat avec Recidiviz, une organisation à but non lucratif issue de Google. La directrice du département, Heidi E. Washington, a déclaré que le projet pilote utiliserait des données scientifiques et historiques pour créer un outil dynamique et objectif destiné à améliorer la sécurité dans les établissements.
Cependant, le département n’a pas indiqué quelles données le système d’IA traiterait. Cette information est importante, car les résultats pourraient avoir une incidence sur les conditions de détention des prisonniers pendant leur peine. Selon leur classification, les détenus pourraient bénéficier de programmes ou de ressources différents et pourraient également être affectés à des codétenus différents.
Des erreurs ou des biais non corrigés dans le système pourraient donc entraîner des conditions plus strictes et potentiellement une préparation moins efficace à la vie après la libération. Une enquête de ProPublica sur un programme similaire d’évaluation des risques en Louisiane a révélé que les données utilisées pour la classification comportaient des biais raciaux et socioéconomiques, avec des conséquences négatives pour le système pénitentiaire.
Sources: t3n.