Le département des Services correctionnels du Michigan prévoit de lancer un projet pilote utilisant un système d’IA conçu pour évaluer quelles personnes incarcérées pourraient présenter un risque de violence. Les évaluations répartiront les détenus dans l’un de cinq niveaux de sécurité, ce qui peut avoir des conséquences sur leur hébergement ainsi que sur leur accès aux programmes et à d’autres ressources.
Le département s’attend à ce que le système établisse des prévisions de risque 30 % plus précises que les méthodes actuelles. Le projet pilote devrait débuter début décembre 2026 dans plusieurs prisons pour hommes. L’objectif annoncé est de faire face à une récente hausse des agressions contre le personnel et des violences entre personnes incarcérées.
L’outil a été développé avec Recidiviz, un organisme à but non lucratif issu de Google. La directrice du département, Heidi E. Washington, a déclaré que le projet pilote s’appuyait sur des données scientifiques et historiques pour créer ce qu’elle a décrit comme un outil dynamique et objectif, destiné à améliorer la sécurité des établissements. Elle n’a pas précisé quelles données le système d’IA utiliserait.
Cette information est importante, car les évaluations du système pourraient influer sur le niveau de sécurité attribué aux détenus, leur placement et les ressources auxquelles ils peuvent accéder. Une enquête de ProPublica sur un programme similaire d’évaluation des risques en Louisiane a révélé que les données utilisées dans cet État comportaient des biais raciaux et socioéconomiques, ce qui soulève des inquiétudes quant aux conséquences d’erreurs ou de biais non corrigés dans de tels systèmes.
Sources: t3n.