El Departamento Correccional de Michigan planea poner a prueba un sistema de IA diseñado para evaluar qué personas encarceladas podrían representar un riesgo de violencia. Las evaluaciones asignarán a las personas presas uno de cinco niveles de seguridad, lo que puede afectar su alojamiento y su acceso a programas y otros recursos.
El departamento espera que el sistema prediga los riesgos con un 30 % más de precisión que los métodos actuales. Está previsto que el programa piloto comience a principios de diciembre de 2026 en varias prisiones para hombres. El objetivo declarado es abordar el reciente aumento de los ataques contra el personal y de la violencia entre las personas encarceladas.
La herramienta se desarrolló junto con Recidiviz, una organización sin fines de lucro que surgió de Google. La directora del departamento, Heidi E. Washington, dijo que el programa piloto utiliza datos científicos e históricos para crear lo que describió como una herramienta dinámica y objetiva que mejore la seguridad de las instalaciones. No especificó qué datos utilizará el sistema de IA.
Esa información importa porque las evaluaciones del sistema podrían influir en la clasificación de seguridad de las personas presas, su ubicación y los recursos disponibles para ellas. Una investigación de ProPublica sobre un programa similar de evaluación de riesgos en Luisiana descubrió que los datos utilizados allí contenían sesgos raciales y socioeconómicos, lo que plantea inquietudes sobre las consecuencias de los errores o de los sesgos no corregidos en este tipo de sistemas.
Fuentes: t3n.