El Departamento de Correcciones de Michigan planea introducir un sistema con apoyo de IA diseñado para estimar qué presos podrían representar un posible riesgo de violencia. La evaluación se utilizaría para ubicar a los internos en una de cinco categorías de seguridad, según informó Futurism.
El departamento espera que el sistema produzca evaluaciones de riesgo un 30 por ciento más precisas que los métodos actuales. Está previsto que un proyecto piloto comience en septiembre de 2026 en varias prisiones para hombres. El objetivo declarado es reducir un aumento reciente de los ataques contra empleados y de la violencia entre personas encarceladas.
El software fue desarrollado por el departamento de correcciones en colaboración con Recidiviz, una organización sin fines de lucro que se originó en Google. La directora del departamento, Heidi E. Washington, dijo que el proyecto piloto utilizaría datos científicos e históricos para crear una herramienta dinámica y objetiva destinada a mejorar la seguridad en los centros.
Sin embargo, el departamento no ha revelado qué datos procesará el sistema de IA. Esa información es importante porque los resultados podrían afectar las condiciones de los presos durante sus condenas. Dependiendo de su clasificación, los internos podrían recibir diferentes programas o recursos y también podrían ser asignados a distintos compañeros de celda.
Por lo tanto, los errores o sesgos no corregidos del sistema podrían conducir a condiciones más estrictas y potencialmente a una peor preparación para la vida después de la liberación. Una investigación de ProPublica sobre un programa similar de evaluación de riesgos en Luisiana descubrió que los datos utilizados para la clasificación incluían sesgos raciales y socioeconómicos, con consecuencias negativas para el sistema penitenciario.
Fuentes: t3n.