O Departamento de Correções de Michigan planeja introduzir um sistema apoiado por IA, desenvolvido para estimar quais presos poderiam representar um possível risco de violência. A avaliação seria usada para colocar os detentos em uma de cinco categorias de segurança, segundo uma reportagem do Futurism.
O departamento espera que o sistema produza avaliações de risco 30% mais precisas do que os métodos atuais. Um projeto-piloto está programado para começar em setembro de 2026 em várias prisões masculinas. O objetivo declarado é reduzir um aumento recente nos ataques contra funcionários e na violência entre pessoas privadas de liberdade.
O software foi desenvolvido pelo departamento de correções em parceria com a Recidiviz, uma organização sem fins lucrativos que surgiu no Google. A diretora do departamento, Heidi E. Washington, disse que o projeto-piloto usaria dados científicos e históricos para criar uma ferramenta dinâmica e objetiva, destinada a melhorar a segurança nas unidades.
No entanto, o departamento não divulgou quais dados o sistema de IA processará. Essa informação é importante porque os resultados poderiam afetar as condições dos presos durante o cumprimento de suas penas. Dependendo de sua classificação, os detentos podem receber programas ou recursos diferentes e também ser designados a diferentes companheiros de cela.
Erros ou vieses não corrigidos no sistema poderiam, portanto, levar a condições mais rigorosas e potencialmente a uma preparação pior para a vida após a libertação. Uma investigação da ProPublica sobre um programa semelhante de avaliação de risco na Louisiana concluiu que os dados usados na classificação incluíam vieses raciais e socioeconômicos, com consequências negativas para o sistema de correções.
Fontes: t3n.