O Departamento de Correções de Michigan planeja testar um sistema de IA projetado para avaliar quais pessoas presas podem representar risco de violência. As avaliações classificarão as pessoas presas em um de cinco níveis de segurança, o que pode afetar onde ficam alojadas e seu acesso a programas e outros recursos.
O departamento espera que o sistema faça previsões de risco 30% mais precisas do que os métodos atuais. O projeto-piloto está previsto para começar no início de dezembro de 2026, em várias prisões masculinas. O objetivo declarado é enfrentar o aumento recente de ataques contra funcionários e de violência entre pessoas presas.
A ferramenta foi desenvolvida com a Recidiviz, uma organização sem fins lucrativos que surgiu do Google. A diretora do departamento, Heidi E. Washington, disse que o projeto-piloto usa dados científicos e históricos para criar o que ela descreveu como uma ferramenta dinâmica e objetiva, destinada a melhorar a segurança das unidades. Ela não especificou quais dados serão usados pelo sistema de IA.
Essa informação é importante porque as avaliações do sistema podem influenciar as classificações de segurança das pessoas presas, onde ficam alojadas e os recursos disponíveis. Uma investigação da ProPublica sobre um programa semelhante de avaliação de risco na Louisiana constatou que os dados usados naquele estado continham vieses raciais e socioeconômicos, levantando preocupações sobre as consequências de erros ou de vieses não corrigidos nesses sistemas.
Fontes: t3n.