Il Dipartimento penitenziario del Michigan prevede di avviare un progetto pilota con un sistema di IA progettato per valutare quali persone detenute possano rappresentare un rischio di violenza. Le valutazioni assegneranno i detenuti a uno dei cinque livelli di sicurezza, che possono influire sulla loro sistemazione e sull’accesso ai programmi e ad altre risorse.
Il dipartimento si aspetta che il sistema faccia previsioni sul rischio con una precisione superiore del 30% rispetto ai metodi attuali. Il progetto pilota dovrebbe iniziare all’inizio di dicembre 2026 in diverse carceri maschili. L’obiettivo dichiarato è affrontare il recente aumento degli attacchi al personale e della violenza tra le persone detenute.
Lo strumento è stato sviluppato insieme a Recidiviz, un’organizzazione non profit nata da Google. La direttrice del dipartimento, Heidi E. Washington, ha dichiarato che il progetto pilota utilizza dati scientifici e storici per creare quello che ha descritto come uno strumento dinamico e oggettivo volto a migliorare la sicurezza delle strutture. Non ha specificato quali dati utilizzerà il sistema di IA.
Queste informazioni sono importanti perché le valutazioni del sistema potrebbero influire sulle classificazioni di sicurezza dei detenuti, sulla loro collocazione e sulle risorse disponibili. Un’inchiesta di ProPublica su un programma analogo di valutazione del rischio in Louisiana ha rilevato che i dati utilizzati contenevano pregiudizi razziali e socioeconomici, sollevando preoccupazioni sulle conseguenze degli errori o dei pregiudizi non corretti in sistemi di questo tipo.
Fonti: t3n.