Il Dipartimento penitenziario del Michigan prevede di introdurre un sistema supportato dall’IA progettato per stimare quali detenuti potrebbero rappresentare un potenziale rischio di violenza. Secondo quanto riportato da Futurism, la valutazione verrebbe utilizzata per collocare i detenuti in una delle cinque categorie di sicurezza.
Il dipartimento si aspetta che il sistema produca valutazioni del rischio accurate del 30 per cento in più rispetto ai metodi attuali. Un progetto pilota dovrebbe iniziare nel settembre 2026 in diverse carceri maschili. L’obiettivo dichiarato è ridurre il recente aumento degli attacchi contro il personale e della violenza tra le persone detenute.
Il software è stato sviluppato dal dipartimento penitenziario in collaborazione con Recidiviz, un’organizzazione senza scopo di lucro nata all’interno di Google. La direttrice del dipartimento, Heidi E. Washington, ha dichiarato che il progetto pilota utilizzerà dati scientifici e storici per creare uno strumento dinamico e obiettivo, concepito per migliorare la sicurezza nelle strutture.
Tuttavia, il dipartimento non ha reso noto quali dati elaborerà il sistema di IA. Questa informazione è importante perché i risultati potrebbero influire sulle condizioni dei detenuti durante la loro pena. A seconda della classificazione, i detenuti potrebbero ricevere programmi o risorse diversi e potrebbero anche essere assegnati a compagni di cella differenti.
Errori o pregiudizi non corretti nel sistema potrebbero quindi portare a condizioni più rigide e potenzialmente a una preparazione peggiore alla vita dopo il rilascio. Un’indagine di ProPublica su un programma simile di valutazione del rischio in Louisiana ha rilevato che i dati utilizzati per la classificazione includevano pregiudizi razziali e socioeconomici, con conseguenze negative per il sistema penitenziario.
Fonti: t3n.