Das Justizvollzugsministerium von Michigan plant ein Pilotprojekt mit einem KI-System, das einschätzen soll, von welchen inhaftierten Personen ein Gewaltrisiko ausgehen könnte. Die Bewertungen ordnen Gefangene einer von fünf Sicherheitsstufen zu, was sich auf ihre Unterbringung sowie ihren Zugang zu Programmen und anderen Ressourcen auswirken kann.
Nach Einschätzung des Ministeriums wird das System Risiken 30 % genauer vorhersagen als die derzeitigen Verfahren. Das Pilotprojekt soll Anfang Dezember 2026 in mehreren Männergefängnissen beginnen. Ziel ist es laut Ministerium, auf den jüngsten Anstieg von Angriffen auf Bedienstete und von Gewalt zwischen inhaftierten Personen zu reagieren.
Das Tool wurde gemeinsam mit Recidiviz entwickelt, einer gemeinnützigen Organisation, die aus Google hervorgegangen ist. Die Ministeriumsdirektorin Heidi E. Washington sagte, das Pilotprojekt nutze wissenschaftliche und historische Daten, um ein dynamisches, objektives Tool zu schaffen, das die Sicherheit in den Einrichtungen verbessern solle. Sie gab nicht an, welche Daten das KI-System verwenden wird.
Diese Information ist wichtig, weil die Bewertungen des Systems die Sicherheitsklassifizierung, Unterbringung und verfügbaren Ressourcen der Gefangenen beeinflussen könnten. Eine Untersuchung von ProPublica zu einem ähnlichen Risikobewertungsprogramm in Louisiana ergab, dass die dort verwendeten Daten rassistische und sozioökonomische Verzerrungen enthielten. Dies weckte Bedenken hinsichtlich der Folgen von Fehlern oder nicht korrigierten Verzerrungen in solchen Systemen.
Quellen: t3n.