Die australische Regierung läuft Gefahr, die mit dem Robodebt-Skandal verbundenen Fehler zu wiederholen, wenn sie keine stärkeren Schutzmaßnahmen für automatisierte Entscheidungsfindung einführt, warnt das Centre for Public Integrity. Der Bericht des unabhängigen Thinktanks mit dem Titel „Computer Says No“ untersucht, wie Regierungsbehörden Algorithmen und künstliche Intelligenz für Entscheidungen einsetzen, und fordert dringende Reformen.
Der Bericht enthält acht Empfehlungen, darunter verpflichtende Prüfungen und ein öffentliches Register für sämtliche Anwendungen automatisierter Entscheidungsfindung durch die Regierung. Außerdem schlägt er eine unabhängige Aufsichtsbehörde vor, die befugt ist, diesen Einsatz zu überwachen, zu prüfen und zu untersuchen. Das Centre erklärt, dass Betroffene möglicherweise nicht wissen, ob ein automatisiertes System eine Entscheidung beeinflusst hat, die sie betrifft.
Geschäftsführerin Dr. Catherine Williams sagte, Anlass für den Bericht seien unter anderem Bedenken hinsichtlich des integrierten Begutachtungsinstruments der Regierung gewesen, das dabei hilft, festzustellen, auf welche häusliche Unterstützung ältere Australierinnen und Australier Anspruch haben. Laut dem Bericht unterschätzt das Instrument regelmäßig den Bedarf und die Ansprüche der Menschen. Zugleich verhindern Regierungsvorschriften, dass Pflegegutachterinnen und -gutachter fehlerhafte algorithmische Entscheidungen überstimmen können.
Das Justizministerium entwickelt einen Rahmen für automatisierte Entscheidungen, nachdem eine öffentliche Konsultation im Januar 2025 endete. Justizministerin Michelle Rowland sagte nicht, wann ein Entwurf fertiggestellt oder veröffentlicht werde. Sie erklärte, die Regierung setze sich für den sicheren und verantwortungsvollen Einsatz dieser Systeme ein; der Rahmen werde Transparenzpflichten, Schutzmaßnahmen und eine angemessene menschliche Aufsicht umfassen. Außerdem soll er Empfehlungen der königlichen Untersuchungskommission zu Robodebt umsetzen.
Ein Bericht des Commonwealth-Ombudsmanns vom Oktober stellte fest, dass die Regierung die Transparenzempfehlungen der königlichen Untersuchungskommission bei der Entwicklung und Einführung des integrierten Begutachtungsinstruments nicht befolgt hatte. Rowland sagte nicht, ob der geplante Rahmen rückwirkend gelten würde.
Die unabhängige Abgeordnete Kate Chaney brachte im September einen Gesetzentwurf als Einzelabgeordnete ein, um einen gesetzlich festgeschriebenen, verpflichtenden Rahmen zu schaffen. Sie sagte, die Konsultation des Ministeriums sei fast zwei Jahre zuvor abgeschlossen worden, und forderte die Regierung auf, die Arbeit weiter voranzutreiben. Chaney argumentierte außerdem, dass es den Ministerien bei Entscheidungen über den Einsatz automatisierter Systeme an Einheitlichkeit und Transparenz fehle. Die Menschen sollten nachvollziehen können, wie Entscheidungen zustande gekommen seien und wie sie eine Überprüfung beantragen könnten.
Quellen: The Guardian Technology.