Il governo australiano rischia di ripetere i fallimenti legati allo scandalo robodebt, a meno che non introduca garanzie più solide per il processo decisionale automatizzato, ha avvertito il Centre for Public Integrity. Il rapporto del think tank indipendente, «Computer Says No», esamina l’uso di algoritmi e intelligenza artificiale da parte delle agenzie governative per prendere decisioni e chiede riforme urgenti.
Il rapporto formula otto raccomandazioni, tra cui audit obbligatori e un registro pubblico di tutti gli usi governativi del processo decisionale automatizzato. Propone inoltre un organismo di supervisione indipendente, autorizzato a monitorare, sottoporre ad audit e indagare tali utilizzi. Secondo il centro, le persone potrebbero non sapere se un sistema automatizzato abbia influito su una decisione che le riguarda.
L’amministratrice delegata, la dottoressa Catherine Williams, ha dichiarato che il rapporto è stato sollecitato in parte dalle preoccupazioni relative allo strumento integrato di valutazione del governo, che aiuta a determinare l’assistenza domiciliare a cui hanno diritto gli australiani anziani. Secondo il rapporto, è stato riscontrato che lo strumento sottostima sistematicamente le esigenze e i diritti delle persone, mentre le norme governative impediscono ai valutatori dell’assistenza agli anziani di annullare decisioni algoritmiche errate.
Il Dipartimento del Procuratore generale sta elaborando un quadro normativo per le decisioni automatizzate, dopo una consultazione pubblica conclusasi nel gennaio 2025. La procuratrice generale Michelle Rowland non ha detto quando sarebbe stata completata o pubblicata una bozza. Ha affermato che il governo era impegnato a garantire un uso sicuro e responsabile di questi sistemi e che il quadro avrebbe incluso obblighi di trasparenza, garanzie e un’adeguata supervisione umana. Il quadro è inoltre destinato ad attuare le raccomandazioni della commissione reale sul caso robodebt.
Un rapporto dell’ottobre scorso dell’Ombudsman del Commonwealth ha rilevato che, durante l’elaborazione e l’introduzione dello strumento integrato di valutazione, il governo non aveva seguito le raccomandazioni della commissione reale in materia di trasparenza. Rowland non ha detto se il quadro proposto si sarebbe applicato retroattivamente.
A settembre, la deputata indipendente Kate Chaney ha presentato un disegno di legge di iniziativa parlamentare per istituire un quadro normativo obbligatorio sancito per legge. Ha affermato che la consultazione del dipartimento si era conclusa quasi due anni prima e ha esortato il governo a proseguire i lavori. Chaney ha inoltre sostenuto che mancavano coerenza e trasparenza nelle decisioni dei dipartimenti sull’uso dei sistemi automatizzati e ha dichiarato che le persone dovrebbero poter capire come vengono prese le decisioni e come chiederne il riesame.
Fonti: The Guardian Technology.