O governo australiano corre o risco de repetir as falhas associadas ao escândalo robodebt, a menos que introduza salvaguardas mais rigorosas para a tomada automatizada de decisões, alertou o Centre for Public Integrity. O relatório do think tank independente, “Computer Says No”, analisa a forma como as agências governamentais usam algoritmos e inteligência artificial para tomar decisões e apela a uma reforma urgente.
O relatório apresenta oito recomendações, entre elas auditorias obrigatórias e um registo público de todas as utilizações governamentais da tomada automatizada de decisões. Propõe também um órgão de supervisão independente com autoridade para monitorar, auditar e investigar esse uso. O centro afirma que as pessoas podem não saber se um sistema automatizado influenciou uma decisão que as afeta.
A diretora executiva, Dra. Catherine Williams, disse que o relatório foi motivado, em parte, por preocupações com a ferramenta integrada de avaliação do governo, que ajuda a determinar o apoio domiciliário a que os australianos mais velhos têm direito. Segundo o relatório, constatou-se que a ferramenta subestima sistematicamente as necessidades e os direitos das pessoas, enquanto as regras governamentais impedem que os avaliadores de cuidados a idosos substituam decisões algorítmicas incorretas.
O Departamento do Procurador-Geral está desenvolvendo um quadro para decisões automatizadas, após uma consulta pública encerrada em janeiro de 2025. A procuradora-geral, Michelle Rowland, não informou quando uma versão preliminar seria concluída ou divulgada. Ela afirmou que o governo estava comprometido com o uso seguro e responsável desses sistemas e que o quadro incluiria obrigações de transparência, salvaguardas e supervisão humana adequada. A iniciativa também pretende implementar recomendações da comissão real sobre o robodebt.
Um relatório de outubro do Commonwealth Ombudsman concluiu que o governo não seguiu as recomendações de transparência da comissão real ao desenvolver e implementar a ferramenta integrada de avaliação. Rowland não disse se o quadro proposto seria aplicado retroativamente.
A deputada independente Kate Chaney apresentou, em setembro, um projeto de lei de iniciativa parlamentar para criar um quadro legislado e obrigatório. Ela disse que a consulta do departamento havia sido concluída quase dois anos antes e instou o governo a dar continuidade ao trabalho. Chaney também argumentou que faltavam consistência e transparência às decisões dos departamentos sobre o uso de sistemas automatizados e afirmou que as pessoas deveriam poder entender como as decisões foram tomadas e como solicitar uma revisão.
Fontes: The Guardian Technology.