El Gobierno australiano corre el riesgo de repetir los fallos asociados al escándalo de robodebt si no introduce salvaguardias más estrictas para la toma de decisiones automatizada, advirtió el Centre for Public Integrity. El informe del centro de estudios independiente, «Computer Says No», examina cómo utilizan los organismos gubernamentales los algoritmos y la inteligencia artificial para tomar decisiones, y pide reformas urgentes.
El informe formula ocho recomendaciones, entre ellas auditorías obligatorias y un registro público de todos los usos gubernamentales de la toma de decisiones automatizada. También propone un organismo de supervisión independiente con autoridad para vigilar, auditar e investigar esos usos. El centro afirma que las personas quizá no sepan si un sistema automatizado ha influido en una decisión que les afecta.
La directora ejecutiva, la doctora Catherine Williams, dijo que el informe se había elaborado en parte debido a la preocupación por la herramienta integrada de evaluación del Gobierno, que ayuda a determinar qué servicios de apoyo a domicilio tienen derecho a recibir las personas mayores de Australia. Según el informe, se ha comprobado que la herramienta suele subestimar las necesidades y los derechos de las personas, mientras que las normas gubernamentales impiden que los evaluadores de atención a personas mayores rectifiquen las decisiones algorítmicas incorrectas.
El Departamento del Fiscal General está elaborando un marco para las decisiones automatizadas, tras una consulta pública que concluyó en enero de 2025. La fiscal general, Michelle Rowland, no dijo cuándo se terminaría o publicaría un borrador. Afirmó que el Gobierno estaba comprometido con el uso seguro y responsable de estos sistemas y que el marco incluiría obligaciones de transparencia, salvaguardias y una supervisión humana adecuada. También está previsto que permita aplicar las recomendaciones de la comisión real sobre robodebt.
Un informe de octubre del Defensor del Pueblo de la Commonwealth concluyó que el Gobierno no había seguido las recomendaciones de transparencia de la comisión real al desarrollar e implementar la herramienta integrada de evaluación. Rowland no dijo si el marco propuesto se aplicaría con carácter retroactivo.
En septiembre, la diputada independiente Kate Chaney presentó un proyecto de ley de iniciativa parlamentaria para crear un marco legislado y obligatorio. Dijo que la consulta del departamento había concluido casi dos años antes e instó al Gobierno a seguir avanzando con el trabajo. Chaney también sostuvo que los departamentos carecían de coherencia y transparencia en sus decisiones sobre el uso de sistemas automatizados, y afirmó que las personas deberían poder entender cómo se tomaron las decisiones y cómo solicitar una revisión.
Fuentes: The Guardian Technology.