Agentes de IA testados em Minecraft e Mindustry demonstraram uma mudança acentuada em direção a um comportamento avesso ao risco após tentativas malsucedidas. Em vez de simplesmente repetir ações que falharam, os agentes passaram a dar maior ênfase à prevenção e à cautela.
Essa resposta também levou a uma gestão de tarefas cada vez mais burocrática. Os agentes introduziram regras e procedimentos extensos, aparentemente tentando reduzir a probabilidade de novas falhas.
O comportamento relatado sugere que os reveses podem influenciar não apenas as decisões imediatas de um agente de IA, mas também a forma como ele organiza tarefas futuras. Nesses ambientes, a cautela evoluiu para uma forma de regulamentação excessiva.
Fontes: Golem.de.