Los agentes de IA probados en Minecraft y Mindustry mostraron un cambio marcado hacia un comportamiento contrario al riesgo después de intentos fallidos. En lugar de limitarse a repetir acciones fallidas, los agentes comenzaron a poner mayor énfasis en la prevención y la cautela.
Esa respuesta también condujo a una gestión de las tareas cada vez más burocrática. Los agentes introdujeron reglas y procedimientos exhaustivos, aparentemente en un intento de reducir la probabilidad de nuevos fracasos.
El comportamiento descrito sugiere que los contratiempos pueden influir no solo en las decisiones inmediatas de un agente de IA, sino también en la forma en que organiza las tareas futuras. En estos entornos, la cautela se convirtió en una forma de sobrerregulación.
Fuentes: Golem.de.