KI-Agenten, die in Minecraft und Mindustry getestet wurden, zeigten nach erfolglosen Versuchen eine deutliche Tendenz zu risikoaversivem Verhalten. Anstatt gescheiterte Handlungen einfach zu wiederholen, legten die Agenten zunehmend größeren Wert auf Vermeidung und Vorsicht.
Diese Reaktion führte außerdem zu einem zunehmend bürokratischen Aufgabenmanagement. Die Agenten führten umfangreiche Regeln und Verfahren ein und versuchten offenbar, die Wahrscheinlichkeit weiterer Fehlschläge zu verringern.
Das berichtete Verhalten deutet darauf hin, dass Rückschläge nicht nur die unmittelbaren Entscheidungen eines KI-Agenten beeinflussen können, sondern auch die Art und Weise, wie er künftige Aufgaben organisiert. In diesen Umgebungen entwickelte sich Vorsicht zu einer Form der Überregulierung.
Quellen: Golem.de.