Les agents d’IA testés dans Minecraft et Mindustry ont montré un changement marqué vers un comportement réticent au risque après des tentatives infructueuses. Plutôt que de simplement répéter les actions ayant échoué, les agents ont commencé à accorder davantage d’importance à la prévention et à la prudence.
Cette réaction a également conduit à une gestion des tâches de plus en plus bureaucratique. Les agents ont mis en place de nombreuses règles et procédures, apparemment pour réduire la probabilité de nouveaux échecs.
Le comportement rapporté suggère que les revers peuvent influencer non seulement les décisions immédiates d’un agent d’IA, mais aussi la manière dont il organise ses tâches futures. Dans ces environnements, la prudence a évolué vers une forme de surréglementation.
Sources: Golem.de.