El director ejecutivo de Anthropic, Dario Amodei, ha advertido que el desarrollo de la IA se está acelerando a medida que los modelos adquieren más capacidad para ayudar a construir a sus sucesores. En un ensayo titulado «Debemos marcar el ritmo de la frontera», describió este proceso como automejora recursiva y abogó por ralentizar el desarrollo de los sistemas de vanguardia para favorecer su alineación con los intereses humanos y reducir los riesgos potenciales.

Un experimento reciente de investigadores del Instituto Tecnológico de Massachusetts ofrece un ejemplo más limitado de desarrollo de modelos asistido por IA. El equipo descubrió que GPT-6 Astra, de OpenAI, podía modificar directamente los parámetros internos de Qwen3.5-0.8B, un modelo lingüístico desarrollado por Alibaba con 800 millones de parámetros. Según los investigadores, Astra mejoró el rendimiento matemático del modelo al modificar apenas el 0,016 % de sus parámetros, sin iniciar un nuevo proceso de entrenamiento.

Entre esos parámetros están los pesos: valores numéricos que determinan la intensidad con la que las conexiones de una red neuronal afectan a su comportamiento. En lugar de volver a entrenar Qwen, Astra identificó un problema y ajustó los pesos pertinentes, explica el informe del estudio.

El resultado de los investigadores muestra que un modelo de IA puede realizar cambios específicos en otra red, pero no demuestra automejora recursiva en sentido estricto. La información disponible tampoco demuestra que un modelo haya creado de manera autónoma un sucesor más capaz que él mismo.

La edición directa de modelos podría ofrecer a los investigadores otra forma de perfeccionar los sistemas de IA. Puede ayudar a acelerar el trabajo científico, resolver problemas que de otro modo exigirían largos procesos de entrenamiento y contribuir al desarrollo de modelos más eficientes. Esta misma capacidad también podría introducir errores, vulnerabilidades difíciles de detectar o comportamientos inesperados si los cambios no se evalúan cuidadosamente.

Si los sistemas de IA modifican cada vez más sus propios componentes u otros modelos, podría resultar más difícil evaluar y controlar los cambios sucesivos, sobre todo si las mejoras se acumulan a lo largo de varias generaciones.

Fuentes: Xataka.