O CEO da Anthropic, Dario Amodei, alertou que o desenvolvimento da IA está se acelerando à medida que os modelos se tornam mais capazes de ajudar a construir seus sucessores. Em um ensaio intitulado “We Must Pace the Frontier”, ele descreveu esse processo como autoaperfeiçoamento recursivo e defendeu que se desacelere o desenvolvimento de sistemas de ponta, para favorecer seu alinhamento com os interesses humanos e reduzir os riscos potenciais.

Um experimento recente de pesquisadores do Instituto de Tecnologia de Massachusetts oferece um exemplo mais limitado de desenvolvimento de modelos assistido por IA. A equipe constatou que o GPT-6 Astra, da OpenAI, podia alterar diretamente os parâmetros internos do Qwen3.5-0.8B, um modelo de linguagem desenvolvido pela Alibaba com 800 milhões de parâmetros. Segundo os pesquisadores, o Astra aprimorou o desempenho matemático do modelo alterando apenas 0,016% de seus parâmetros, sem executar um novo processo de treinamento.

Entre esses parâmetros estão os pesos: valores numéricos que determinam a intensidade com que as conexões dentro de uma rede neural afetam seu comportamento. Em vez de retreinar o Qwen, o Astra identificou um problema e ajustou os pesos pertinentes, explica o relato do estudo.

O resultado dos pesquisadores mostra que um modelo de IA pode fazer alterações direcionadas em outra rede, mas não demonstra autoaperfeiçoamento recursivo no sentido estrito. As informações disponíveis também não comprovam que um modelo tenha construído autonomamente um sucessor mais capaz do que ele próprio.

A edição direta de modelos poderia oferecer aos pesquisadores outra forma de aprimorar sistemas de IA. Ela pode ajudar a acelerar o trabalho científico, solucionar problemas que, de outra forma, exigiriam um treinamento demorado e favorecer o desenvolvimento de modelos mais eficientes. A mesma capacidade também poderia introduzir erros, vulnerabilidades difíceis de detectar ou comportamentos inesperados se as alterações não forem avaliadas com cuidado.

Se os sistemas de IA modificarem cada vez mais seus próprios componentes ou outros modelos, avaliar e controlar as alterações sucessivas poderá se tornar mais difícil, especialmente se os aprimoramentos se acumularem ao longo de várias gerações.

Fontes: Xataka.