Il CEO di Anthropic, Dario Amodei, ha avvertito che lo sviluppo dell’IA sta accelerando man mano che i modelli diventano più capaci di contribuire alla creazione dei propri successori. In un saggio intitolato «We Must Pace the Frontier», ha descritto questo processo come auto-miglioramento ricorsivo e ha sostenuto che occorre rallentare lo sviluppo dei sistemi di frontiera, per favorirne l’allineamento con gli interessi umani e ridurre i potenziali rischi.

Un recente esperimento condotto da ricercatori del Massachusetts Institute of Technology offre un esempio più limitato di sviluppo di modelli assistito dall’IA. Il team ha scoperto che GPT-6 Astra di OpenAI poteva modificare direttamente i parametri interni di Qwen3.5-0.8B, un modello linguistico sviluppato da Alibaba con 800 milioni di parametri. Secondo i ricercatori, Astra ha migliorato le prestazioni matematiche del modello modificandone appena lo 0,016% dei parametri, senza avviare un nuovo processo di addestramento.

Tra questi parametri ci sono i pesi: valori numerici che determinano quanto le connessioni all’interno di una rete neurale influenzino il suo comportamento. Invece di riaddestrare Qwen, Astra ha individuato un problema e corretto i pesi pertinenti, spiega il resoconto dello studio.

Il risultato ottenuto dai ricercatori dimostra che un modello di IA può apportare modifiche mirate a un’altra rete, ma non dimostra un auto-miglioramento ricorsivo in senso stretto. Le informazioni disponibili non dimostrano neppure che un modello abbia creato autonomamente un successore più capace di sé stesso.

La modifica diretta dei modelli potrebbe offrire ai ricercatori un altro modo per perfezionare i sistemi di IA. Potrebbe contribuire ad accelerare il lavoro scientifico, affrontare problemi che altrimenti richiederebbero lunghi processi di addestramento e favorire lo sviluppo di modelli più efficienti. La stessa capacità potrebbe anche introdurre errori, vulnerabilità difficili da rilevare o comportamenti imprevisti, se le modifiche non vengono valutate con attenzione.

Se i sistemi di IA dovessero modificare sempre più spesso i propri componenti o altri modelli, valutare e controllare le modifiche successive potrebbe diventare più difficile, soprattutto se i miglioramenti si accumulassero di generazione in generazione.

Fonti: Xataka.