I ricercatori del MIT CSAIL hanno dimostrato un metodo che consente a un modello di IA di migliorare un altro senza riaddestrarlo. Il loro metodo modifica una piccola frazione dei pesi interni del modello per correggere una debolezza specifica, offrendo una possibile alternativa al costoso processo di addestrare nuovamente un modello linguistico.
Il team ha usato GPT-6 Astra per modificare Qwen3.5-0.8B, con l’obiettivo di migliorare le capacità di ragionamento matematico del modello più piccolo. Dopo le modifiche, il punteggio di Qwen su MATH-500 è salito dal 7,9% al 48,1%. Secondo il rapporto, Astra ha modificato appena lo 0,016% dei pesi di Qwen.
I ricercatori chiamano questo approccio Weight-Space Programming. Invece di aggiungere nuove capacità tramite l’addestramento, il metodo individua e modifica le parti di un modello associate ai cicli di ragionamento che possono ostacolarne le prestazioni.
I risultati sono preliminari e non sono stati sottoposti a revisione paritaria. Inoltre, il metodo sembra dipendere dalla presenza, nel modello, di un problema correggibile in questo modo: quando è stato testato su Gemma 3 270M di Google, che a quanto riferito presenta pochi cicli di ragionamento, il miglioramento è stato trascurabile.
Il lavoro indica una possibile modalità per migliorare modelli più piccoli e meno costosi, ma non sostituisce l’addestramento come soluzione generale. I ricercatori suggeriscono inoltre che, in futuro, i modelli potrebbero applicare queste modifiche a sé stessi, anche se per ora questa possibilità resta un’ipotesi.
Fonti: Xataka.