Anthropic afferma che potrebbe essere vicina a un punto in cui l’intelligenza artificiale è in grado di accelerare il proprio sviluppo. L’avvertimento compare in un modulo S-1/A aggiornato, presentato alla Securities and Exchange Commission degli Stati Uniti. L’azienda afferma di non aver ancora raggiunto questa fase, anche se le sue stime suggeriscono che potrebbe accadere presto.
La tecnologia, nota come auto-miglioramento ricorsivo (RSI), si riferisce a sistemi di IA che migliorano i processi utilizzati per svilupparli, accelerando potenzialmente i progressi delle loro capacità. Questa prospettiva suscita opinioni molto diverse: alcuni critici avvertono che sistemi sempre più potenti potrebbero diventare difficili da controllare per le persone, mentre i sostenitori ritengono che possano favorire la produttività e la scoperta scientifica.
Anthropic afferma di utilizzare già l’IA nella ricerca e nello sviluppo, ma avverte che farvi affidamento potrebbe creare notevoli rischi per la sicurezza se accelerasse drasticamente i progressi. Nel documento, l’azienda afferma inoltre di aver già utilizzato sistemi di IA per sviluppare nuovi modelli senza rendersi inizialmente conto della portata dei miglioramenti delle capacità.
L’azienda avverte che i modelli potrebbero progredire più rapidamente di quanto essa riesca a sviluppare, convalidare e implementare misure di sicurezza, misure di allineamento e altre protezioni. Le stime interne e le proiezioni per i modelli futuri suggeriscono che Anthropic potrebbe presto raggiungere quella che la sua Responsible Scaling Policy definisce «una progressione drammaticamente accelerata attribuibile all’IA». L’azienda afferma che nessuno dei suoi modelli attuali è stato classificato come tale da aver superato questa soglia e che la valutazione è ancora in corso.
Anthropic non si aspetta che Claude progetti e costruisca generazioni successive di modelli avanzati in totale autonomia, senza una significativa supervisione o comprensione da parte degli esseri umani. Sta inoltre valutando aggiornamenti alla propria Responsible Scaling Policy per mantenere le persone al controllo dello sviluppo dei suoi modelli più avanzati.
Il documento afferma che quest’anno le capacità di Claude sono progredite, in particolare nella programmazione, nella matematica e nella cybersicurezza. Anthropic osserva che il documento è stato presentato nell’ambito delle comunicazioni dell’azienda alla SEC; simili documenti possono anche illustrare al mercato le prospettive di un’azienda.
Fonti: Olhar Digital.