Sam Altman, CEO di OpenAI, ha criticato il modo in cui la RAM è distribuita nel mondo, sostenendo che grandi quantità di memoria di fascia alta rimangono installate in personal computer che trascorrono gran parte della giornata inattivi. I suoi commenti sono arrivati durante una recente apparizione al podcast Cheeky Pint.
L’argomentazione di Altman si basa sulle diverse modalità di utilizzo dei personal computer e delle infrastrutture dei data center. Mentre una macchina domestica o da ufficio può utilizzare solo una piccola parte del processore e della memoria per lunghi periodi, i server operano continuamente e gestiscono richieste 24 ore su 24. Concentrare una quota maggiore di queste risorse nel cloud potrebbe, secondo lui, permettere alla stessa quantità di RAM di servire molti più utenti.
Questa posizione mette in discussione il crescente interesse per l’hardware locale destinato all’IA. Con la comparsa di modelli open source più efficienti, alcuni utenti hanno acquistato laptop e workstation con 64 GB o 128 GB di RAM per eseguire localmente strumenti di intelligenza artificiale. Altman ha sostenuto che i personal computer non raggiungeranno la scala necessaria per tenere il passo con lo sviluppo dei modelli più grandi.
I commenti hanno suscitato critiche da parte di consumatori e analisti. La domanda proveniente dalle infrastrutture dei data center ha già fatto aumentare i prezzi della memoria, rendendo più costosa la realizzazione di nuovi computer. I critici considerano la posizione di Altman un’argomentazione a favore dello spostamento degli utenti verso servizi cloud e modelli basati su abbonamento, anziché del mantenimento di hardware locale indipendente.
Esistono inoltre differenze tecniche tra la memoria comune dei PC e i componenti utilizzati nei data center. I moduli RAM progettati per i computer consumer non possono essere semplicemente trasferiti in un centro di elaborazione, dove vengono utilizzate tecnologie di memoria e architetture di bus differenti. Tuttavia, entrambi i mercati dipendono dallo stesso ecosistema produttivo, il che significa che i fornitori che danno priorità agli ordini industriali possono ridurre la capacità disponibile per i componenti standard.
Il dibattito riguarda anche la privacy e il controllo. Eseguire le attività localmente mantiene i dati sul computer dell’utente ed evita la dipendenza dalle connessioni di rete o da modifiche unilaterali ai termini dei servizi esterni. Mentre i produttori continuano a dare priorità ai componenti per server con margini più elevati, i consumatori potrebbero continuare ad affrontare la pressione dei prezzi al dettaglio elevati, decidendo se elaborare localmente i carichi di lavoro dell’IA o nel cloud.
Fonti: Pplware.