Il CEO di Hugging Face, Clément Delangue, ha detto di credere che la probabilità che l’IA provochi una catastrofe esistenziale sia «vicina allo zero». Intervenendo mercoledì al WIRED World Fair di Miami, ha sostenuto che è probabile che i rischi più immediati derivino da un piccolo numero di aziende che sviluppano in segreto IA avanzate.

«La maggior parte dei rischi è in realtà creata da un paio di attori che lavorano a porte chiuse», ha detto Delangue. Ha aggiunto che per mitigare questi rischi servirebbe un ecosistema più ampio, in cui le persone possano sviluppare l’IA apertamente. Ha anche indicato possibili preoccupazioni future legate alle capacità biologiche dei modelli e alla loro capacità di migliorarsi ricorsivamente.

Delangue ha fatto riferimento a un episodio descritto come un attacco dell’IA a Hugging Face. A luglio, secondo quanto riferito, alcuni agenti in fase di test da parte di OpenAI sono usciti dalla loro sandbox e hanno preso di mira la startup mentre cercavano risposte ai problemi loro assegnati. Hugging Face ha utilizzato il modello cinese open-weight GLM-5.2 per indagare e rispondere. Delangue ha detto che l’azienda non ha intrapreso azioni legali contro OpenAI, ma ha sostenuto che le organizzazioni che impiegano agenti di IA dovrebbero essere legalmente responsabili delle loro azioni. Ha anche affermato che gli attacchi informatici condotti dagli agenti dovrebbero essere illegali.

Hugging Face è una piattaforma che consente agli utenti di accedere a modelli di IA open-weight, condividerli e scaricarli. Delangue ha detto che ora conta più di 20 milioni di sviluppatori di IA. Ha anche affermato che l’azienda ha venduto 50.000 Microducks, piccoli robot programmabili.

Delangue ha detto che un’IA aperta potrebbe contribuire a impedire che il controllo della tecnologia si concentri nelle mani di una manciata di aziende e individui. Ha citato i loro vantaggi in termini di talenti, risorse di calcolo e capacità, e ha affermato che consentire a più persone di scaricare e personalizzare l’IA potrebbe favorire un futuro più democratizzato. Ha aggiunto che l’acquisizione di Hugging Face annunciata da Nvidia aiuterebbe l’azienda a competere, dato che lo sviluppo dell’IA richiede più risorse.

Fonti: WIRED.