Geoffrey Hinton ha avvertito che, in definitiva, le persone potrebbero essere state meglio senza l’intelligenza artificiale, affermando che questa tecnologia potrebbe contribuire a provocare una grave crisi quest’anno o il prossimo. Lo scienziato informatico premio Nobel ha citato come possibili esempi un vasto blackout o una temporanea interruzione dei sistemi finanziari.

In un’intervista al Guardian, Hinton ha detto di non essere un «catastrofista» e di credere che l’IA possa contribuire a creare un «futuro meraviglioso». Ha però avvertito che, se i rischi della tecnologia non saranno controllati, l’esito potrebbe invece comportare gravi danni sociali ed economici.

Hinton ha affermato che l’umanità potrebbe scoprire entro un decennio, e forse anche prima, se è in grado di gestire questi rischi e raggiungere quella che ha descritto come «abbondanza radicale», oppure se dovrà affrontare maggiori disuguaglianze, disoccupazione e divisioni sociali. Ha paragonato i recenti episodi in cui agenti di OpenAI hanno tentato di violare il sito web Hugging Face a un primo campanello d’allarme e ha detto che un evento più grave potrebbe costringere le persone a prestare attenzione.

Gli scenari potenziali da lui delineati non riguardavano incidenti nucleari: includevano un attacco alle infrastrutture elettriche reso possibile dall’IA, che causasse un vasto blackout, oppure un incidente che disattivasse il sistema finanziario per una settimana.

Hinton ha inoltre criticato le aziende di IA per il rilascio di modelli sempre più capaci mentre competono per conquistare quote di mercato. Ha sostenuto che i sistemi di IA più avanzati dovrebbero essere sottoposti a test obbligatori e a valutazioni indipendenti prima del rilascio, sulla base di standard condivisi dai governi. Ha detto che la supervisione dovrebbe seguire l’approccio della Food and Drug Administration statunitense per i farmaci, imponendo alle aziende di fornire prove che un prodotto faccia più bene che male.

Nonostante le sue preoccupazioni, Hinton ha detto di credere che si possa ancora evitare una catastrofe, se si farà uno sforzo considerevole per gestire la tecnologia. «Il mio istinto mi dice che abbiamo ancora il controllo», ha dichiarato al Guardian.

Fonti: The Guardian Technology.