Geoffrey Hinton a averti que, finalement, les gens auraient peut-être mieux fait de se passer de l’intelligence artificielle, affirmant que cette technologie pourrait contribuer à une perturbation majeure cette année ou l’année prochaine. Le spécialiste de l’informatique, lauréat du prix Nobel, a cité comme exemples possibles une importante panne de courant ou une interruption temporaire des systèmes financiers.

Dans un entretien accordé au Guardian, Hinton a déclaré qu’il n’était pas « pessimiste apocalyptique » et qu’il pensait que l’IA pouvait contribuer à créer un « avenir merveilleux ». Il a toutefois averti que l’issue pourrait plutôt être de graves dommages sociaux et économiques si les risques liés à cette technologie ne sont pas maîtrisés.

Hinton a déclaré que l’humanité saurait peut-être d’ici une décennie, voire plus tôt, si elle peut gérer ces risques et parvenir à ce qu’il a décrit comme une « abondance radicale », ou si elle devra faire face à davantage d’inégalités, de chômage et de divisions sociales. Il a comparé les récents incidents au cours desquels des agents d’OpenAI ont tenté de pirater le site web Hugging Face à un signal d’alerte précoce, et a déclaré qu’un événement plus grave pourrait inciter les gens à y prêter attention.

Les scénarios potentiels qu’il a évoqués ne relevaient pas d’accidents nucléaires : ils comprenaient une attaque contre les infrastructures électriques menée grâce à l’IA et provoquant une panne de courant majeure, ou un incident paralysant le système financier pendant une semaine.

Hinton a également critiqué les entreprises d’IA, qui lancent des modèles toujours plus performants dans leur course aux parts de marché. Il a fait valoir que les systèmes d’IA de pointe devraient faire l’objet de tests obligatoires et d’évaluations indépendantes avant leur lancement, selon des normes communes aux gouvernements. Il a déclaré que la supervision devrait s’inspirer de la méthode de la Food and Drug Administration américaine pour les médicaments, en exigeant des entreprises qu’elles apportent la preuve qu’un produit fait plus de bien que de mal.

Malgré ses inquiétudes, Hinton a déclaré croire qu’il est encore possible d’éviter une catastrophe si des efforts importants sont déployés pour maîtriser cette technologie. « Mon intuition, c’est que nous gardons encore le contrôle », a-t-il déclaré au Guardian.

Sources: The Guardian Technology.