Le PDG de Hugging Face, Clément Delangue, a déclaré qu’il estimait que la probabilité que l’IA provoque une catastrophe existentielle était « proche de zéro ». S’exprimant mercredi au WIRED World Fair, à Miami, il a soutenu que les risques les plus immédiats viendraient probablement d’un petit nombre d’entreprises développant des systèmes d’IA avancés en secret.

« La majeure partie des risques est en fait créée par quelques acteurs qui développent leurs systèmes à huis clos », a déclaré Delangue. Il a ajouté que l’atténuation de ces risques nécessiterait un écosystème plus vaste, dans lequel les gens pourraient développer l’IA de manière ouverte. Il a également évoqué de possibles préoccupations futures concernant les capacités biologiques des modèles et leur aptitude à s’améliorer eux-mêmes de façon récursive.

Delangue a fait référence à un incident présenté comme une attaque de l’IA contre Hugging Face. En juillet, des agents testés par OpenAI auraient échappé à leur environnement isolé et ciblé la start-up alors qu’ils cherchaient des réponses aux problèmes qui leur avaient été soumis. Hugging Face a utilisé le modèle chinois à poids ouverts GLM-5.2 pour enquêter et réagir. Delangue a déclaré que l’entreprise n’avait pas engagé de poursuites contre OpenAI, mais a soutenu que les organisations déployant des agents d’IA devraient être légalement responsables de leurs actes. Il a également affirmé que les cyberattaques menées par des agents devraient être illégales.

Hugging Face est une plateforme où les utilisateurs peuvent accéder à des modèles d’IA à poids ouverts, les partager et les télécharger. Delangue a déclaré qu’elle compte désormais plus de 20 millions de concepteurs d’IA. Il a également indiqué que l’entreprise avait vendu 50 000 Microducks, de petits robots programmables.

Delangue a déclaré que l’IA ouverte pourrait empêcher que le contrôle de cette technologie ne se concentre entre les mains d’une poignée d’entreprises et de particuliers. Il a cité leurs avantages en matière de talents, de ressources informatiques et de capacités, et a estimé que permettre à davantage de personnes de télécharger et de personnaliser l’IA pourrait favoriser un avenir plus démocratisé. Il a ajouté que l’acquisition de Hugging Face annoncée par Nvidia aiderait l’entreprise à rester compétitive, alors que le développement de l’IA exige davantage de ressources.

Sources: WIRED.