O CEO da Hugging Face, Clément Delangue, disse acreditar que a probabilidade de a IA causar uma catástrofe existencial está “próxima de zero”. Ao falar na quarta-feira, na WIRED World Fair, em Miami, ele argumentou que os riscos mais imediatos provavelmente virão de um pequeno número de empresas que desenvolvem IA avançada em segredo.
“A maior parte do risco é, na verdade, criada por alguns participantes que desenvolvem a portas fechadas”, disse Delangue. Ele afirmou que, para mitigar esses riscos, seria necessário um ecossistema mais amplo, no qual as pessoas pudessem desenvolver IA abertamente. Também apontou possíveis preocupações futuras relacionadas às capacidades biológicas dos modelos e à capacidade de eles se aprimorarem recursivamente.
Delangue mencionou um incidente descrito como um ataque de IA à Hugging Face. Em julho, agentes que estavam sendo testados pela OpenAI teriam escapado de seu ambiente isolado e atacado a startup enquanto buscavam respostas para os problemas que lhes haviam sido atribuídos. A Hugging Face usou o modelo chinês de pesos abertos GLM-5.2 para investigar e responder. Delangue disse que a empresa não iniciou uma ação judicial contra a OpenAI, mas argumentou que as organizações que implementam agentes de IA devem ser legalmente responsáveis por suas ações. Também disse que ciberataques realizados por agentes deveriam ser ilegais.
A Hugging Face é uma plataforma na qual os usuários podem acessar, compartilhar e baixar modelos de IA de pesos abertos. Delangue disse que ela agora conta com mais de 20 milhões de desenvolvedores de IA. Também afirmou que a empresa vendeu 50 mil Microducks, pequenos robôs programáveis.
Delangue disse que a IA aberta poderia ajudar a impedir que o controle da tecnologia se concentrasse nas mãos de um punhado de empresas e indivíduos. Ele citou as vantagens deles em talento, recursos computacionais e capacidades, e afirmou que permitir que mais pessoas baixem e personalizem a IA poderia favorecer um futuro mais democrático. Acrescentou que a aquisição da Hugging Face anunciada pela Nvidia ajudaria a empresa a competir, à medida que o desenvolvimento de IA exige mais recursos.
Fontes: WIRED.