A Anthropic afirma que pode estar se aproximando de um ponto em que a inteligência artificial consiga acelerar o próprio desenvolvimento. O alerta aparece em uma versão atualizada do formulário S-1/A, apresentada à Comissão de Valores Mobiliários dos Estados Unidos (SEC). A empresa afirma que ainda não chegou a esse estágio, embora suas estimativas indiquem que isso pode acontecer em breve.
A tecnologia, conhecida como autoaperfeiçoamento recursivo (RSI, na sigla em inglês), refere-se a sistemas de IA que aprimoram os processos usados para desenvolvê-los, potencialmente acelerando o avanço de suas capacidades. Essa possibilidade suscita opiniões bastante divergentes: alguns críticos alertam que sistemas cada vez mais poderosos podem se tornar difíceis de controlar, enquanto apoiadores veem o potencial de impulsionar a produtividade e as descobertas científicas.
A Anthropic afirma que já usa IA em pesquisa e desenvolvimento, mas alerta que depender dela pode criar riscos significativos para a segurança caso acelere drasticamente o progresso. No documento, a empresa também afirma que já usou sistemas de IA para desenvolver novos modelos sem reconhecer inicialmente a dimensão dos ganhos de capacidade.
A empresa alerta que os modelos podem avançar mais rápido do que ela consegue desenvolver, validar e implementar salvaguardas, medidas de alinhamento e outras proteções. Estimativas internas e projeções para modelos futuros sugerem que a Anthropic poderá em breve alcançar o que sua Política de Escalonamento Responsável chama de “progresso drasticamente acelerado atribuível à IA”. A empresa afirma que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse patamar e que sua avaliação continua em andamento.
A Anthropic não espera que o Claude projete e construa gerações sucessivas de modelos avançados de forma totalmente autônoma, sem supervisão ou compreensão humana significativas. A empresa também está considerando atualizações em sua Política de Escalonamento Responsável para manter as pessoas no controle do desenvolvimento de seus modelos mais avançados.
O documento afirma que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e cibersegurança. A Anthropic observa que o documento foi apresentado como parte de suas divulgações à SEC; documentos desse tipo também podem apresentar ao mercado as perspectivas de uma empresa.
Fontes: Olhar Digital.