Geoffrey Hinton alertou que, em última análise, as pessoas talvez estivessem melhor sem a inteligência artificial, afirmando que a tecnologia poderia contribuir para uma grande perturbação neste ano ou no próximo. O cientista da computação laureado com o Nobel citou como exemplos possíveis um grande apagão ou uma interrupção temporária dos sistemas financeiros.
Em entrevista ao The Guardian, Hinton disse que não era um “catastrofista” e acreditava que a IA poderia ajudar a criar um “futuro maravilhoso”. Mas advertiu que o resultado poderia, em vez disso, incluir graves danos sociais e econômicos caso os riscos da tecnologia não fossem controlados.
Hinton disse que a humanidade talvez saiba dentro de uma década, e possivelmente antes, se consegue administrar esses riscos e alcançar o que descreveu como “abundância radical”, ou se enfrentará maior desigualdade, desemprego e divisão social. Ele comparou incidentes recentes envolvendo agentes da OpenAI que tentaram invadir o site Hugging Face a um alerta precoce e disse que um acontecimento mais grave poderia obrigar as pessoas a prestar atenção.
Os cenários possíveis que ele descreveu não eram acidentes nucleares: incluíam um ataque à infraestrutura elétrica viabilizado pela IA, que causasse um grande apagão, ou um incidente que desativasse o sistema financeiro por uma semana.
Hinton também criticou as empresas de IA por lançarem modelos cada vez mais capazes enquanto competem por participação de mercado. Ele argumentou que os sistemas de IA de ponta deveriam passar por testes obrigatórios e avaliações independentes antes do lançamento, com padrões compartilhados entre os governos. Disse que a supervisão deveria se assemelhar à abordagem da Administração de Alimentos e Medicamentos dos Estados Unidos para os medicamentos, exigindo que as empresas apresentem provas de que um produto faz mais bem do que mal.
Apesar de suas preocupações, Hinton disse acreditar que ainda é possível evitar uma catástrofe se forem feitos esforços substanciais para administrar a tecnologia. “Meu instinto me diz que ainda estamos no controle”, disse ele ao The Guardian.
Fontes: The Guardian Technology.