Geoffrey Hinton ha advertido que, en última instancia, quizá a las personas les habría ido mejor sin inteligencia artificial, y ha dicho que esta tecnología podría contribuir a una gran perturbación este año o el próximo. El científico informático galardonado con el Nobel mencionó como posibles ejemplos un gran apagón o una interrupción temporal de los sistemas financieros.
En una entrevista con The Guardian, Hinton dijo que no era un «catastrofista» y que creía que la IA podía ayudar a crear un «futuro maravilloso». Sin embargo, advirtió que el resultado también podría incluir graves daños sociales y económicos si no se controlan los riesgos de esta tecnología.
Hinton dijo que la humanidad quizá sepa en el plazo de una década, y posiblemente antes, si puede gestionar esos riesgos y alcanzar lo que describió como «abundancia radical», o si se enfrentará a una mayor desigualdad, desempleo y división social. Comparó los incidentes recientes en los que agentes de OpenAI intentaron piratear el sitio web Hugging Face con una señal de alerta temprana, y dijo que un suceso más grave podría obligar a la gente a prestar atención.
Los posibles escenarios que planteó no eran accidentes nucleares: incluían un ataque a la infraestructura eléctrica facilitado por la IA que provocara un gran apagón, o un incidente que dejara fuera de servicio el sistema financiero durante una semana.
Hinton también criticó a las empresas de IA por lanzar modelos cada vez más capaces mientras compiten por cuota de mercado. Sostuvo que los sistemas de IA de frontera deberían someterse a pruebas obligatorias y a evaluaciones independientes antes de su lanzamiento, con normas compartidas entre los gobiernos. Dijo que la supervisión debería parecerse al enfoque de la Administración de Alimentos y Medicamentos de Estados Unidos para los medicamentos, y exigir a las empresas que aporten pruebas de que un producto hace más bien que mal.
A pesar de sus preocupaciones, Hinton dijo que cree que todavía se puede evitar una catástrofe si se realizan esfuerzos sustanciales para gestionar la tecnología. «Mi instinto me dice que todavía tenemos el control», declaró a The Guardian.
Fuentes: The Guardian Technology.