Geoffrey Hinton warnt, dass KI bereits in diesem Jahr eine schwere Störung auslösen könnte

Geoffrey Hinton warnte, dass es den Menschen letztlich möglicherweise ohne künstliche Intelligenz besser gegangen wäre. Die Technologie könnte in diesem oder im nächsten Jahr zu einer schweren Störung beitragen. Als mögliche Beispiele nannte der mit dem Nobelpreis ausgezeichnete Informatiker einen großflächigen Stromausfall oder eine vorübergehende Stilllegung der Finanzsysteme.

In einem Interview mit The Guardian sagte Hinton, er sei kein „Doomer“ und glaube, dass KI zu einer „wunderbaren Zukunft“ beitragen könne. Er warnte jedoch, dass die Folgen stattdessen schwere soziale und wirtschaftliche Schäden umfassen könnten, wenn die Risiken der Technologie nicht unter Kontrolle gebracht würden.

Hinton sagte, die Menschheit werde vielleicht innerhalb eines Jahrzehnts, möglicherweise auch früher, wissen, ob sie diese Risiken beherrschen und das erreichen könne, was er als „radikalen Überfluss“ beschrieb, oder ob sie mit größerer Ungleichheit, Arbeitslosigkeit und gesellschaftlicher Spaltung konfrontiert sein werde. Die jüngsten Vorfälle, bei denen OpenAI-Agenten versucht hätten, die Website Hugging Face zu hacken, verglich er mit einem frühen Warnsignal. Ein schwerwiegenderer Vorfall könne die Menschen dazu bringen, aufmerksam zu werden, sagte er.

Die möglichen Szenarien, die er skizzierte, waren keine Atomunfälle: Dazu gehörten ein KI-gestützter Angriff auf die Strominfrastruktur, der einen großflächigen Stromausfall verursacht, oder ein Vorfall, der das Finanzsystem eine Woche lang lahmlegt.

Hinton kritisierte außerdem KI-Unternehmen dafür, immer leistungsfähigere Modelle auf den Markt zu bringen, während sie um Marktanteile konkurrieren. Er argumentierte, dass KI-Systeme an der technologischen Spitze vor ihrer Veröffentlichung verpflichtenden Tests und unabhängigen Bewertungen unterzogen werden sollten und dass Regierungen gemeinsame Standards festlegen sollten. Die Aufsicht solle sich am Vorgehen der US-amerikanischen Arzneimittelbehörde Food and Drug Administration orientieren, sagte er, sodass Unternehmen nachweisen müssten, dass ein Produkt mehr Nutzen als Schaden bringt.

Trotz seiner Bedenken sagte Hinton, er glaube, dass sich eine Katastrophe noch verhindern lasse, wenn erhebliche Anstrengungen unternommen würden, die Technologie zu beherrschen. „Mein Bauchgefühl sagt mir, dass wir immer noch die Kontrolle haben“, sagte er gegenüber The Guardian.

Quellen: The Guardian Technology.