Sam Altman sagt, lokale KI verschwende knappe DRAM-Ressourcen, wenn PCs sie nur in 5 % der Zeit nutzen - Big Tech und digitale Wirtschaft

OpenAI-CEO Sam Altman argumentiert, dass das lokale Ausführen von KI-Modellen im Vergleich zur Konzentration der Inferenz in Rechenzentren eine ineffiziente Nutzung des begrenzten DRAM darstellt. Seine Ansicht steht im Gegensatz zu Nutzern, die sich aus Gründen des Datenschutzes, des Offline-Zugriffs oder wegen spezifischer Anforderungen für lokale Modelle entscheiden.

Sam Altman sprach während eines Auftritts im Cheeky-Pint-Podcast von John Collison über die Verteilung von Rechenressourcen. Der OpenAI-CEO richtete dabei besondere Aufmerksamkeit auf lokale KI, bei der Nutzer offene Modelle auf ihren eigenen Computern ausführen, anstatt sich auf Cloud-Rechenzentren zu verlassen.

Altman bezeichnete lokale Inferenz als eine schlechte Nutzung knapper Ressourcen. Er argumentierte, dass viele Menschen Computer mit DRAM besitzen, der nur etwa 5 % der Zeit genutzt wird, während Cloud-Infrastruktur diesen Speicher bündeln und intensiver auslasten kann.

Altman zufolge macht der derzeitige Speichermangel diesen Gegensatz besonders wichtig. Er sagte, solange das Angebot eingeschränkt sei, sollte die Priorität darin liegen, die Auslastung in Rechenzentren zu maximieren, anstatt den Speicher auf einzelne Heimcomputer zu verteilen.

Die Äußerungen fielen im Rahmen einer umfassenderen Diskussion über den Mangel an Rechenkapazität und die Schwierigkeit, die Speicherproduktion schnell auszuweiten. Micron, Samsung und SK Hynix kontrollieren die weltweite DRAM-Produktion, und laut dem Ausgangstext meldete TrendForce im ersten Quartal 2026 Preissteigerungen zwischen 90 % und 95 %.

Speicherhersteller haben neue Produktionsstätten angekündigt und Kapazitäten für Rechenzentren außerdem in Richtung HBM verlagert, wodurch ein Teil der auf Verbraucher ausgerichteten Produktion zurückging. Die Ausweitung der Produktion von fortschrittlichem Speicher kann jedoch nicht sofort erfolgen, was zum Druck auf das Angebot beigetragen hat.

Altman verwies außerdem auf die Notwendigkeit neuer Teilnehmer in der Lieferkette. OpenAI entwickelt gemeinsam mit Broadcom eigene Chips, während unter anderem SpaceX, Amazon, Meta, Microsoft und Google ebenfalls an Hardware oder Infrastruktur arbeiten, die ihren Rechenbedarf decken soll. Auch eigene Chips würden weiterhin DRAM benötigen, könnten es Systemen jedoch ermöglichen, enger auf ihre jeweiligen Arbeitslasten abgestimmt zu werden.

OpenAIs Position zu lokalen Modellen fügt der Debatte ein weiteres Element hinzu. Im August 2025 brachte das Unternehmen gpt-oss auf den Markt, seine ersten Modelle mit offenen Gewichten seit GPT-2, die für den lokalen Betrieb entwickelt wurden. Altman hatte zudem Anfang desselben Jahres gesagt, dass OpenAI beim Thema Open Source falschgelegen habe.

Nutzer, die KI lokal ausführen, können dennoch Gründe haben, die nichts mit Ressourceneffizienz zu tun haben. Der Ausgangstext nennt Datenschutz, Offline-Betrieb und spezifische Anforderungen als mögliche Motive, insbesondere für Menschen, die nicht von einem Unternehmen wie OpenAI abhängig sein möchten. Aus dieser Perspektive wird der Wert lokaler Inferenz nicht allein daran gemessen, wie häufig der Speicher des Computers genutzt wird.

Quellen: Xataka.