Die steigenden Kosten für Grafikkarten erschweren es PC-Nutzern, Systeme zu bauen, die KI-Modelle lokal ausführen können. Enthusiasten, die eine leistungsstarke Karte sowohl fürs Gaming als auch zum Experimentieren mit lokaler KI suchen, sehen sich bei neuer und gebrauchter Hardware mit höheren Preisen konfrontiert.
Laut von Reddit zitierten Zahlen von Price Squirrel sind die Preise für Grafikkarten in den vergangenen drei Monaten um mehr als 30 % gestiegen. Berichten zufolge hat sich der Preis der RTX 5090 verdoppelt, während auch ältere Modelle teurer geworden sind. Gebrauchte RTX-3090-Karten werden beispielsweise auf Plattformen wie Wallapop für mehr als 1.000 € angeboten, wobei die Angebotspreise nicht unbedingt den tatsächlich abgeschlossenen Verkäufen entsprechen.
Der Druck beschränkt sich nicht auf Grafikkarten für Verbraucher. Der Artikel führt einen Teil des Problems darauf zurück, dass Hersteller Speicher mit hoher Bandbreite, den sogenannten HBM, für KI-Beschleuniger gegenüber dem in Grafikkarten verwendeten GDDR-Speicher priorisieren. Für Unternehmen wie Samsung, SK Hynix und Micron kann es rentabler sein, Komponenten für den KI-Markt zu produzieren. Dadurch sinkt das für Verbraucherhardware verfügbare Angebot, was zu höheren Preisen beiträgt.
Auch Rechenzentren sehen sich mit steigenden Komponentenkosten konfrontiert, doch ihre Abnahmeverträge mit großen Mengen und langen Laufzeiten können dazu beitragen, einen Teil dieser Auswirkungen abzufedern. Einzelne Käufer verfügen nicht über dieselbe Verhandlungsmacht, sodass Gamer und Nutzer lokaler KI den Preissteigerungen stärker ausgesetzt sind.
Diese Situation wirkt sich auch auf den Zugang zu lokaler KI aus. Grafikkarten, insbesondere Nvidia-RTX-Modelle aufgrund ihrer CUDA-Unterstützung, können eine Reihe offener Modelle direkt auf einem persönlichen Computer ausführen. Die höheren Einstiegskosten führen jedoch dazu, dass einige Nutzer ihre Pläne zum Aufbau von Systemen für lokale Inferenz aufgeben und stattdessen eher auf Cloud-Dienste zurückgreifen.
OpenAI, xAI und Anthropic könnten indirekt von diesem Trend profitieren, da ihre Dienste auf den Servern der Unternehmen laufen. Der Artikel stellt diesen Ansatz Anbietern wie DeepSeek und Z.ai gegenüber, die Modelle offen verfügbar machen und zugleich Cloud-Zugriff anbieten.
OpenAI-CEO Sam Altman bezeichnete lokale Inferenz kürzlich als „eine schreckliche Verwendung knapper Ressourcen“. Die Aussage spiegelt den Streit darüber wider, wo KI ausgeführt werden sollte: auf zentralisierten Infrastrukturen großer Unternehmen oder auf der Hardware der Nutzer selbst. Da Grafikkarten weniger erschwinglich werden, steigen die Kosten für die lokale Option, wodurch Verbrauchern weniger praktische Alternativen bleiben.
Quellen: Xataka.