Nvidia hat bekanntlich die unangefochtene Spitzenposition bei aktueller KI-Hardware inne. Kaum ein KI-Rechenzentrum basiert aktuell nicht auf Nvidia Hardware, was dem US-Konzern satte Gewinnspannen sowie exorbitante Milliardengewinne beschert. Doch wer genau hinsieht, bemerkt auch, dass die Technologie hinter den teuersten Datacenter-GPUs auf der gleichen Hardware-DNA besteht, wie aktuelle Gaming-Grafikkarten. Die Unterschiede zwischen datacenter-teuer und gaming-günstig liegen hierbei vor allem im Speicherausbau und der Vernetzungsmöglichkeit (also schnellen Interconnect-Lösungen via NVLink).
Für kleinere KI-Experimente oder lokale LLMs reicht oft jedoch schon eine einzelne GPU aus, weshalb man hier prinzipiell jede Nvidia Grafikkarte benutzen kann, sofern diese nur genügend Speicher für die eigenen Anforderungen bietet. Doch auch hier bittet Nvidia seine Kunden empfindlich zur Kasse, sobald der nutzbare Speicher die typischen Mengen für Gamer überschreitet. Bei Nvidia sind dies 32 GB (die auch hier mit der RTX 5090 bereits über 2000 Euro kosten).
In eben diese Bresche springen nun AMD und Intel, indem sie GPUs mit mehr Speicher deutlich günstiger anbieten als Nvidia - in der Hoffnung, besonders kostensensible Anwender für einen Sprung aus dem CUDA-Ökosystem zu begeistern.
Tatsächlich ist Intel dabei die größte Überraschung gelungen, da mit diesem Player bislang niemand gerechnet hat. Mit der MaxSun Dual Turbo kommt zeitnah eine Dual GPU-Karte mit doppeltem Speicher (2×24 GB, 2x 456 GB/s) auf den Markt, die in einem 16x PCIe-Slot Platz findet, jedoch vom System wie zwei 8x PCIe 4.0 Karten gesehen und behandelt wird.
// Top-News auf einen Blick:
Das Entscheidende ist, dass sich viele KI-Modelle bei der Ausführung gut auf mehrere Karten verteilen können, solange sie insgesamt in den verfügbaren GPU-Speicher passen. Für viele Modelle dürfte dies somit die günstigste 48-GB-Karte in naher Zukunft darstellen, die allerdings auch mit etwas Fummelei verbunden sein dürfte, um die gewünschten Modelle dann auch tatsächlich reibungslos zum Laufen zu bekommen.
Etwas besser hat man es da sicherlich bei AMD, dessen ROCm-Schnittstelle schon eine weitaus größere Verbreitung genießt. Man ist zwar hier noch nicht auf CUDA-Level angekommen, jedoch finden sich viele Modelle, gerade aus dem Open-Source-Bereich, die mit wenigen Mausklicks unter einer ROCm-kompatiblen AMD-GPU ausführen lassen. Und die unterstützten Kartentypen werden tatsächlich auch immer mehr.
Mit der AMD AI Pro R9700 schickt AMD eine 32-GB-RDNA-4-Grafikkarte ins Rennen, die ansonsten einer Radeon RX 9070 (XT) mit 16 GB gleicht. Da diese weitaus langsamer als eine RTX 5090 mit gleichem Speicherausbau ist, sollte diese Karte im Markt kaum teurer als 1000 Euro angeboten werden, um in KI-Kreisen relevante Beachtung zu finden. Videobearbeiter ohne KI-Schwerpunkt dürften dagegen eher zu Nvidia-Karten mit 16 GB Speicher greifen, da Speicher dort dank DDR7 weitaus schneller ist. Eine RTX 5070 Ti für 800 Euro dürfte eine AMD AI Pro R9700 in allen Belangen deutlich schlagen, in denen 16 GB GPU-Speicher ausreichend sind.
