Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte bei der GPU-Wahl aktuell kaum ins Grübeln kommen. Doch was darf man von einer Workstation GPU fordern, die in Zukunft auch genügend Leistung für kommende KI-Aufgaben bereitstellen soll?
Nvidia RTX 4090
Die aktuell schnellste Consumer-GPU Nvidia RTX 4090 wird von vielen Applikationen sauber unterstützt und bringt brachiale Rechenleistung für Echtzeit-GPU-Effekte mit. Gerade wer sich noch auf große PC-Gehäuse mit PCIe-Steckplätzen einlässt, bekommt hier deutlich unter 2.000 Euro eine Menge Rechenpower geboten, die sich beim täglichen Einsatz nur selten überhaupt voll ausschöpfen lässt.
Mit ca. 80 FP32-TFlops sowie 1.000 GB/s Speicherdurchsatz gibt es aktuell schlichtweg keine deutlich schnellere PCIe-Lösung, nicht einmal im weitaus teureren Workstation-Bereich. Und mit Preisen ab aktuell 1.700 Euro wirkt die RTX 4090 im Vergleich zu professionellen Workstations von der Stange oder gegenüber Apple Mac Pro/Studio Produkten sogar noch relativ günstig.
Die 24GB GPU-Speicher reichen zudem in der Regel für aufwändige 8K-Projekte in Resolve oder Premiere. Ist die RTX 4090 somit eine blinde Kaufempfehlung für alle Anwender, die mit dem entsprechenden Budget aktuell in eine Video-Workstation investieren wollen?
Grundsätzlich schon, jedoch würden wir in eine aktuelle Kaufentscheidung auch kommende KI-Anwendungen mit einbeziehen. Auf den ersten Blick scheint man dabei natürlich ebenfalls mit einer RTX 4090 nicht sonderlich falsch zu liegen - schließlich laufen die meisten aktuellen KI-Anwendungen unter einer Nvidia/CUDA-Umgebung und Nvidia unterstützt sogar einige Modelle mit spezieller Hardwarebeschleunigung (den sogenannten Tensor-Cores).
Was uns jedoch bei näherer Betrachtung aktueller KI-Modelle für die Zukunftssicherheit am wichtigsten erscheint, ist die Speichermenge. So hängt bei praktisch allen aktuellen KI-Modellen deren schnelle Ausführung in erster Linie davon ab, dass sie komplett in den GPU-Speicher passen. Ist das nicht der Fall, sind die Performance-Einbußen durch das dann erforderliche Caching/Nachladen drastisch. Ein 30GB Modell läuft darum auf einer 48GB GPU mit langsamer Speicheranbindung in der Regel immer noch deutlich schneller als auf einer 24GB GPU mit schneller Speicheranbindung.
Schielt man jedoch nach mehr als 24 GB GPU-Speicher, so werden die Optionen exponentiell teurer. Von sehr alten Workstation-Karten abgesehen, findet man mit 32GB Speicher zwar aktuell sogar eine einzige halbwegs aktuelle AMD Radeon Pro W6800 Karte für ca. 1.300 Euro. Diese besitzt jedoch nur 500 GB/s Speicherdurchsatz und rechnet mit gerade mal 18 FP-32 TFlops.
AMD hat jedoch in diesen Tagen bis zum Sommer neue Workstationkarten angekündigt, die in einer anderen Leistungsliga spielen werden.
AMD Radeon Pro W7900
Das neue Topmodell Radeon Pro W7900 kommt dann mit 48 GB Speicher bei 61 FP-32 TFlops mit 864 GB/s Speicherdurchsatz. Allerdings soll diese Workstation Karte dann auch rund 4.000 Dollar kosten. Gegenüber einer Nvidia RTX A6000 der letzten Generation für 5000 Euro (mit 40 FP32-TFlops und 768GB/s Speicherdurchsatz) und wirkt dies nicht unbedingt wie ein Preiskracher. Sondern ist schon selbstbewusst bepreist - unter anderem weil die Radeon Pro W7900 in vielen zertifizierten Applikationen schneller rechnet, als die alte Nvidia RTX A6000.
Will man jedoch die neue RTX 6000 Ada Generation zum Vergleich heranziehen, steht AMD wieder bemerkenswert günstig da. Denn die RTX6000 Ada ist eigentlich "nur" eine RTX 4090 als aktuelle Workstation Karte mit 48 GB - und trotzdem kaum unter 10.000 Euro zu bekommen. Offensichtlich ist der Markt bereit, diesen saftigen KI-Aufpreis für den doppelten Speicher zu bezahlen, denn die unverbindliche Preisempfehlung für die Ada-Karte liegt bei 7.349 US-Dollar.
Könnte es daher sein, dass eine AMD GPU in Sachen KI-Zukunftssicherheit die vernünftigere Wahl ist? Das wird leider auch erst die Zukunft zeigen. Auf jeden Fall sind die kommenden AMD-Workstation GPUs ebenfalls u.a. für Premiere Pro , After Effects und Resolve zertifiziert und bieten laut AMDs eigenen Benchmarks (bzw. PugetBench) hier auch ein besseres Preis-Leistungsverhältnis:
Mit Display Port 2.1 bieten die AMD Radeon Pro Modelle zudem höhere Auflösungen und Farbtiefen als die Nvidia Karten, die immer noch auf Displayport 1.4 setzen.
Doch die Gretchenfrage für die Zukunft lautet unserer Meinung nach: "Wie hältst du es mit Tensorflow, Pytorch und Jax?". Also mit den gängigsten KI-Baukästen? Und da sieht es aktuell immer noch nicht so rosig aus, wie es AMD gerne hätte. Denn aktuell setzt immer noch ein Großteil aller KI-Akteure auf CUDA-Lösungen, die es eben nur mit Nvidia gibt.
Allerdings sind es auch viele große Player schon seit einiger Zeit leid, Nvidia bei ihren KI-Projekten auf Gedeih und Vermögen ausgeliefert zu sein. Und so reifen mittlerweile viele Projekte heran, um auch mit AMDs GPUs große Modelle in Pytorch, Jax und Tensorflow durch eigene Backends nutzen zu können. Hier hofft AMD, in nächster Zeit endlich einen spürbaren Durchbruch vermelden zu können. Relevante Benchmarks gibt es allerdings noch nicht.
Deswegen würden wir eine entsprechende Investition in eine zukunftsfähige Workstation GPU noch ein paar Monate aufschieben - bis sich AMDs Position in den kommenden KI-Applikationen besser einschätzen lässt. Denn aktuell sieht man vor lauter Nebel die relevanten Bäume nicht. Außerdem wächst der KI-Wald gerade so rasant und wild, dass sich solche Investitionen grundsätzlich noch schlecht abschätzen lassen.
Und weil zudem noch immer wieder eine kommende Nvidia ADA-Titan Karte mit 48 GB als Gerücht durch die einschlägigen Kreise schwebt, würden wir darum zur Zeit auf einen Platzhalter mit außerordentlichem Preis-Leistungsverhältnis und (momentan noch) ausreichend Speicher setzen, vielleicht so etwas wie eine RTX 3060, die man mit 12 GB, 350 MB/s und ca. 13 FP32 Tflops aktuell schon für ca. 300 Euro erstehen kann.
