Ratgeber : Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte bei der GPU-Wahl aktuell kaum ins Grübeln kommen. Doch was darf man von einer Workstation GPU fordern, die in Zukunft auch genügend Leistung für kommende KI-Aufgaben bereitstellen soll?

Nvidia RTX 4090

Die Nvidia RTX4090

Die 24GB GPU-Speicher reichen zudem in der Regel für aufwändige 8K-Projekte in Resolve oder Premiere. Ist die RTX 4090 somit eine blinde Kaufempfehlung für alle Anwender, die mit dem entsprechenden Budget aktuell in eine Video-Workstation investieren wollen?

Grundsätzlich schon, jedoch würden wir in eine aktuelle Kaufentscheidung auch kommende KI-Anwendungen mit einbeziehen. Auf den ersten Blick scheint man dabei natürlich ebenfalls mit einer RTX 4090 nicht sonderlich falsch zu liegen - schließlich laufen die meisten aktuellen KI-Anwendungen unter einer Nvidia/CUDA-Umgebung und Nvidia unterstützt sogar einige Modelle mit spezieller Hardwarebeschleunigung (den sogenannten Tensor-Cores).

Was uns jedoch bei näherer Betrachtung aktueller KI-Modelle für die Zukunftssicherheit am wichtigsten erscheint, ist die Speichermenge. So hängt bei praktisch allen aktuellen KI-Modellen deren schnelle Ausführung in erster Linie davon ab, dass sie komplett in den GPU-Speicher passen. Ist das nicht der Fall, sind die Performance-Einbußen durch das dann erforderliche Caching/Nachladen drastisch. Ein 30GB Modell läuft darum auf einer 48GB GPU mit langsamer Speicheranbindung in der Regel immer noch deutlich schneller als auf einer 24GB GPU mit schneller Speicheranbindung.

Schielt man jedoch nach mehr als 24 GB GPU-Speicher, so werden die Optionen exponentiell teurer. Von sehr alten Workstation-Karten abgesehen, findet man mit 32GB Speicher zwar aktuell sogar eine einzige halbwegs aktuelle AMD Radeon Pro W6800 Karte für ca. 1.300 Euro. Diese besitzt jedoch nur 500 GB/s Speicherdurchsatz und rechnet mit gerade mal 18 FP-32 TFlops.

AMD hat jedoch in diesen Tagen bis zum Sommer neue Workstationkarten angekündigt, die in einer anderen Leistungsliga spielen werden.

AMD Radeon Pro W7900

Laut AMD gibt es bei den neuen Radeon Pros mehr Leistung pro Dollar.

Mit Display Port 2.1 bieten die AMD Radeon Pro Modelle zudem höhere Auflösungen und Farbtiefen als die Nvidia Karten, die immer noch auf Displayport 1.4 setzen.

Doch die Gretchenfrage für die Zukunft lautet unserer Meinung nach: "Wie hältst du es mit Tensorflow, Pytorch und Jax?". Also mit den gängigsten KI-Baukästen? Und da sieht es aktuell immer noch nicht so rosig aus, wie es AMD gerne hätte. Denn aktuell setzt immer noch ein Großteil aller KI-Akteure auf CUDA-Lösungen, die es eben nur mit Nvidia gibt.

Allerdings sind es auch viele große Player schon seit einiger Zeit leid, Nvidia bei ihren KI-Projekten auf Gedeih und Vermögen ausgeliefert zu sein. Und so reifen mittlerweile viele Projekte heran, um auch mit AMDs GPUs große Modelle in Pytorch, Jax und Tensorflow durch eigene Backends nutzen zu können. Hier hofft AMD, in nächster Zeit endlich einen spürbaren Durchbruch vermelden zu können. Relevante Benchmarks gibt es allerdings noch nicht.

Deswegen würden wir eine entsprechende Investition in eine zukunftsfähige Workstation GPU noch ein paar Monate aufschieben - bis sich AMDs Position in den kommenden KI-Applikationen besser einschätzen lässt. Denn aktuell sieht man vor lauter Nebel die relevanten Bäume nicht. Außerdem wächst der KI-Wald gerade so rasant und wild, dass sich solche Investitionen grundsätzlich noch schlecht abschätzen lassen.

Und weil zudem noch immer wieder eine kommende Nvidia ADA-Titan Karte mit 48 GB als Gerücht durch die einschlägigen Kreise schwebt, würden wir darum zur Zeit auf einen Platzhalter mit außerordentlichem Preis-Leistungsverhältnis und (momentan noch) ausreichend Speicher setzen, vielleicht so etwas wie eine RTX 3060, die man mit 12 GB, 350 MB/s und ca. 13 FP32 Tflops aktuell schon für ca. 300 Euro erstehen kann.