slashCAM
Administrator
Administrator
Beiträge: 11262

Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von slashCAM »


Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte momentan bei der GPU-Wahl kaum ins Grübeln kommen. Doch was könnte in der Zukunft wichtig werden, wenn man auch für KI-Aufgaben gut gerüstet sein will?



Hier geht es zu Artikel auf den slashCAM Magazin-Seiten:
Ratgeber: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?



Totao
Beiträge: 246

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Totao »

Kontext: Ich habe eine Maschine mit 2x RTX 3090 & NVLink.
AMD Karten sind noch überhaupt keine Option bei vielen AI-Themen, da dort sehr viel CUDA zum Einsatz kommt.
Eine Änderung sehe ich da die nächsten 1-2 Jahre erstmal nicht.
Dann kommt vielleicht eher noch ein Newcomer wie Tenstorrent auf den Markt für AI Beschleuniger und bietet dann überzeugende Preis-/Leitung und pyTorch Support.



macaw
Beiträge: 1251

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von macaw »

"Wer sich noch die Mühe macht, in Oldschool-Manier eine Workstation selber zusammenzuschrauben, dürfte bei der GPU-Wahl aktuell kaum ins Grübeln kommen." Warum "noch"? Ausser bei Mac Konsumenten kenne ich nur Leute, die ihren Computer selbst zusammenstellen.



marty_mc
Beiträge: 230

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

Ein Zuschauer meiner Topaz Video AI Videos hat grad geschrieben, dass er die RTX 4000 hat und diese besser sein soll als z.B. die RTX 4070.
Begründung waren die Tensor Cores.



MK
Beiträge: 4186

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von MK »

Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)... die Quadro RTX 4000 hat Tensor Cores der zweiten Generation, und die A4000 der dritten, was sich von der Geschwindigkeit nicht vergleichen lässt (die 3er sind mit weniger Cores schneller). Generell ist die Optimierung bei Topaz wechselhaft und eher nicht völlig ausgereift, der Unterschied der A4000 zur 4070 ist jedenfalls nicht gigantisch, die RTX 4000 wird aber auf alle Fälle deutlich langsamer sein und hat mit 8 Gigabyte auch recht wenig Speicher für heutige Verhältnisse.

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

RTX A4000: 6144 CUDA cores, 192 Tensor Cores, 48 RT cores und 16 GB Speicher

RTX 4070: 5888 CUDA cores, 184 Tensor Cores, 46 RT cores und 12 GB Speicher

RTX 4090: 16384 CUDA cores, 512 Tensor Cores, 128 RT cores und 24 GB Speicher



marty_mc
Beiträge: 230

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von marty_mc »

MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB



medienonkel
Beiträge: 710

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von medienonkel »

Die Frage ist eher, womit du upgraden möchtest. VEAI nuckelt auch gerne viel und oft am Prozessor. Das hängt zum Teil stark von den genutzten codecs, aber auch den Modellen und der Auflösung ab.

Für deinen Prozessor geht eine 3060ti noch klar. Alles darüber wird durch den Prozessor limitiert. Die 3060 ohne ti ist wohl der beste Spielpartner für deinen Prozessor, braucht aber resizable bar. Da bin ich jetzt zu faul, um das rauszufinden, ob es das bei deinem Unterbau schon gab.

Grobe Aussagen mit Bezugnahme auf
https://pc-builds.com/de/bottleneck-calculator/



Bluboy
Beiträge: 4409

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Bluboy »

marty_mc hat geschrieben: Di 02 Mai, 2023 11:19
MK hat geschrieben: Di 02 Mai, 2023 10:15 Keine Ahnung welche Karte der meint, es gibt die 4 Jahre alte Quadro RTX 4000 und die aktuelle RTX A4000 (beides Workstation Karten)...

Quadro RTX 4000: 2304 CUDA cores, 288 Tensor Cores, 36 RT cores und 8 GB Speicher

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598



Frank Glencairn
Beiträge: 23162

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von Frank Glencairn »

NVIDIA AI GPU Demand Blows Up, Chip Prices Increase By 40% & Stock Shortages Expected Till December
NVIDIA's GPU business boom has been the result of countless years of *** on AI as the next big thing. With ChatGPT and other generative AI models, it looks like NVIDIA's bets have paid off & the company is getting orders from all corners of the tech industry to get hands on its brand-new GPUs including the A100 and the H100.

Multiple reports are now suggesting that NVIDIA might not be able to keep up with the massive AI chip demand despite its best efforts. A recent report by DigiTimes suggests that as the green team sees a ramp-up in orders for its latest GPUs, the company has started to increase production of its chips at TSMC.
https://wccftech.com/nvidia-ai-gpu-dema ... -december/
Sapere aude - de omnibus dubitandum



dienstag_01
Beiträge: 13473

Re: Welche Grafikkarte für eine KI-Video Workstation? Nvidia RTX4090 oder Radeon Pro W7900?

Beitrag von dienstag_01 »

Bluboy hat geschrieben: Fr 05 Mai, 2023 21:21
marty_mc hat geschrieben: Di 02 Mai, 2023 11:19

Er hat die mit 8Gb und 288 Tensor Cores. Was wohl bei Topaz von Vorteil wäre, sagt er.
Benchmark bei 1920x1080 und Artemis: 1x8,54 fps

Bei meiner GTX 1070 sind es nur: Artemis: 1x1,49fps.

Frage an dich: Macht ein Grafikkarten update bei meinem Rechner noch Sinn oder ist DIESER ein Flaschenhals, so dass bessere Karten nicht viel bringen in Bezug auf Topaz?

Mein Rechner:
OS: Windows v10.2009
CPU: Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz 31.913 GB
GPU: NVIDIA GeForce GTX 1070 7.8984 GB
Recht weit kommt man mit dem I7-6700 nicht mehr.

https://www.cpubenchmark.net/cpu.php?cp ... Hz&id=2598
Wieso nicht, so ein Quatsch.
Ich habe meinen gerade erst ausgetauscht, aber nur, weil es mir um h265 geht (über die interne GPU). Mit KI hat der Prozessor ja sowieso nur wenig zu tun.

Man hat mit neueren Prozessoren und damit neueren Boards mehr Bandbreite beim Datendurchsatz zur GPU. Das scheint aber genauso ein theoretischer Mehrwert zu sein, wie die Unterschiede in Benchmarks. Eine Anwendung, die davon profitiert, kenne ich nicht.



 Aktuelle Beiträge [alle Foren]
 
» Was schaust Du gerade?
von Bluboy - Mi 13:54
» Apple Vision Pro: Verkaufsstart (USA) ab Februar für 3.499,- Dollar + neuer Werbeclip
von cantsin - Mi 13:39
» SmallRig @ NAB 2024: Potato Jet Stativ, Brandon Li Cage, VB212 Akku
von slashCAM - Mi 12:36
» Flackern bei der Digitalisierung - USB Grabby
von Laboriosa - Mi 12:21
» Retention Video Editing ist tot
von Jalue - Mi 12:10
» Audition CS6 > Arbeitsbereich aus Versehen gelöscht
von Herbie - Mi 12:10
» Was hast Du zuletzt gekauft?
von ruessel - Mi 12:02
» DJI Power 500 und 1000: Mobile Powerstations mit bis zu 1.024 Wh
von slashCAM - Mi 9:27
» Atomos Neon 24 - 4K HDR-Grading Display-Recorder
von teichomad - Mi 9:14
» Resolve-Mac, 5000€
von freezer - Mi 9:02
» Atomos Ninja als HDMI-Recorder
von Saint.Manuel - Mi 8:41
» DaVinci Resolve 19: Die neuen Funktionen ausführlich erklärt
von freezer - Mi 8:20
» Meine erste Kritik in Filmthread :-)
von Frank Glencairn - Mi 8:12
» Kostenloser Fairlight Workshop mit Mary Plummer
von Frank Glencairn - Mi 6:31
» AMDs Notebook APU Strix Halo - besser als Apples M3 Pro Chip?
von macaw - Mi 6:31
» Canon öffnet RF-Mount - Erste Objektive von Sigma (18-50 mm f/2.8) und Tamron (11-20 mm f/2,8)
von pillepalle - Mi 0:21
» Panasonic S5 - Allgemeine Fragen, Tipps und Tricks, Zeig deine Bilder/Videos usw.
von cantsin - Di 20:31
» Musikvideo Floridas Klaus "Che Guevara"
von MK - Di 18:37
» Realistischer und mehr Details - Adobe Firefly Image 3 Model für Web und Photoshop
von slashCAM - Di 14:48
» Adobe Firefly KI jetzt auch mobil in neuer Express App verfügbar
von slashCAM - Di 14:15
» Z Cam E2G, E2C, E2-6F, E2-S6, E2-F8
von Clemens Schiesko - Di 13:45
» Canon öffnet RF-Mount - aber nur für APS-C
von stip - Di 10:10
» Linsen (Vintage, Anamorphic & Co.)
von Frank Glencairn - Di 9:35
» Cannes 2024
von 7River - Di 9:28
» Blackmagic PYXIS 6K: Die Vollformat „Box“-Kamera mit Viewfinder, 2x SDI, Sideplates (!) uvm.
von Frank Glencairn - Di 9:24
» Woody Allen: Coup de Chance (ab Herbst 2023, Venedig)
von Skeptiker - Di 8:19
» Panasonic HC X2000 und Rode
von rush - Mo 21:02
» SmallRig: Creators Toolkit
von Darth Schneider - Mo 15:13
» Bullet Time Setup aus 75 DSLRs :)
von LarsS - Mo 12:49
» Dehancer Pro - Filmsimulation auf höchstem Niveau
von MK - Mo 12:12
» Kostenlose Motion Cam App ermöglicht erstmals CinemaDNG RAW-Videoaufnahme auf Smartphones
von cantsin - Mo 9:39
» Air2S Problem Speicherkarte
von Jott - Mo 9:34
» Was hörst Du gerade?
von klusterdegenerierung - Mo 1:00
» CyberLink PowerDirector: Noch mehr integrierte KI-Effekte für Video
von medienonkel - So 18:40
» Anfänger im Schnitt Stunden- bzw. Tageshonorar Beteiligung am Gewinn
von Bergspetzl - So 18:17