Nvidia RTX 4070 Ti ab 5. Januar verfügbar - 40 TFlops, aber nur 500 GB/s

[slashCAM]

Sehr verlässlichen Gerüchte-Quellen zufolge soll Nvidia am 3. Januar seine nächste Grafikkarte der neuen AIDA-Generation vorstellen. D.h. eigentlich wurde die kommende Nv...

Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
Nvidia RTX 4070 Ti ab 5. Januar verfügbar - 40 TFlops, aber nur 500 GB/s

[Totao]

Ist es denn so dass da ein quasi unersättlicher Bedarf an immer schnelleren Grafikkarten im Videoschnitt-Segment besteht?
Aktuell scheint mir das nicht so, ich bin aber selber nicht im High-End Segment unterwegs.

In Zukunft ist da sicherlich großer Bedarf was AI-generierte Inhalte angeht, da sehe ich auch dass man nicht genug GPU-Power haben kann.

[medienonkel]

Für reinen Schnitt im 4-6K (bis 60 fps) Bereich inkl. ein wenig Farbkorrektur und leichtes Denoising in z.B. Resolve sind diese neuen Karten kompletter Overkill.
Sicher ist AV1 für die Zukunft relevant, aber kein Faktor, den man zur Zeit unbedingt braucht.

Eine 3060ti reicht da für Echtzeitschnitt wie oben beschrieben locker.
Auch noch in Jahren.

Wer auf CUDA verzichten kann, sollte eher zu den Radeons greifen. Dort findet man bei weitem das beste Preisleistungsverhältnis.


Wer sich im Bereich neuronale Netze tummeln möchte, kann natürlich nie genug Leistung haben und fährt dort auch mit NVIDIA Karten auf absehbare Zeit am Besten.

[iasi]

Spielt die Speichertransferrate wirklich noch immer so eine große Rolle?
Wir bewegen uns schließlich mittlerweile mit GDDR6 bei 500 GB/s.

Mir fehlt der Ãœberblick.

[medienonkel]

Wäre mal ganz interessant das zu testen.

Der Flaschenhals sollte ja immer noch die PCIE-Schnittstelle sein. 64 GB/s bei PCIE 4.

Hängt meiner Meinung nach auch sehr stark von der Chiparchitektur ab. Auch GPUs haben ja einen nicht unwesentlich wichtigen L1-3 Cache am Start, der in der Regel breiter bzw. schneller als der Grafikspeicher angebunden ist.
Auch das Speichermanagement generell spielt eine wichtige Rolle. Hier kann auch Datenkompression einen großen Faktor ausmachen.

Mittlerweile sind GPUs ja eher vollständige Rechner im Rechner, die von der CPU mit Daten versorgt und gehätschelt werden.
So kann die GPU komplett ausgelastet sein und die CPU macht gar nichts. So denn der gesamte Code und sämtliche Daten im GPU-Speicher liegen. Sobald die GPU auf Daten vom restlichen System warten muss, limitiert PCIE gnadenlos. Es hilft nichts, wenn 10 GB Texturen im GPU-Speicher zur Verfügung stehen, die CPU aber erstmal ausrechnen muss, was denn nun genau damit passieren soll.

Also, ja, die 500 Gbit/s sind sicher ein gewisser Hemmschuh, jedoch sollte sich das in einem Bereich von 10-20% Leistungsunterschied auswirken. Mehr nicht. Wenn die Karten dann 50% ggü. der 1000 Gbit/s kostet, schmerzt das auch gar nicht mehr so....

Aber hey, was weiß ich schon ;-)

[iasi]

....

Aber hey, was weiß ich schon ;-)

Zumindest mehr als ich, was den Stand der aktuellen Grafikkarten-Technik betrifft.

Ich stelle nur oft fest, dass die GPU in manchen Fällen ziemlich rumlungert. ;)

Dann mühen sich aber die CPU-Kerne wiederum oft nicht ab.

Schwierig die richtige Balance zu finden, ohne gleich riesige Summen zu versenken.

[medienonkel]

Es hängt einfach sehr stark vom Einsatzbereich und der Software ab.

Deepfacelab z.B. lastet GPU wie CPU gleichzeitig komplett aus.

DaVinci schreibt mal mit knapp 1 GB/s auf das Cache Laufwerk, dann mal wieder mit der Hälfte.... hängt von sehr vielen Faktoren ab.
Im Idealfall optimiert man die Kiste auf einen festen Use-Case und lässt sie dann in Ruhe.

Und wenn man dann noch anfängt mit dem Ryzen-Master an Takt, Spannung, Stromstärken usw. rumzuschrauben stellt man fest, dass die eine Software tagelang stabil durchläuft und die nächste Software so lange für Abstürze sorgt, bis man der CPU mal eben 420 A in den Sockel pumpt.

Die meisten modernen CPUs übertakten sich ja auch noch dynamisch selbst.

Bei mir steigt ja auch der CPU-Takt angeblich peakmässig schon mal auf 16 GHz, dabei werden -1 A verbraucht ;-)

[markusG]

Die meisten modernen CPUs übertakten sich ja auch noch dynamisch selbst.

Interessant hierzu der Artikel von Puget Systems:

https://www.pugetsystems.com/labs/artic ... nce-2375/

[medienonkel]

Die meisten modernen CPUs übertakten sich ja auch noch dynamisch selbst.

Interessant hierzu der Artikel von Puget Systems:

https://www.pugetsystems.com/labs/artic ... nce-2375/

Ja, das kann ich auch für den Ryzen so bestätigen. Ab einem gewissen Punkt bringt das "Übertakten" nichts mehr.
Es ist ja normal, dass man ein neues System erstmal ein paar Tage rein auf Stabilität und den "bekomme ich, was ich bezahlt habe"-Faktor mit diversen Benchmarks testet und einfach nur an die Grenzen bringt.

Ab einem Power-Target von 152 Watt war im Endeffekt Schluss mit positiven Effekten auf die stabile Performance. Immerhin läuft der 5900X jetzt stabil auf Dauerlast mit 4,7+ GHz auf allen Kernen bei guten 70-75 Grad.
Im single-core bei knapp 5 GHz, wobei er sich dann kurzfristig den 90 grad nähert.
Ab da ging es nur noch darum, den Rechner möglichst leise zu bekommen.

Hierbei bin ich dann auf ein exzellentes Tool zur Lüftersteuerung gestoßen, dass tatsächlich unglaublich viele Probleme bei der Kühlung von Komponenten einfach so löst:
https://github.com/Rem0o/FanControl.Releases
Mit dieser Software hat man die komplette Kontrolle über jeden einzelnen Lüfter im System, in allen erdenklichen Szenarien.

Das Besondere daran ist, dass man Lüfterkurven und Temperatursensoren frei kombinieren und mischen kann.

So ist es z.B. möglich, den CPU-Lüfter über eine Mix-Funktion (max, min, average, subtract) einerseits über die CPU Temperatur zu steuern, aber auch über die GPU-Temperatur. So läuft in dem Fall dass die CPU nichts zu tun hat, aber die GPU unter Vollast läuft, der CPU Lüfter etwas langsamer mit (oder schneller, je nach Kurve oder weiterem Mix...oder, oder...), um die Backplate der Grafikkarte zu "ventilieren".

Viel wichtiger ist aber, dass die CPU bzw. der Kühlkörper trotz fehlender Last konstant runter gekühlt wird, da sich so weniger Stauwärme im Gehäuse bildet und der CPU Kühlkörper als Wärmesenke für die abgestrahlte oder über das PCB des MBs übertragene Wärme der glühenden GPU dienen kann. Die jeweiligen Gehäuselüfter werden zusätzlich komplementär gesteuert, so dass ein entsprechender Luftstrom herrscht.

(Normalerweise, also bei herkömmlicher Steuerung der Hersteller, laufen die CPU- und Gehäuselüfter erst an, wenn sich die untätige CPU über Sockel und Umgebungstemperatur genügend aufgeheizt hat.
Was dauert, da ja erst der Kühlkörper die Wärme puffert und naturgemäß verzögert gesättigt ist.
Dann wird es laut, weil plötzlich viel Wärme aus dem Gehäuse soll, die CPU wird "unterkühlt" - weil eigentlich untätig -, die Lüfter drehen wieder runter, der Puffer ist wieder leer... usw.
Das System schwingt, das typische Jaulen.)

Diese für den CPU-Lüfter erstellte Mix-Funktion kann man dann wiederum völlig frei mit z.B. den Gehäuselüftern kombinieren, die wiederum gleichzeitig völlig unabhängig von der Board Temperatur gesteuert werden.....usw.

Wie mächtig FanControl aber wirklich ist wird vielleicht an folgendem Szenario noch klarer:
Ich habe zwei identische MSata SSDs auf dem Board. Die eine liegt komplett frei, die andere wird von der Grafikkarte vollständig verdeckt.
Der Temperaturunterschied zwischen den Beiden liegt normal ungefähr bei 10 Grad.
Nun ist es möglich, den mittleren Lüfter der Grafikkarte, der direkt über der verdeckten MSata SSD ist, abhängig von der Temperatur dieser SSD über eine Kurve anzusteuern.
Die Grafikkarte kühlt also die MSata SSD.

Die verdeckte SSD ist nun im Schnitt nur knapp 1-3 Grad wärmer, als die unverdeckte SSD.
Ein paar Klicks brachten eine gut 7 Grad kühlere SSD.

Eigentlich fehlen nur noch Nodes, dann wäre es perfekt.

FanControl_Curve.jpg

FanControl.jpg