Damit steht Apple gerade für kommende KI-Anwendungen auffällig nackt da. Zwar kann der M2 Ultra nun im Maximalausbau mit 76 GPU Kernen rund 27 TFlops FP32 Rechenleistung bei einem Speicherdurchsatz von 800 GB/s liefern, jedoch ist dies gerade mal ein Viertel der Rechenleistung einer einzigen Nvidia RTX 4090 GPU für 1.800 Euro.
Apple muss sich dieses Problems auch durchaus bewusst sein, denn man stellt zum brandheißen Thema KI in der Pressemeldung einzig den KI-Vorteil heraus, mit dem M2 Ultra "bei maschinellem Lernen riesige Workloads in einem einzigen System zu trainieren, die selbst die leistungsstärkste eigenständige GPU nicht verarbeiten kann". Gemeint ist damit, dass man die M2 Ultra GPU-Kerne mit bis zu 192 GB RAM nutzen kann, während man bei separaten Grafikkarten unter 10.000 Euro aktuell auf 48 GB Speicher beschränkt ist.
Geeignet für KI?
Tatsächlich lässt sich ein M2 Ultra Mac Studio im günstigsten Fall für unter 7.000 Euro mit 192 GB Speicher konfigurieren, was für das Training großer KI-Modelle ein mehr als verlockender Preis ist. Nur fehlt es Apple aktuell an entsprechender Software-Unterstützung. Zumindest alle uns bekannten großen KI-Modelle lassen sich heutzutage nur unter Nvidia- oder AMD-GPUs trainieren.
Wenn Apple den KI-Zug nicht vollständig verpassen will, muss man in naher Zukunft entweder eine eigene Unterstützung von aktuellen KI-Modellen für den M2 Ultra anbieten oder mindestens einen GPU-Anbieter ins Boot holen. Nachdem die Beziehung zu Nvidia als komplett verbrannt gilt, bliebe hierfür AMD die erste Wahl - die auch bei den letzten Mac Pros für entsprechende GPU-Unterstützung gesorgt hat. Apple hätte zudem sowieso das Inhouse Know How, um die bestehenden AMD Treiber des Intel Mac Pro an den M2 anzupassen.
Nadelöhr Stromversorgung
Eine wirklich mächtige KI-Workstation könnte der neue Mac Pro mit mehreren GPUs allerdings trotzdem nicht werden, denn für viele stromschluckende GPUs ist die 300 W Zusatzleistung des neuen Mac Pro nicht ausgelegt: So gibt es im inneren gerade mal zwei 6‑polige Anschlüsse mit jeweils 75 W, sowie einen 8‑poligen Anschluss mit 150 W Leistung.
Dies würde gerade mal für den Betrieb einer einzigen Radeon PRO W7900 ausreichen, die ungefähr 62 FP32-TFLOPS schafft. Sollte Apple mit dem neuen Mac Pro daher ernsthaft den Einsatz von PCIe-GPUs als Nutzungsgebiet im Auge haben, so müsste AMD auch noch speziell für Apple besonders effiziente Modelle anbieten. Nicht sehr wahrscheinlich, aber es gab in der Vergangenheit immerhin schon ähnliche Ansätze.
PCIe für wen?
Wen will Apple also konkret mit seinem neuen Mac Pro ansprechen? Mit maximal 27 FP32-TFlops steht man im aktuellen Workstation Bereich gerade mal in der Einsteigerklasse. Fast jeder "Creator" kann heute üppige TFlops-Leistung gebrauchen- vom 3D-Rendering über Videoediting und Compositing bis zum aufkommenden Fein-Tuning von KI-Modellen. Wem hier maximal 27 TFlops reichen, der kann auch zum deutlich günstigeren Mac Studio greifen.
Und wer deutlich mehr Rechenleistung braucht, wird weiterhin nur bei PC-basierten Workstations fündig. Für Apples Argument des großen Unified Memory fehlen zudem immer noch die entsprechenden Anwendungen.
Somit können wir uns bis auf ein paar sehr spezielle Nischen wie Uncompressed MultiStream Video Recording kaum eine breitere Anwendung für die PCIe-Slots am M2 Ultra vorstellen. Außer Apple hätte vielleicht auch noch eigene GPUs am Start...
Das was das Netzteil bringt ist die Ergänzung zu den 75 Watt die der Slot liefert.
Aber sei es drum, bevor einer von den Freakstars 3000 wieder steil geht: Bei dem ganzen...weiterlesen
Frank Glencairn 06:39 am 29.6.2023
Die meisten Grafikkarten beziehen ihren Strom doch schon seit zig Jahren hauptsächlich direkt vom Netzteil und nicht über PCI.
MK 02:28 am 29.6.2023
Mit dem kleinen Netzteil können das keine PEG Slots mit 75 Watt sein... mehr als 25 Watt gibt es dann pro Slot nach PCIe-Standard nicht.
Selbst für sehr sparsame Grafikkarten...weiterlesen
News: CES 2022 - CPU- und GPU-Ausblick von Intel, AMD und Nvidia Di, 4.Januar 2022 Die Consumer Electronics Show (CES) 2022 öffnet heute (teilweise virtuell) ihre Pforten. Wir fühlen schon mal vor, wohin in diesem Jahr die Reise von AMD, Intel und Nvidia gehen wird.
News: Intel mit riesiger Sicherheitslücke - warum es (fast) alle betrifft Fr, 24.November 2017 Schon seit geraumer Zeit ist bekannt, dass Intels Management Engine gehackt wurde, jedoch ist die Medienberichterstattung hierzu unserer Meinung nach recht dürftig. Darum auch mal von unserer Seite ein Weckruf, seine Systeme zu checken...
Maximal 27 TFlops GPU-Rechenleistung / Geeignet für KI? / Nadelöhr Stromversorgung / PCIe für wen?
