Nvidia verdient gutes Geld (Bild: Shutterstock/Samuel Boivin)

Wenn Nvidia bald die nächste Generation seiner KI-Beschleuniger vorstellt, dürfte ein neues Kürzel auftauchen: NVHBM. Dahinter steckt eine an Nvidia (NV) angepasste Version des Speichertyps HBM4, also sogenannter Custom HBM4. HBM steht für High Bandwidth Memory – Speicher, der besonders große Datenmengen pro Sekunde liefert und deshalb in KI-Beschleunigern steckt. Die riesige Nachfrage danach sorgt auch dafür, dass Speicher für normale PCs oder Macs immer teurer wird.

HBM4 trennt zwei Dinge voneinander: die gestapelten Speicherlagen mit dem eigentlichen Arbeitsspeicher (DRAM) und die unterste Logiklage, die diesen Speicher ansteuert. Diese Basisschicht heißt Base-Die. Der Vorteil: Chiphersteller können das Base-Die in einem Fertigungsprozess produzieren, der auf Logikschaltungen ausgelegt ist. Speicherhersteller müssen diesen Teil also nicht mit ihrem DRAM-Prozess bauen. Zugleich lässt sich das Base-Die auf einzelne Hersteller zuschneiden.

Top-Artikel

${content}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

Genau das nutzt Nvidia aus. Das Unternehmen packt in das Base-Die nicht nur die Ansteuerung des DRAMs, sondern auch den Speicher-Controller. Der belegt damit keinen Platz mehr in der CPU, der GPU oder in einem separaten I/O-Die für die Ein- und Ausgabe. Nvidia geht damit weiter als AMD bei der Radeon-RX-7000-Serie. Dort hatte AMD den GPU-Cache und den Speicher-Controller lediglich in eigene Chiplets ausgelagert – also in separate Teilchips neben dem Hauptchip.

Für die Verbindung zwischen Speicher und Rechenchip sieht Nvidia kleine NVLink-Schnittstellen vor: NVLink ist Nvidias hauseigene Verbindungstechnik zwischen Chips. NVHBM gehört damit zur Plattform NVLink Fusion, über die Partner solche Verbindungen in eigene Designs einbauen können.

Der strategische Nutzen liegt für Nvidia auf der Hand: Der KI-Riese bindet Unternehmen an sein Ökosystem, die lieber eigene KI-Beschleuniger entwerfen, statt fertige GPUs zu kaufen. Diese Firmen können weiterhin Nvidias Netzwerktechnik dazukaufen, etwa NVLink-Switches. Gleichzeitig hält Nvidia so den herstellerübergreifenden Standard Compute Express Link (CXL) klein. Laut Nivida-Blog wollen verschiedene Speicherhersteller NVHBM prüfen und anbieten. Als erster Partner setzt Annapurna Labs die Technik ein – die Halbleitertochter von Amazon.

Startseite