InfiniBand-Switch: 62% schneller bei KI-Trainingsoperationen
Veröffentlicht am: 21.08.2026 um 02:21 Uhr | Redaktion boerse-global.de
Im Bereich des High-Performance-Computing (HPC) und der Skalierung von Clustern für Künstliche Intelligenz (KI) hat NVIDIA Informationen zur Markteinführung des Mellanox MQM8790-HS2F InfiniBand Switches veröffentlicht.
Das System ist darauf ausgelegt, die Datenübertragungsraten in Rechenzentren signifikant zu erhöhen und die Latenzzeiten bei komplexen Rechenoperationen zu minimieren. Der Switch nutzt die HDR-Technologie (High Data Rate), um den wachsenden Anforderungen moderner Workloads gerecht zu werden.
Technische Spezifikationen und Konnektivität
Nach Angaben des Herstellers verfügt der MQM8790-HS2F über 40 QSFP56-Ports, die jeweils eine Übertragungsrate von 200 Gb/s HDR unterstützen. Mit einer nicht-blockierenden Bandbreite von insgesamt 8 Tb/s soll das System einen reibungslosen Datendurchfluss gewährleisten.
Ein zentrales Merkmal der Hardware ist die Unterstützung von SHARP v3.0 (Scalable Hierarchical Aggregation and Reduction Protocol), wodurch kollektive Kommunikationsvorgänge direkt auf dem Netzwerk-Switch berechnet werden können, anstatt die CPU- oder GPU-Ressourcen der Rechenknoten zu belasten.
Die Latenz des Switches wird mit einem Wert von unter 130 Nanosekunden angegeben. Dies stellt eine wesentliche Voraussetzung für zeitkritische Anwendungen im wissenschaftlichen Rechnen und beim Training großer Sprachmodelle dar. Das System ist zudem vollständig kompatibel mit den Netzwerkkarten der ConnectX-6- und ConnectX-7-Serie, was eine flexible Integration in bestehende Infrastrukturen ermöglichen soll.
Leistungssteigerung in nationalen Supercomputing-Zentren
In einem aktuellen Anwendungsbeispiel wird der Einsatz des MQM8790-HS2F in einem nationalen Supercomputing-Zentrum dokumentiert. Dort wurde eine bestehende Netzwerkinfrastruktur von EDR 100 Gb/s auf HDR 200 Gb/s aufgerüstet.
Während technologische Innovationen wie KI die Effizienz steigern, bringen sie auch neue Herausforderungen für die IT-Sicherheit mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Kontext neuer KI-Gesetze jetzt kennen müssen. Kostenlosen Cyber-Security-Report jetzt herunterladen
Der Aufbau des Clusters erfolgte mit einer Architektur aus 24 Leaf-Switches und 8 Spine-Switches, wobei eine 2:1-Überbuchung (Oversubscription) implementiert wurde.
Durch den Wechsel der Hardware konnte die Latenzzeit im Netzwerk von zuvor 680 Nanosekunden auf unter 130 Nanosekunden gesenkt werden. Besonders deutlich zeigten sich die Verbesserungen bei den sogenannten All-Reduce-Operationen, die für das Training verteilter KI-Modelle essenziell sind. Hier verzeichnete das Zentrum eine Reduzierung der Latenz um 62 Prozent.
Auswirkungen auf GPU-Auslastung und Durchsatz
Wer sich mit dem Thema hochperformanter IT-Infrastrukturen befasst, sollte auch den Schutz der Systeme vor externen Zugriffen nicht vernachlässigen. Erfahren Sie in diesem Gratis-E-Book, wie Sie Sicherheitslücken schließen und Ihre IT-Sicherheit ohne teure Investitionen stärken. Jetzt E-Book für IT-Sicherheit gratis sichern
Die Optimierung der Netzwerkgeschwindigkeit hat direkte Auswirkungen auf die Effizienz der eingesetzten Rechenressourcen. Den vorliegenden Daten zufolge konnte die GPU-Auslastung innerhalb des untersuchten Clusters von 72 Prozent auf 91 Prozent gesteigert werden. Dieser Zuwachs resultiert vor allem daraus, dass die Prozessoren seltener auf den Datenaustausch über das Netzwerk warten müssen und somit produktiver arbeiten können.
Parallel dazu erhöhte sich der Gesamtdurchsatz des Clusters um 18 Prozent. Diese Kennzahlen verdeutlichen laut den vorliegenden Berichten, dass die Netzwerkinfrastruktur einen entscheidenden Flaschenhals in modernen HPC-Umgebungen darstellt und die Wahl leistungsfähiger Switching-Komponenten wie des MQM8790-HS2F maßgeblich zur Gesamteffizienz von Forschungs- und Entwicklungsumgebungen beitragen kann.
