NVIDIA optimiert KI-Modelle: Doppelter Durchsatz durch Hardware-Software-Abstimmung
Veröffentlicht: 11.07.2026 um 01:22 Uhr, Redaktion boerse-global.de
Große Technologiekonzerne verfolgen einen neuen Ansatz: Statt immer größere KI-Modelle zu bauen, optimieren sie die Abstimmung zwischen Software und Silizium. Das soll die explodierenden Kosten für Rechenleistung eindämmen.
NVIDIA gibt Takt für effizientere KI-Modelle vor
Der Chip-Gigant NVIDIA hat am 10. Juli konkrete Richtlinien für die Entwicklung hardwarefreundlicher Sprachmodelle veröffentlicht. Die Kernbotschaft: Die Leistung hängt maßgeblich davon ab, wie gut die Modellarchitektur mit der physikalischen Struktur der Grafikprozessoren harmoniert.
Konkret empfiehlt NVIDIA, dass die Dimensionen linearer Schichten annähernd quadratisch bleiben und mit den GPU-Kachelgrößen übereinstimmen – vorzugsweise in Vielfachen von 128, 256 oder 512. Breitere Architekturen seien schmaleren, tieferen Modellen vorzuziehen, da sie die parallelen Rechenfähigkeiten moderner Chips besser ausnutzen.
Für die Blackwell-Architektur hob NVIDIA zudem die Bedeutung der NVFP4-Quantisierung hervor. Auch spezielle Parallelisierungsverfahren für sogenannte Mixture-of-Experts-Modelle (MoE) sollen den Durchsatz und die Interaktivität für Echtzeitanwendungen verbessern.
Komprimierte Modelle mit doppeltem Durchsatz
Die praktische Umsetzung dieser Prinzipien zeigt NVIDIA mit dem Modell Nemotron-Labs-3-Puzzle-75B-A9B, das am 9. Juli vorgestellt wurde. Durch eine iterative Komprimierungsmethode und Wissensdestillation schrumpfte die Parameterzahl von 120,7 Milliarden auf 75,3 Milliarden. Die aktiven Parameter sanken von 12,8 auf 9,3 Milliarden.
Wer die explodierenden Kosten für KI-Rechenleistung eindämmen will, findet in diesem Report die entscheidenden Hebel: hardwarefreundliche Modellparameter, Nemotron-Komprimierung und GPU-Durchsatz-Vergleiche. Jetzt kostenlosen Optimierungs-Report anfordern
Die technischen Benchmarks sind beeindruckend: Auf einem 8xB200-System steigert die Komprimierung den Serverdurchsatz um das 2,03-Fache – bei einer Nutzererfahrung von 100 Tokens pro Sekunde. Ein einzelner H100-Chip kann nun acht gleichzeitige Anfragen mit einem Kontext von einer Million Tokens bearbeiten. Bisher war nur eine einzelne Anfrage möglich.
Noch einen Schritt weiter geht NVIDIAs Nemotron-Labs-Diffusion, ebenfalls am 9. Juli in einem Forschungspapier vorgestellt. Ein Modell mit acht Milliarden Parametern entschlüsselt dank eines selbst-spekulativen Modus sechsmal mehr Tokens pro Vorwärtsdurchlauf als vergleichbare Architekturen. Da kein separates Draft-Modell mehr nötig ist, vervierfacht sich der Durchsatz auf GB200-Hardware.
OpenAI und IBM gehen eigene Wege
Der Trend zur Hardware-Software-Symbiose beschränkt sich nicht auf Software-Optimierungen. Am 10. Juli präsentierten OpenAI und Broadcom den Jalapeño-Chip, einen speziell für KI-Inferenz optimierten ASIC. Das Projekt soll innerhalb von neun Monaten das Tape-out erreichen, erste Tests laufen mit dem Modell GPT-5.3-Codex-Spark. OpenAI plant, die Chips bis Ende 2026 in Gigawatt-Rechenzentren einzusetzen – mit dem Ziel, die Leistung pro Watt deutlich zu verbessern.
Ihre KI-Infrastruktur läuft nicht auf dem maximalen Durchsatz? Der Report zeigt, wie Sie durch NVFP4-Quantisierung und MoE-Parallelisierung den Durchsatz verdoppeln – bevor Ihre Konkurrenz die Skalierung vorantreibt. Durchsatz-Booster jetzt sichern
Während etablierte Unternehmen bestehende Transformer-Strukturen optimieren, forscht IBM an völlig neuen Grundlagen. Am 9. Juli stellte IBM Research CoFrGeNets vor – eine Architektur, die auf Kettenbrüchen basiert und traditionelle Attention- und Feed-Forward-Schichten ersetzt.
Laut IBM benötigt die neue Architektur weniger Parameter als Modelle wie GPT2-xl oder Llama-3.2B, liefert aber vergleichbare oder bessere Ergebnisse. Besonders geeignet ist sie für MoE-Konfigurationen. IBM entwickelt derzeit Hardware-Beschleunigungslösungen mit FPGAs und analogen Prozessoren – ein weiteres Signal für die tiefgreifende Integration von Hard- und Software in der KI-Industrie.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
