Die Zahl der Nutzer, die KI-Modelle nicht in der Cloud, sondern auf dem eigenen Rechner oder auf der Hardware im eigenen Büro betreiben wollen, wächst mit jedem Monat. NVIDIA hat nun eines der umfassendsten Update-Pakete für genau diese Nachfrage angekündigt. Nach Informationen von BabelTechReviews hat das Unternehmen in einer einzigen Ankündigung sowohl Cluster-Lösungen als auch Performance-Verbesserungen zusammengeführt – vom DGX-Spark-Ökosystem bis zu offenen Modellen, die auf RTX-Karten laufen. Alle Ankündigungen kamen unmittelbar nach dem am selben Tag vorgestellten Modell Nemotron 3.5 Lightning; das zeigt, dass es hier nicht um eine einzelne Produktvorstellung geht, sondern um eine Ökosystem-Strategie, bei der die einzelnen Teile einander verstärken.
Warum lokale KI so wichtig geworden ist
Beim Stichwort lokale KI denkt man zuerst meist an „Modelle, die ohne Internet funktionieren“, doch dahinter steckt viel mehr. Bei cloudbasierten Diensten muss jede Anfrage zu entfernten Servern hin und wieder zurück, was Latenz erzeugt und kontinuierliche Dienstgebühren bedeutet. Hinzu kommt die Dimension des Datenschutzes: Für Teams, die ihre eigenen Dokumente, ihren Code oder Kundendaten nicht nach außen geben wollen, wird der lokale Betrieb zur einzig realistischen Option. Daher gerät jeder Schritt von NVIDIA in diesem Bereich nicht nur in das Blickfeld neugieriger Nutzer, sondern auch institutioneller Entwickler.
Auf der anderen Seite bereitete sich die Hardware schon seit Längerem auf dieses Szenario vor. Die Qualität offener Modelle (Open-Weight) steigt mit jeder Version, und Fähigkeiten, die früher nur in Rechenzentren laufen konnten, passen heute in Desktop-Systeme. Je stärker sich dieses Gleichgewicht verschiebt, desto mehr ändert sich auch die Antwort der Nutzer auf die Frage „Cloud oder lokal?“. NVIDIAs jüngste Ankündigungen sind in diesem Rahmen zu lesen: Das Unternehmen will die lokale Hardware durch Verbesserungen auf der Softwareseite attraktiver machen.
Das DGX-Spark-Ökosystem: Vom Einzelsystem zum Hochgeschwindigkeits-Cluster
Die auffälligste Schlagzeile auf der Hardwareseite der Ankündigung ist ein deutlicher Fähigkeitszuwachs für DGX-Spark-Nutzer. Dank des neuen NVIDIA Sync Cluster Assistant können Nutzer zwei oder mehr DGX-Spark-Systeme zu einem Hochgeschwindigkeits-Cluster verbinden. Dieser Assistent stellt nicht nur die Verbindung her; er verwaltet auch Netzwerkkonfiguration, Workload-Routing und automatische Zustandsüberwachung von einer einzigen Stelle aus. Dass diese Schritte, die früher erheblichen manuellen Aufwand erforderten, automatisiert werden, erleichtert insbesondere kleinen Teams den Aufbau eines eigenen Mini-Rechenzentrums.
Zwei weitere Neuerungen im selben Paket wirken sich direkt auf die tägliche Nutzung aus. Google Chrome kommt nun offiziell als lokaler ARM64-Linux-Build, was browserbasierte Workflows auf dem DGX Spark erleichtert. Der ergänzend hinzugefügte NVIDIA Sync Resource Monitor zeigt die CPU- und GPU-Auslastung sowohl in Echtzeit als auch rückblickend. Darüber hinaus beschränkt sich diese Überwachung nicht auf ein einzelnes System; es wird möglich, das gesamte Cluster von einem einzigen Bildschirm aus zu verfolgen.
- NVIDIA Sync Cluster Assistant: Verwandelt zwei oder mehr DGX Spark in ein Hochgeschwindigkeits-Cluster; Netzwerkkonfiguration, Workload-Routing und automatische Zustandsüberwachung werden unter einem Dach zusammengeführt.
- Lokales Chrome (ARM64 Linux): Der offizielle ARM64-Linux-Build von Google Chrome kommt auf den DGX Spark und beschleunigt browserbasierte Entwicklungsabläufe.
- NVIDIA Sync Resource Monitor: Bietet eine Echtzeit- und eine rückblickende Ansicht der CPU- und GPU-Auslastung; funktioniert sowohl auf einem einzelnen System als auch im gesamten Cluster.
Betrachtet man diese drei Neuerungen zusammen, ergibt sich ein klares Bild: NVIDIA will den DGX Spark von einer „allein starken Kiste“ zu einer skalierbaren lokalen Infrastruktur machen. Dass Überwachungs- und Clustering-Tools gleichzeitig kommen, ist kein Zufall; sie zielen direkt auf den größten Kopfschmerz mehrsystemiger Installationen – den Mangel an Transparenz. Für Nutzer bedeutet das einen Weg, der von Anfang an wachsen kann, ohne teure Anschaffungen.
Immer aktive Agenten auf RTX-Karten: Muse Glimmer
Kommen wir zur Verbraucherseite, begegnet uns Metas Modell Muse Glimmer. Dieses offene Modell mit 30 Milliarden Parametern ist speziell für „immer aktive“ lokale Agenten optimiert. Der Ausdruck „immer aktiv“ ist hier wichtig: Assistenten, die ständig im Hintergrund laufen und Aufgaben übernehmen können, ohne auf die Anfrage des Nutzers zu warten, benötigen ein ganz anderes Hardware-Profil als klassische Chatbots. In solchen Szenarien wird es kritisch, dass das Modell im Speicher bleibt und mit geringer Latenz antwortet.
Die von NVIDIA genannte Zahl ist an dieser Stelle bemerkenswert: Auf einer Flaggschiff-Karte wie der GeForce RTX 5090 lässt sich Muse Glimmer lokal mit über 200 Token pro Sekunde ausführen. Das repräsentiert den Unterschied zwischen dem „Ausprobieren“ eines Sprachmodells und seiner Integration in den täglichen Workflow. Für Nutzer macht diese Geschwindigkeit Szenarien wie Code-Vervollständigung, Dokumentzusammenfassung oder einen dauerhaft laufenden Agenten wirklich praktikabel. Man sollte nicht vergessen, dass eine hohe Token-Rate zugleich kürzere Antwortzeiten und ein flüssigeres Erlebnis bedeutet.
LTX-2.5: Der lokale Sprung in der Videoproduktion
Auf der Videoseite sticht LTX-2.5 hervor. Die neue Version des offenen Videomodells unterstützt Multishot-Generierung und generative Bearbeitung (Generative Editing). Die Multishot-Unterstützung ermöglicht die Erzeugung von Sequenzen aus aufeinanderfolgenden Einstellungen statt einer einzigen Szene; die generative Bearbeitung öffnet die Tür dazu, ein vorhandenes Video zu verändern, ohne es von Grund auf neu zu erzeugen. Diese beiden Fähigkeiten heben die lokale Videoproduktion von der Stufe „Ausprobieren“ auf die Stufe „kann in den Schnittprozess integriert werden“.
Die von NVIDIA angekündigten Optimierungen betreffen die Hardwareseite. Das Modell ist speziell für NVIDIA RTX GPUs, DGX Spark und DGX Station optimiert. Infolgedessen erzielen Nutzer eine doppelte Performance-Steigerung bei gleichzeitig 40 Prozent geringerem Speicherverbrauch. Dieser Rückgang beim Speicher ist besonders wichtig, denn Videomodelle gehören üblicherweise zu den Workloads, die den VRAM am stärksten beanspruchen. Das heißt: Mit derselben Hardware lassen sich längere Clips und komplexere Projekte produzieren.
Sieben neue offene Modelle, die NVIDIA beschleunigt
Die breiteste Überschrift der Ankündigung sind die neuen offenen Modelle, die NVIDIA in seine Beschleunigungsliste aufgenommen hat. Das Unternehmen stellte gleichzeitig sieben Modelle vor, die unterschiedliche Anwendungsbereiche abdecken, damit Entwickler sie erkunden können:
- Cosmos 3 Edge – Diese Version der Cosmos-Familie ist der Liste der beschleunigten Modelle beigetreten.
- MiniMax-H3 – Auch dieses Modell mit der Signatur von MiniMax gehört zu den unterstützten.
- Das Modell Laguna S 2.1 von Poolside – Die neue Version von Poolside steht auf der Liste der mit NVIDIA-Beschleunigung angebotenen Modelle.
- DeepSeek-V4-Flash – Auch die mit „Flash“ bezeichnete Version von DeepSeek gehört nun zu den beschleunigten Modellen.
- Das Modell Inkling-Small von Thinking Machines Lab – Auch dieses Modell von Thinking Machines Lab ist eines der neuen Mitglieder der Liste.
- Unsloth Desktop – Auch diese auf die Desktop-Seite ausgerichtete Version von Unsloth wurde in die Beschleunigung aufgenommen.
- Wan-Animate-2 – Die zweite Version der Wan-Animate-Familie wurde ebenfalls in die unterstützten Modelle aufgenommen.
NVIDIA hat in dieser Ankündigung nicht für jedes Modell detaillierte Performance-Zahlen geteilt; die Liste beantwortet eher die Frage, welche Modelle nun bereit sind. Dennoch ist diese Erweiterung selbst bedeutsam: Dass die Beschleunigungsliste mit Modellen aus verschiedenen Kategorien wächst, zeigt, dass Entwickler ausprobieren können, ohne an ein bestimmtes Ökosystem gebunden zu sein. Für Teams, die nicht von den Modellen eines einzigen Anbieters abhängig sein wollen, fungieren solche Listen als eine Absicherung, die die Lebensdauer der Hardware-Investition verlängert.
Was bringen diese Updates in der Praxis wem?
Liest man die Ankündigung als Ganzes, treten drei verschiedene Nutzerprofile hervor. Ein Entwickler, der mit einem einzigen DGX Spark beginnt, findet dank des Cluster-Assistenten einen vorbereiteten Skalierungspfad, sobald die Workload wächst. Ein interessierter Nutzer mit einem RTX-basierten Desktop kann mit Modellen wie Muse Glimmer und LTX-2.5 lokale Agenten und Videoproduktion ausprobieren. Auf der Unternehmensseite wird die Option lokaler Infrastruktur für Teams, die arbeiten müssen, ohne Daten nach außen zu geben, von Tag zu Tag realistischer.
Auch die Kostenseite sollte nicht übersehen werden. Bei Cloud-Diensten wachsen die Ausgaben mit steigender Nutzung linear, während bei lokaler Hardware die Kosten zu einer von Anfang an getätigten Investition werden. Daher speist sich die Attraktivität lokaler Lösungen nicht nur aus der Privatsphäre, sondern auch aus dem Bedürfnis von Teams nach einem planbaren Budget. Dass NVIDIA Tools sowohl für das Cluster als auch für das Einzelsystem anbietet, zielt darauf ab, den Übergang zwischen diesen beiden Enden zu erleichtern. Dass Software-Optimierungen kontinuierlich nachgeliefert werden, wirkt zudem lebensdauerverlängernd für die vorhandene Hardware.
Was ist als Nächstes zu erwarten?
Auf der Roadmap von NVIDIA wird lokale KI offenbar ein langfristiges Thema bleiben. Dass das Unternehmen am selben Tag das Modell Nemotron 3.5 Lightning vorstellte und dazu technische Blogbeiträge veröffentlichte, zeigt, dass die Investitionen auf der Softwareseite anhalten. In der kommenden Zeit ist zu erwarten, dass die Liste der beschleunigten Modelle weiter wächst und bestehende Optimierungen mit neuen Versionen vertieft werden. Die für Nutzer entscheidende Frage lautet jedoch: Welche Workloads sind in der Cloud und welche lokal sinnvoller?
Die Antwort auf diese Frage wird von Nutzer zu Nutzer unterschiedlich ausfallen, doch das Gleichgewicht verschiebt sich eindeutig zur lokalen Seite. Wenn clusterfähige Desktop-Systeme, lokale Modelle mit über 200 Token pro Sekunde und eine speichereffizientere Videoproduktion zusammenkommen, ist „lokale KI“ längst kein Hobby mehr, sondern eine ernstzunehmende Produktionsoption. Genau auf die Beschleunigung dieses Übergangs ist auch NVIDIAs jüngste Ankündigung ausgerichtet.
