Für das größere der beiden neuen Nemotron-Modelle nennt die Modellkarte vier H100 oder zwei GB200 als Einsatzumgebung, das kleinere soll laut Nvidia lokal neben anderen Anwendungen laufen.

Erst kostenlos reinschnuppern, dann entscheiden

Bevor du dich für eine Weiterbildung entscheidest, sieh dir kostenlos an, wie sie läuft, fünf Lektionen plus Live-Demo, ohne Verpflichtung. Passt es, ist der Digitalisierungsmanager bei bewilligtem Bildungsgutschein für dich kostenlos.

Kostenlos reinschnuppern

Der Schnupperkurs ist gratis. Ob die Weiterbildung über den Bildungsgutschein gefördert wird, entscheidet die Agentur für Arbeit im Einzelfall.

Zwei Modelle für sehr verschiedene Rechner

Nemotron 3.5 Super VL ist das große der beiden Modelle. Es hat laut Modellkarte 120 Milliarden Parameter, von denen 12 Milliarden aktiv sind, und verarbeitet einen Kontext von bis zu 1 Million Tokens. Eingaben dürfen Text, Bilder und Video sein, ausgegeben wird Text. Nvidia beschreibt es als Modell für spezialisierte Agenten, die dauerhaft laufen.

Bei den Bildfähigkeiten legt Nvidia den Schwerpunkt auf Texterkennung, Tabellen, Diagramme und mehrseitige Dokumente, also auf PDFs und ähnliche Unterlagen. Bezogen werden kann Super VL über Hugging Face, OpenRouter, ModelScope und als Nvidia NIM.

Am anderen Ende steht Nemotron 3.5 Bolt 74B-A9B 24GB. Laut Modellkarte hat es 74 Milliarden Parameter, davon 9 Milliarden aktiv, und wurde durch eine 2-Bit-Quantisierung auf 24 GB verkleinert. Damit soll es nach Angaben von Nvidia lokal neben anderen Anwendungen laufen. Der Kontext reicht bis 256.000 Tokens. Gedacht ist Bolt für alltägliche Agentenaufgaben auf dem eigenen Rechner, laut Nvidia etwa Recherche im Netz, Schreiben oder das Prüfen von Code, ohne dass diese Arbeit in die Cloud geht.

Eine dritte, noch kleinere Variante namens Bolt E4B 4GB ist angekündigt. Sie soll laut Nvidia am 23. Oktober folgen.

Wo Bolt laufen soll, beschreiben Blog und Modellkarte unterschiedlich

Bolt ist auf Hugging Face verfügbar. Nvidia nennt Unterstützung für llama.cpp, Ollama, LM Studio, Unsloth und vLLM. Laufen soll das Modell laut Nvidia-Blog auf GeForce-RTX-PCs, auf DGX Spark und DGX Station sowie auf RTX-PRO-Workstations. Gebaut sei es für RTX-Spark-Notebooks, die laut Nvidia ab dem 16. Oktober erscheinen sollen. Die Modellkarte auf Hugging Face setzt andere Akzente. Als Einsatzweg nennt sie vLLM auf Nvidia-Hardware der Generationen Ampere mit der A100, Hopper mit der H100-80GB oder Blackwell. Welche GeForce-Karte mit welchem Speicher für Bolt konkret reicht, sagt keine der Quellen. Beide Angaben stehen damit nebeneinander, und wer im Betrieb plant, muss mit dieser Lücke leben.

Praktisch ist die Liste der Werkzeuge. Wer schon mit Ollama arbeitet oder es ausprobieren will, findet Grundlagen dazu in unserem Beitrag über lokale KI mit Ollama im eigenen Betrieb.

Lizenz, Trainingsdaten und Deutsch

Beide Modellkarten nennen als Lizenz OpenMDW-1.1 und geben die Modelle für gewerbliche und nichtgewerbliche Nutzung frei. Wer sie gewerblich einsetzen will, sollte die Lizenz selbst prüfen.

Neben den Gewichten veröffentlicht Nvidia nach eigenen Angaben auch Datensätze und Trainingsrezepte auf Hugging Face. Unternehmen können Super VL laut Nvidia mit eigenen Daten nachtrainieren und auf eigener Infrastruktur betreiben.

Für deutsche Betriebe zählt eine Zeile der Bolt-Modellkarte mehr als jede Parameterzahl. Hauptsprachen sind Englisch und Programmiersprachen. Deutsch wird laut Karte ebenfalls unterstützt, zusammen mit Spanisch, Französisch, Italienisch und Japanisch. Wie gut Bolt mit deutschen Unterlagen zurechtkommt, lässt sich aus dieser Angabe allein nicht ablesen.

Zahlen aus einer Hand

Die Leistungsangaben stammen von Nvidia selbst. Super VL soll bei Agentenaufgaben ähnlich genau sein wie Nvidias größtes Modell, bei etwa einem Fünftel der Parameter, und bis zu fünfmal schneller als andere offene Modelle seiner Klasse. Beides sind Herstellerangaben, auch dort, wo Nvidia sich auf Ranglisten Dritter beruft.

Das Portal the-decoder berichtete am 15. Oktober 2026 gleichlautend über die 120 Milliarden Parameter mit 12 Milliarden aktiven, über Bolt für Systeme mit 24 GB Speicher und über die spätere 4-GB-Version.

Unsere Einschätzung

Für kleine Betriebe ist aus unserer Sicht Bolt die eigentliche Nachricht. Ein Modell, das über Ollama oder LM Studio auf einem Rechner im Haus laufen soll, berührt eine sehr praktische Frage, nämlich ob ein Betrieb Unterlagen mit KI auswerten kann, während die Kundendaten im eigenen Haus bleiben.

Unsere Antwort fällt vorsichtig aus. Möglich ist das, aber erst nach einem eigenen Versuch. Die Hardwareangaben aus Blog und Modellkarte passen nicht zusammen, und jede Leistungszahl kommt vom Hersteller. Leicht überlesen wird ein dritter Punkt: Den Schwerpunkt auf Texterkennung, Tabellen, Diagramme und mehrseitige Dokumente nennt Nvidia für Super VL. Für Bolt nennt Nvidia andere Aufgaben, etwa Recherche im Netz oder das Prüfen von Code.

Wir würden Bolt deshalb an echten deutschen Unterlagen ausprobieren, etwa an Lieferscheinen oder Angebotstexten aus dem eigenen Ablauf, und erst danach über Hardware reden. Wer eingescannte Belege auswerten will, prüft dabei zuerst, ob die kleine Variante solche Eingaben überhaupt verarbeitet. Dass Deutsch laut Modellkarte unterstützt wird, aber nicht zu den Hauptsprachen gehört, spricht ebenfalls für einen Test mit Unterlagen auf Deutsch. Ein Nachmittag mit einem Stapel typischer Dokumente sagt mehr als jede Ankündigung.

Das große Super VL ist dagegen ein Thema für Rechenzentren und Dienstleister.

Quellen

Die genannten Angaben stützen sich auf folgende öffentlich zugängliche Quellen (Stand der Recherche: 16. Oktober 2026):

Häufige Fragen

Welche Modelle hat Nvidia mit Nemotron 3.5 veröffentlicht?

Am 15. Oktober 2026 hat Nvidia Nemotron 3.5 Super VL und Nemotron 3.5 Bolt 74B-A9B 24GB veröffentlicht. Super VL hat laut Modellkarte 120 Milliarden Parameter, davon 12 Milliarden aktiv, Bolt 74 Milliarden, davon 9 Milliarden aktiv. Eine dritte Variante, Bolt E4B 4GB, ist angekündigt und soll laut Nvidia am 23. Oktober folgen.

Auf welcher Hardware soll Nemotron 3.5 Bolt laufen?

Laut Nvidia-Blog läuft Bolt auf GeForce-RTX-PCs, DGX Spark, DGX Station und RTX-PRO-Workstations, unterstützt werden unter anderem Ollama, LM Studio und llama.cpp. Die Modellkarte nennt als Einsatzweg dagegen vLLM auf Nvidia-Hardware der Generationen Ampere (A100), Hopper (H100-80GB) oder Blackwell. Welche GeForce-Karte mit welchem Speicher konkret reicht, sagen die Quellen nicht.

Darf ein Unternehmen Nemotron 3.5 gewerblich nutzen?

Beide Modellkarten nennen die Lizenz OpenMDW-1.1 und geben die Modelle für gewerbliche und nichtgewerbliche Nutzung frei. Wer die Modelle im Betrieb einsetzen will, sollte die Lizenz selbst prüfen.

Was sollte ein Betrieb vor einem Einsatz von Bolt klären?

Aus unserer Sicht zuerst, ob das Modell mit den eigenen Unterlagen zurechtkommt. Deutsch wird laut Modellkarte unterstützt, Hauptsprachen sind aber Englisch und Programmiersprachen, und alle Leistungsangaben stammen von Nvidia. Wir würden Bolt deshalb an echten deutschen Dokumenten testen und erst danach über Hardware entscheiden.

Welche Unterlagen im Betrieb müsste ein lokales KI-Modell als Erstes zuverlässig lesen können?

Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI im Alltag einsetzen. Tiefer und praxisnah geht es im Vollkurs Digitalisierungsmanager, DEKRA-zertifiziert und förderfähig über den Bildungsgutschein.

Zuletzt aktualisiert: 16. Oktober 2026. Stand der Recherche: 16. Oktober 2026.