Created bymario-alka.dePowered bynoob2claw.detricoma.de
Beigesteuert vonMario AlkaNVIDIA

NVIDIA-Nemotron-3.5-Lightning-30B-A3B

Performancebenchmark · gemessen am 24.10.2026 10:50

Benchmark-IDrun-20261024-090453-f3a9ca
Timebench 3 - Kombi (Prefill + Generation)MoE31.6BRuntime: llama.cppQuantisierung: Q4_K_M
ℹ
Öffentliche Anmerkung: NVIDIA GeForce RTX 3090 24GB . NVIDIA-Nemotron-3.5-Lightning-30B-A3B Q4_K_M . llama.cpp server-cuda (b11804), automatische Layer-Einpassung (Teil-CPU-Offload, Modell 23,7 GiB auf 24-GB-Karte), -np 12, -c 49152
Generation139,97tok/s
Prefill1.743,81tok/s
Time to First Token14.686,00ms
Gesamtdauer177,23s
Concurrency10parallel
Einordnung im Feld
21von 28 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s) · 10× parallel

Dieser Lauf ist besser als 26 % aller vergleichbaren Systeme.
Generation 140,0 tok/s
-78 % vs Ø 635,3
Prefill 1.743,8 tok/s
-82 % vs Ø 9.469,3
Time to First Token 14.686 ms
+15 % vs Ø 12.786
Verteilung im Feld71 – 3.484 tok/s
Ø 635 Median Dieser Lauf

Wie schlägt sich dieser Benchmark mit anderen Modellen?

NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261026-180644-063abd
3.484,3 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261026-183943-bbe82c
2.867,2 tok/s
Qwen3.8-Flash-NextNVIDIA GeForce RTX 3090 · run-20261013-092430-0e9347
1.132,7 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261108-142255-a5a095
883,7 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261108-160906-091e40
859,8 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261108-160906-621b3d
847,5 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261108-142255-6a09ef
837,1 tok/s
Qwen3.6-35B-A3BNVIDIA GeForce RTX 3090 · run-20261101-195359-745413
833,3 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261026-183943-22e90b
725,3 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261026-183943-c42023
709,0 tok/s
Qwen3.8-Flash-NextNVIDIA GeForce RTX 3090 · run-20261013-165111-37735f
638,6 tok/s
Qwen3.6-35B-A3BNVIDIA GeForce RTX 3090 · run-20261101-202817-afa850
623,6 tok/s
gpt-oss-20bNVIDIA GeForce RTX 3090 · run-20261024-084507-9d9121
448,2 tok/s
Meta-Llama-3.1-8B-InstructNVIDIA GeForce RTX 3090 · run-20261108-185516-9eca4d
385,9 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B dieser LaufNVIDIA GeForce RTX 3090 · run-20261024-090453-f3a9ca
140,0 tok/s

Wie schlägt sich dieser Benchmark mit anderen GPUs?

Dasselbe Modell auf anderer Hardware · 10× parallel · Generation (tok/s)

Hardware

GPU: NVIDIA GeForce RTX 3090 · 24 GB VRAM
CPU: AMD Ryzen 5 5600X 6-Core Processor
RAM: 31 GB
Mainboard: ASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING

Setup

Runtime: llama.cpp
Quantisierung: Q4_K_M
Modell: NVIDIA-Nemotron-3.5-Lightning-30B-A3B

Konfiguration

benchmark-konfiguration — run-20261024-090453-f3a9ca
# LLM-Benchmark Konfiguration # Modell : NVIDIA-Nemotron-3.5-Lightning-30B-A3B # Engine : llama.cpp # Run-ID : run-20261024-090453-f3a9ca # GPU : NVIDIA GeForce RTX 3090 # CPU : AMD Ryzen 5 5600X 6-Core Processor # RAM : 31 GB bench@llm-benchmark:~$ llama-server \ -m /models/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Q4_K_M.gguf \ -np 12 \ -c 49152
Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.llamacpp
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.NVIDIA-Nemotron-3.5-Lightning-30B-A3B
Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann.49152
Modellpfad?Pfad zur GGUF-Modelldatei, die geladen und ausgeliefert wird./models/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Q4_K_M.gguf
np12
Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells.49152
execution_typelocal

Alle Benchmarks dieses Modells Zum Leaderboard

Anzeige
Modell-Vergleich

NVIDIA-Nemotron-3.5-Lightning-30B-A3B auf verschiedener Hardware

Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

4.5023.3772.2511.1260,004.6219.24313.864Prefill (tok/s)Generation (tok/s)NVIDIA GeForce RTX 3090 Ti - 2.263,7 tok/s Generation, 8.103 tok/s Prefill, TTFT 10.659 ms (3 Laufe)NVIDIA GeForce RTX 30...AMD Radeon AI PRO R9700 - 290,3 tok/s Generation, 6.285 tok/s Prefill, TTFT 963 ms (30 Laufe)AMD Radeon AI PRO R97...NVIDIA RTX SPARK (N1X) - 146,9 tok/s Generation, 1.835 tok/s Prefill, TTFT 5.732 ms (4 Laufe)NVIDIA RTX SPARK (N1X)NVIDIA DGX SPARK (GB10) - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)NVIDIA DGX SPARK (GB1...NVIDIA GeForce RTX 3090 - 3.484,3 tok/s Generation, 11.447 tok/s Prefill, TTFT 3.078 ms (29 Laufe) | DIESER LAUF★ NVIDIA GeForce RTX 30...
★ NVIDIA GeForce RTX 3090 3.484,3 tok/s dieser LaufNVIDIA GeForce RTX 3090 Ti 2.263,7 tok/sAMD Radeon AI PRO R9700 290,3 tok/sNVIDIA RTX SPARK (N1X) 146,9 tok/sNVIDIA DGX SPARK (GB10) 136,6 tok/s

CPUnach Prozessor

4.5023.3772.2511.1260,004.4838.96613.450Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 7955WX 16-Cores - 290,3 tok/s Generation, 6.619 tok/s Prefill, TTFT 679 ms (27 Laufe)AMD Ryzen Threadrippe...AMD Ryzen 3 3100 4-Core Processor - 283,5 tok/s Generation, 3.276 tok/s Prefill, TTFT 3.524 ms (3 Laufe)AMD Ryzen 3 3100 4-Co...NVIDIA RTX Spark N1X (6144-core GPU, 20-core CPU) - 146,9 tok/s Generation, 1.835 tok/s Prefill, TTFT 5.732 ms (4 Laufe)NVIDIA RTX Spark N1X ...NVIDIA Grace - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)NVIDIA GraceAMD Ryzen 5 5600X 6-Core Processor - 3.484,3 tok/s Generation, 11.113 tok/s Prefill, TTFT 3.789 ms (32 Laufe) | DIESER LAUF★ AMD Ryzen 5 5600X 6-C...
★ AMD Ryzen 5 5600X 6-Core Processor 3.484,3 tok/s dieser LaufAMD Ryzen Threadripper PRO 7955WX 16-Cores 290,3 tok/sAMD Ryzen 3 3100 4-Core Processor 283,5 tok/sNVIDIA RTX Spark N1X (6144-core GPU, 20-core CPU) 146,9 tok/sNVIDIA Grace 136,6 tok/s

MBnach Mainboard

4.5023.3772.2511.1260,004.6219.24313.864Prefill (tok/s)Generation (tok/s)ASUSTeK COMPUTER INC. PRIME A520M-K - 2.263,7 tok/s Generation, 8.103 tok/s Prefill, TTFT 10.659 ms (3 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE - 290,3 tok/s Generation, 6.619 tok/s Prefill, TTFT 679 ms (27 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING - 283,5 tok/s Generation, 3.276 tok/s Prefill, TTFT 3.524 ms (3 Laufe)ASUSTeK COMPUTER INC....ASUS H7607BA - 146,9 tok/s Generation, 1.835 tok/s Prefill, TTFT 5.732 ms (4 Laufe)ASUS H7607BAASUSTeK COMPUTER INC. GX10 - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING - 3.484,3 tok/s Generation, 11.447 tok/s Prefill, TTFT 3.078 ms (29 Laufe) | DIESER LAUF★ ASUSTeK COMPUTER INC....
★ ASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 3.484,3 tok/s dieser LaufASUSTeK COMPUTER INC. PRIME A520M-K 2.263,7 tok/sASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 290,3 tok/sASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING 283,5 tok/sASUS H7607BA 146,9 tok/sASUSTeK COMPUTER INC. GX10 136,6 tok/s

ENGnach Engine

4.4723.3542.2361.1180,06436.81412.98619.157Prefill (tok/s)Generation (tok/s)tensorfold - 3.484,3 tok/s Generation, 11.782 tok/s Prefill, TTFT 3.950 ms (13 Laufe)tensorfoldvLLM - 2.263,7 tok/s Generation, 13.170 tok/s Prefill, TTFT 3.120 ms (13 Laufe)vLLMunbekannt - 859,8 tok/s Generation, 16.001 tok/s Prefill, TTFT 839 ms (6 Laufe)unbekanntllama.cpp - 286,2 tok/s Generation, 3.799 tok/s Prefill, TTFT 2.471 ms (37 Laufe) | DIESER LAUF★ llama.cpp
tensorfold 3.484,3 tok/svLLM 2.263,7 tok/sunbekannt 859,8 tok/s★ llama.cpp 286,2 tok/s dieser Lauf

DRVnach Treiber

4.5023.3772.2511.1260,06663.7276.7899.850Prefill (tok/s)Generation (tok/s)unbekannt - 3.484,3 tok/s Generation, 8.270 tok/s Prefill, TTFT 2.622 ms (66 Laufe)unbekanntNVIDIA 590.48.01 / CUDA 13.1 - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)NVIDIA 590.48.01 / CU...
unbekannt 3.484,3 tok/sNVIDIA 590.48.01 / CUDA 13.1 136,6 tok/s
💰 Economics

Wirtschaftlichkeit dieses Laufs

Betriebskosten, TCO und Vergleich mit den nächstbesten Läufen desselben Modells bei identischer Concurrency (10× parallel). Methodik →

⚙️ KonfigurationAlle Kennzahlen und Diagramme unten folgen diesen Einstellungen – bezogen auf 24 Monate Laufzeit.In URL übernehmenZurücksetzen
⚡ Strompreis EUR/kWh
⚙️ System-Auslastung 100 %
🖥️ Anschaffung EUR
🔌 Idle 12 W
⚡ TDP 362 W
☁️ Externes LLM (API)
Strompreis0,30 EUR/kWh
Ø-Leistung (inkl. Idle)362 W geschätzt (TDP)GPU 350 + Board 12 W Volllast
Ø-Kosten / Stunde0,11 EUR
Strom / 1 Mio. Token0,22 EUR
Token / kWh1,39 Mio.
Anschaffung (System)1.518 EUR VollpreisGPU 850 EUR · CPU 121 EUR · Board 149 EUR · RAM 248 EUR · Netzteil 150 EUR
Stromkosten (2 Jahre)–
TCO (2 Jahre)3.421 EUR
Output-Token (2 Jahre)8,83 Mrd.
☁️ Externes LLM (API) – Vergleich
Externe LLM-Kosten (2 Jahre)–
Ersparnis vs. extern (2 Jahre)–

Alle Werte oben und die Diagramme unten berücksichtigen die eingestellte System-Auslastung: bei X % generiert das System nur X % der Zeit, die restliche Zeit läuft es im Idle (12 W). Kosten pro Stunde sinken dadurch (mehr Idle), Kosten je Token steigen.

Kosten über 2 Jahre – nur Strom

Kosten über 2 Jahre – inkl. Anschaffung (TCO)

Geschwindigkeit vs. Token pro Euro

Euro pro 1 Mio. Token

Vergleich zur API – Wirtschaftlichkeit je Benchmark

NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090 Ti
Kosten Strom (24 Mon.)––––
Kosten Anschaffung––––
Kosten Gesamt (TCO)––––
Generierte Token (24 Mon.)––––
Tokenpreis bei API––––
Break-Even-Point (Tage)––––
Ergebnis (Ersparnis / Ausgabe)––––

Vergleich mit bis zu 3 nächstbesten Läufen dieses Modells bei gleicher Concurrency (mind. einer auf anderer Hardware). Leistung = GPU-TDP + CPU (Idle + 15 %) + Board (geschätzt), Anschaffung = komplettes System (GPU + CPU + Board + RAM + Netzteil), Preise = hinterlegte Marktpreise.

Beigesteuert von

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.