Created bymario-alka.dePowered bynoob2claw.detricoma.de
Beigesteuert vonMario AlkaNVIDIA

NVIDIA-Nemotron-3.5-Lightning-30B-A3B

Performancebenchmark · gemessen am 17.08.2026 20:48

Benchmark-IDrun-20260817-212317-eaf7ea
Timebench 3 - Kombi (Prefill + Generation)MoE31.6BRuntime: vLLMQuantisierung: BF16
Generation170,48tok/s
Prefill23.477,42tok/s
Time to First Token582,00ms
Gesamtdauer61,32s
Concurrency5parallel
Einordnung im Feld
790von 1539 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s) · 5× parallel

Dieser Lauf ist besser als 49 % aller vergleichbaren Systeme.
Generation 170,5 tok/s
-34 % vs Ø 258,5
Prefill 23.477,4 tok/s
+327 % vs Ø 5.498,6
Time to First Token 582 ms
-98 % vs Ø 28.923
Verteilung im Feld0 – 1.695 tok/s
Ø 258 Median Dieser Lauf

Wie schlägt sich dieser Benchmark mit anderen Modellen?

NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261026-180644-b547e8
1.694,7 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 · run-20261026-183943-5ef8b5
1.375,1 tok/s
gemma-4-E2B-itNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260727-181606-0adf6d
1.349,3 tok/s
gemma-4-E2B-itNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20261023-071844-e5e309
1.348,4 tok/s
gemma-4-E2B-itNVIDIA GeForce RTX 5090 · run-20260728-184455-5b4937
1.301,9 tok/s
gemma-4-E2B-it3× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-184456-4111a9
1.195,7 tok/s
NVIDIA-Nemotron-3-Nano-4BNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260727-181607-30d864
1.188,7 tok/s
NVIDIA-Nemotron-3-Nano-4BNVIDIA GeForce RTX 5090 · run-20260728-194135-5432cd
1.164,8 tok/s
NVIDIA-Nemotron-3-Nano-4BNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20261023-071851-c3c4a5
1.154,4 tok/s
gpt-oss-20bNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260728-140954-9e81f9
1.136,3 tok/s
gpt-oss-20bNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260730-035052-09627f
1.135,0 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B gleiches ModellNVIDIA GeForce RTX 3090 Ti · run-20261021-093815-b22926
1.135,0 tok/s
gpt-oss-20bNVIDIA GeForce RTX 5090 · run-20260729-032121-058a31
1.113,5 tok/s
gpt-oss-20bNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20261023-071836-99dfa5
1.105,8 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B dieser Lauf4× 4x AMD Radeon AI PRO R9700 · run-20260817-212317-eaf7ea
170,5 tok/s

Wie schlägt sich dieser Benchmark mit anderen GPUs?

Dasselbe Modell auf anderer Hardware · 5× parallel · Generation (tok/s)

Hardware

GPU: 4x AMD Radeon AI PRO R9700 · 32 GB VRAM
CPU: AMD Ryzen Threadripper PRO 7955WX 16-Cores
RAM: 184 GB
Mainboard: ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE

Setup

Runtime: vLLM
Quantisierung: BF16
Modell: NVIDIA-Nemotron-3.5-Lightning-30B-A3B

Konfiguration

benchmark-konfiguration — run-20260817-212317-eaf7ea
# LLM-Benchmark Konfiguration # Modell : NVIDIA-Nemotron-3.5-Lightning-30B-A3B # Engine : vLLM # Run-ID : run-20260817-212317-eaf7ea # GPU : 4x AMD Radeon AI PRO R9700 # CPU : AMD Ryzen Threadripper PRO 7955WX 16-Cores # RAM : 184 GB bench@llm-benchmark:~$ vllm serve \ --model NVIDIA-Nemotron-3.5-Lightning-30B-A3B
Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.vllm
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.NVIDIA-Nemotron-3.5-Lightning-30B-A3B
execution_typelocal

Alle Benchmarks dieses Modells Zum Leaderboard

Anzeige
Videoreihe und Benchmarkauswertung zur AMD R9700
Modell-Vergleich

NVIDIA-Nemotron-3.5-Lightning-30B-A3B auf verschiedener Hardware

Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

4.5023.3772.2511.1260,004.6219.24313.864Prefill (tok/s)Generation (tok/s)NVIDIA GeForce RTX 3090 - 3.484,3 tok/s Generation, 11.447 tok/s Prefill, TTFT 3.078 ms (29 Laufe)NVIDIA GeForce RTX 30...NVIDIA GeForce RTX 3090 Ti - 2.263,7 tok/s Generation, 8.103 tok/s Prefill, TTFT 10.659 ms (3 Laufe)NVIDIA GeForce RTX 30...NVIDIA RTX SPARK (N1X) - 146,9 tok/s Generation, 1.835 tok/s Prefill, TTFT 5.732 ms (4 Laufe)NVIDIA RTX SPARK (N1X)NVIDIA DGX SPARK (GB10) - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)NVIDIA DGX SPARK (GB1...AMD Radeon AI PRO R9700 - 290,3 tok/s Generation, 6.285 tok/s Prefill, TTFT 963 ms (30 Laufe) | DIESER LAUF★ AMD Radeon AI PRO R97...
NVIDIA GeForce RTX 3090 3.484,3 tok/sNVIDIA GeForce RTX 3090 Ti 2.263,7 tok/s★ AMD Radeon AI PRO R9700 290,3 tok/s dieser LaufNVIDIA RTX SPARK (N1X) 146,9 tok/sNVIDIA DGX SPARK (GB10) 136,6 tok/s

CPUnach Prozessor

4.5023.3772.2511.1260,004.4838.96613.450Prefill (tok/s)Generation (tok/s)AMD Ryzen 5 5600X 6-Core Processor - 3.484,3 tok/s Generation, 11.113 tok/s Prefill, TTFT 3.789 ms (32 Laufe)AMD Ryzen 5 5600X 6-C...AMD Ryzen 3 3100 4-Core Processor - 283,5 tok/s Generation, 3.276 tok/s Prefill, TTFT 3.524 ms (3 Laufe)AMD Ryzen 3 3100 4-Co...NVIDIA RTX Spark N1X (6144-core GPU, 20-core CPU) - 146,9 tok/s Generation, 1.835 tok/s Prefill, TTFT 5.732 ms (4 Laufe)NVIDIA RTX Spark N1X ...NVIDIA Grace - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)NVIDIA GraceAMD Ryzen Threadripper PRO 7955WX 16-Cores - 290,3 tok/s Generation, 6.619 tok/s Prefill, TTFT 679 ms (27 Laufe) | DIESER LAUF★ AMD Ryzen Threadrippe...
AMD Ryzen 5 5600X 6-Core Processor 3.484,3 tok/s★ AMD Ryzen Threadripper PRO 7955WX 16-Cores 290,3 tok/s dieser LaufAMD Ryzen 3 3100 4-Core Processor 283,5 tok/sNVIDIA RTX Spark N1X (6144-core GPU, 20-core CPU) 146,9 tok/sNVIDIA Grace 136,6 tok/s

MBnach Mainboard

4.5023.3772.2511.1260,004.6219.24313.864Prefill (tok/s)Generation (tok/s)ASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING - 3.484,3 tok/s Generation, 11.447 tok/s Prefill, TTFT 3.078 ms (29 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. PRIME A520M-K - 2.263,7 tok/s Generation, 8.103 tok/s Prefill, TTFT 10.659 ms (3 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING - 283,5 tok/s Generation, 3.276 tok/s Prefill, TTFT 3.524 ms (3 Laufe)ASUSTeK COMPUTER INC....ASUS H7607BA - 146,9 tok/s Generation, 1.835 tok/s Prefill, TTFT 5.732 ms (4 Laufe)ASUS H7607BAASUSTeK COMPUTER INC. GX10 - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE - 290,3 tok/s Generation, 6.619 tok/s Prefill, TTFT 679 ms (27 Laufe) | DIESER LAUF★ ASUSTeK COMPUTER INC....
ASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 3.484,3 tok/sASUSTeK COMPUTER INC. PRIME A520M-K 2.263,7 tok/s★ ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 290,3 tok/s dieser LaufASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING 283,5 tok/sASUS H7607BA 146,9 tok/sASUSTeK COMPUTER INC. GX10 136,6 tok/s

ENGnach Engine

4.4723.3542.2361.1180,06436.81412.98619.157Prefill (tok/s)Generation (tok/s)tensorfold - 3.484,3 tok/s Generation, 11.782 tok/s Prefill, TTFT 3.950 ms (13 Laufe)tensorfoldunbekannt - 859,8 tok/s Generation, 16.001 tok/s Prefill, TTFT 839 ms (6 Laufe)unbekanntllama.cpp - 286,2 tok/s Generation, 3.799 tok/s Prefill, TTFT 2.471 ms (37 Laufe)llama.cppvLLM - 2.263,7 tok/s Generation, 13.170 tok/s Prefill, TTFT 3.120 ms (13 Laufe) | DIESER LAUF★ vLLM
tensorfold 3.484,3 tok/s★ vLLM 2.263,7 tok/s dieser Laufunbekannt 859,8 tok/sllama.cpp 286,2 tok/s

DRVnach Treiber

4.5023.3772.2511.1260,06663.7276.7899.850Prefill (tok/s)Generation (tok/s)unbekannt - 3.484,3 tok/s Generation, 8.270 tok/s Prefill, TTFT 2.622 ms (66 Laufe)unbekanntNVIDIA 590.48.01 / CUDA 13.1 - 136,6 tok/s Generation, 2.246 tok/s Prefill, TTFT 5.100 ms (3 Laufe)NVIDIA 590.48.01 / CU...
unbekannt 3.484,3 tok/sNVIDIA 590.48.01 / CUDA 13.1 136,6 tok/s
💰 Economics

Wirtschaftlichkeit dieses Laufs

Betriebskosten, TCO und Vergleich mit den nächstbesten Läufen desselben Modells bei identischer Concurrency (5× parallel). Methodik →

⚙️ KonfigurationAlle Kennzahlen und Diagramme unten folgen diesen Einstellungen – bezogen auf 24 Monate Laufzeit.In URL übernehmenZurücksetzen
⚡ Strompreis EUR/kWh
⚙️ System-Auslastung 100 %
🖥️ Anschaffung EUR
🔌 Idle 85 W
⚡ TDP 371 W
☁️ Externes LLM (API)
Strompreis0,30 EUR/kWh
Ø-Leistung (inkl. Idle)371 W geschätzt (TDP)GPU 300 + CPU 46 + Board 25 W Volllast
Ø-Kosten / Stunde0,11 EUR
Strom / 1 Mio. Token0,18 EUR
Token / kWh1,65 Mio.
Anschaffung (System)6.824 EUR VollpreisGPU 1.400 EUR · CPU 1.399 EUR · Board 1.299 EUR · RAM 2.576 EUR · Netzteil 150 EUR
Stromkosten (2 Jahre)–
TCO (2 Jahre)8.774 EUR
Output-Token (2 Jahre)10,75 Mrd.
☁️ Externes LLM (API) – Vergleich
Externe LLM-Kosten (2 Jahre)–
Ersparnis vs. extern (2 Jahre)–

Alle Werte oben und die Diagramme unten berücksichtigen die eingestellte System-Auslastung: bei X % generiert das System nur X % der Zeit, die restliche Zeit läuft es im Idle (85 W). Kosten pro Stunde sinken dadurch (mehr Idle), Kosten je Token steigen.

Kosten über 2 Jahre – nur Strom

Kosten über 2 Jahre – inkl. Anschaffung (TCO)

Geschwindigkeit vs. Token pro Euro

Euro pro 1 Mio. Token

Vergleich zur API – Wirtschaftlichkeit je Benchmark

NVIDIA-Nemotron-3.5-Lightning-30B-A3BAMD Radeon AI PRO R9700NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090 Ti
Kosten Strom (24 Mon.)––––
Kosten Anschaffung––––
Kosten Gesamt (TCO)––––
Generierte Token (24 Mon.)––––
Tokenpreis bei API––––
Break-Even-Point (Tage)––––
Ergebnis (Ersparnis / Ausgabe)––––

Vergleich mit bis zu 3 nächstbesten Läufen dieses Modells bei gleicher Concurrency (mind. einer auf anderer Hardware). Leistung = GPU-TDP + CPU (Idle + 15 %) + Board (geschätzt), Anschaffung = komplettes System (GPU + CPU + Board + RAM + Netzteil), Preise = hinterlegte Marktpreise.

Beigesteuert von

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.