Created bymario-alka.dePowered bynoob2claw.detricoma.de
Beigesteuert vonMario AlkaQwen (Alibaba)

Qwen3.8-Flash-Next

Performancebenchmark · gemessen am 13.10.2026 17:13

Benchmark-IDrun-20261013-153557-17a4e3
Timebench 3 - Kombi (Prefill + Generation)MoE180BRuntime: llama.cppQuantisierung: IQ3_XXS
ℹ
Öffentliche Anmerkung: NVIDIA DGX Spark GB10 (Grace-Blackwell, 120 GB unified, ARM64) . Qwen3.8-Flash-Next . vLLM(NVFP4, NVMe/PLE-Offload) + llama.cpp(IQ3_XXS)
ℹ
Zur Einordnung: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.
Generation88,87tok/s
Prefill1.119,50tok/s
Time to First Token20.452,50ms
Gesamtdauer272,65s
Concurrency10parallel
Einordnung im Feld
31von 34 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s) · 10× parallel

Dieser Lauf ist besser als 9 % aller vergleichbaren Systeme.
Generation 88,9 tok/s
-64 % vs Ø 249,8
Prefill 1.119,5 tok/s
-72 % vs Ø 3.982,2
Time to First Token 20.453 ms
-15 % vs Ø 24.054
Verteilung im Feld64 – 903 tok/s
Ø 250 Median Dieser Lauf

Wie schlägt sich dieser Benchmark mit anderen Modellen?

Wie schlägt sich dieser Benchmark mit anderen GPUs?

Dasselbe Modell auf anderer Hardware · 10× parallel · Generation (tok/s)

Hardware

GPU: NVIDIA DGX SPARK (GB10) · 128 GB VRAM
CPU: NVIDIA Grace
RAM: 120 GB
Mainboard: ASUSTeK COMPUTER INC. GX10

Setup

Runtime: llama.cpp
Quantisierung: IQ3_XXS
Treiber: NVIDIA 590.48.01 / CUDA 13.1
Modell: Qwen3.8-Flash-Next

Konfiguration

benchmark-konfiguration — run-20261013-153557-17a4e3
# LLM-Benchmark Konfiguration # Modell : Qwen3.8-Flash-Next # Engine : llama.cpp # Run-ID : run-20261013-153557-17a4e3 # GPU : NVIDIA DGX SPARK (GB10) # CPU : NVIDIA Grace # RAM : 120 GB bench@llm-benchmark:~$ llama-server \ -m Qwen3.8-Flash-Next-IQ3_XXS \ --alias Qwen3.8-Flash-Next \ -ngl 999 \ -c 32768 \ -np 10 \ -fa on '(DGX' Spark GB10, ARM+CUDA, frischer 'Build)'
Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.llamacpp
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.Qwen3.8-Flash-Next
Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann.32768
Modellpfad?Pfad zur GGUF-Modelldatei, die geladen und ausgeliefert wird.Qwen3.8-Flash-Next-IQ3_XXS
GPU-Layer?Anzahl der auf die GPU ausgelagerten Modell-Layer. Hoeher = mehr VRAM und schneller; der Rest laeuft auf der CPU. 999 = alles auf GPU.999
Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells.32768
np10
faon
execution_typelocal

Alle Benchmarks dieses Modells Zum Leaderboard

Anzeige
Modell-Vergleich

Qwen3.8-Flash-Next auf verschiedener Hardware

Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

2.0301.5231.0155080,005.46510.93016.395Prefill (tok/s)Generation (tok/s)NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition - 1.564,6 tok/s Generation, 6.065 tok/s Prefill, TTFT 7.635 ms (15 Laufe)NVIDIA RTX PRO 6000 B...NVIDIA RTX A6000 - 1.171,8 tok/s Generation, 963 tok/s Prefill, TTFT 32.556 ms (21 Laufe)NVIDIA RTX A6000NVIDIA GeForce RTX 3090 - 1.132,7 tok/s Generation, 1.949 tok/s Prefill, TTFT 28.686 ms (12 Laufe)NVIDIA GeForce RTX 30...NVIDIA RTX PRO 6000 Blackwell Workstation Edition - 584,1 tok/s Generation, 13.248 tok/s Prefill, TTFT 766 ms (8 Laufe)NVIDIA RTX PRO 6000 B...NVIDIA GeForce RTX 5090 - 346,0 tok/s Generation, 4.624 tok/s Prefill, TTFT 3.382 ms (3 Laufe)NVIDIA GeForce RTX 50...NVIDIA Tesla V100 PCIe 32GB - 196,2 tok/s Generation, 775 tok/s Prefill, TTFT 30.834 ms (8 Laufe)NVIDIA Tesla V100 PCI...AMD Radeon RX 7900 XTX - 18,7 tok/s Generation, 180 tok/s Prefill, TTFT 55.956 ms (3 Laufe)AMD Radeon RX 7900 XTXNVIDIA DGX SPARK (GB10) - 492,8 tok/s Generation, 1.262 tok/s Prefill, TTFT 33.373 ms (12 Laufe) | DIESER LAUF★ NVIDIA DGX SPARK (GB1...
NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 1.564,6 tok/sNVIDIA RTX A6000 1.171,8 tok/sNVIDIA GeForce RTX 3090 1.132,7 tok/sNVIDIA RTX PRO 6000 Blackwell Workstation Edition 584,1 tok/s★ NVIDIA DGX SPARK (GB10) 492,8 tok/s dieser LaufNVIDIA GeForce RTX 5090 346,0 tok/sNVIDIA Tesla V100 PCIe 32GB 196,2 tok/sAMD Radeon RX 7900 XTX 18,7 tok/s

CPUnach Prozessor

2.0301.5231.0155080,005.47610.95216.428Prefill (tok/s)Generation (tok/s)AMD Ryzen 9 7945HX with Radeon Graphics - 1.564,6 tok/s Generation, 2.312 tok/s Prefill, TTFT 17.248 ms (6 Laufe)AMD Ryzen 9 7945HX wi...AMD Ryzen Threadripper PRO 3945WX 12-Cores - 1.171,8 tok/s Generation, 2.569 tok/s Prefill, TTFT 15.123 ms (6 Laufe)AMD Ryzen Threadrippe...AMD Ryzen 5 5600X 6-Core Processor - 1.132,7 tok/s Generation, 4.274 tok/s Prefill, TTFT 23.110 ms (15 Laufe)AMD Ryzen 5 5600X 6-C...AMD Ryzen 9 9950X 16-Core Processor - 584,1 tok/s Generation, 13.248 tok/s Prefill, TTFT 766 ms (8 Laufe)AMD Ryzen 9 9950X 16-...AMD Ryzen Threadripper PRO 9965WX 24-Cores - 424,2 tok/s Generation, 0 tok/s Prefill, TTFT 1.438 ms (6 Laufe)AMD Ryzen Threadrippe...AMD Ryzen 7 5800X3D 8-Core Processor - 346,0 tok/s Generation, 4.624 tok/s Prefill, TTFT 3.382 ms (3 Laufe)AMD Ryzen 7 5800X3D 8...AMD Ryzen 3 PRO 3200GE w/ Radeon Vega Graphics - 196,2 tok/s Generation, 757 tok/s Prefill, TTFT 36.737 ms (5 Laufe)AMD Ryzen 3 PRO 3200G...AMD EPYC 7203P 8-Core Processor - 79,2 tok/s Generation, 320 tok/s Prefill, TTFT 39.530 ms (15 Laufe)AMD EPYC 7203P 8-Core...Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz - 63,2 tok/s Generation, 803 tok/s Prefill, TTFT 20.996 ms (3 Laufe)Intel(R) Xeon(R) CPU ...AMD Ryzen Threadripper PRO 3955WX 16-Cores - 18,7 tok/s Generation, 180 tok/s Prefill, TTFT 55.956 ms (3 Laufe)AMD Ryzen Threadrippe...NVIDIA Grace - 492,8 tok/s Generation, 1.262 tok/s Prefill, TTFT 33.373 ms (12 Laufe) | DIESER LAUF★ NVIDIA Grace
AMD Ryzen 9 7945HX with Radeon Graphics 1.564,6 tok/sAMD Ryzen Threadripper PRO 3945WX 12-Cores 1.171,8 tok/sAMD Ryzen 5 5600X 6-Core Processor 1.132,7 tok/sAMD Ryzen 9 9950X 16-Core Processor 584,1 tok/s★ NVIDIA Grace 492,8 tok/s dieser LaufAMD Ryzen Threadripper PRO 9965WX 24-Cores 424,2 tok/sAMD Ryzen 7 5800X3D 8-Core Processor 346,0 tok/sAMD Ryzen 3 PRO 3200GE w/ Radeon Vega Graphics 196,2 tok/sAMD EPYC 7203P 8-Core Processor 79,2 tok/sIntel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz 63,2 tok/sAMD Ryzen Threadripper PRO 3955WX 16-Cores 18,7 tok/s

MBnach Mainboard

2.0271.5201.0135070,005.47610.95216.428Prefill (tok/s)Generation (tok/s)Shenzhen Meigao Electronic Equipment Co.,Ltd DRFXI (MotherBoard Series) - 1.564,6 tok/s Generation, 2.312 tok/s Prefill, TTFT 17.248 ms (6 Laufe)Shenzhen Meigao Elect...unbekannt - 1.171,8 tok/s Generation, 2.569 tok/s Prefill, TTFT 15.123 ms (6 Laufe)unbekanntASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING - 1.132,7 tok/s Generation, 4.332 tok/s Prefill, TTFT 19.822 ms (18 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI - 584,1 tok/s Generation, 13.248 tok/s Prefill, TTFT 766 ms (8 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE - 424,2 tok/s Generation, 0 tok/s Prefill, TTFT 1.438 ms (6 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING - 196,2 tok/s Generation, 757 tok/s Prefill, TTFT 36.737 ms (5 Laufe)ASUSTeK COMPUTER INC....ASRockRack ROMED8-2T/BCM - 79,2 tok/s Generation, 423 tok/s Prefill, TTFT 24.603 ms (9 Laufe)ASRockRack ROMED8-2T/...Dell Inc. PowerEdge R820 - 63,2 tok/s Generation, 803 tok/s Prefill, TTFT 20.996 ms (3 Laufe)Dell Inc. PowerEdge R...ASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI - 35,4 tok/s Generation, 170 tok/s Prefill, TTFT 59.933 ms (9 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. GX10 - 492,8 tok/s Generation, 1.262 tok/s Prefill, TTFT 33.373 ms (12 Laufe) | DIESER LAUF★ ASUSTeK COMPUTER INC....
Shenzhen Meigao Electronic Equipment Co.,Ltd DRFXI (MotherBoard Series) 1.564,6 tok/sunbekannt 1.171,8 tok/sASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 1.132,7 tok/sASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 584,1 tok/s★ ASUSTeK COMPUTER INC. GX10 492,8 tok/s dieser LaufASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 424,2 tok/sASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING 196,2 tok/sASRockRack ROMED8-2T/BCM 79,2 tok/sDell Inc. PowerEdge R820 63,2 tok/sASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 35,4 tok/s

ENGnach Engine

1.9651.4749834910,005.02910.05815.087Prefill (tok/s)Generation (tok/s)strata - 1.564,6 tok/s Generation, 1.819 tok/s Prefill, TTFT 32.559 ms (29 Laufe)strataunbekannt - 1.171,8 tok/s Generation, 1.981 tok/s Prefill, TTFT 17.080 ms (9 Laufe)unbekanntvLLM - 584,1 tok/s Generation, 10.429 tok/s Prefill, TTFT 1.500 ms (17 Laufe)vLLMtensorfold - 344,4 tok/s Generation, 12.258 tok/s Prefill, TTFT 1.105 ms (3 Laufe)tensorfoldllama.cpp - 1.555,3 tok/s Generation, 627 tok/s Prefill, TTFT 35.323 ms (24 Laufe) | DIESER LAUF★ llama.cpp
strata 1.564,6 tok/s★ llama.cpp 1.555,3 tok/s dieser Laufunbekannt 1.171,8 tok/svLLM 584,1 tok/stensorfold 344,4 tok/s

DRVnach Treiber

1.9351.4821.0295751226831.7682.8523.936Prefill (tok/s)Generation (tok/s)unbekannt - 1.564,6 tok/s Generation, 3.358 tok/s Prefill, TTFT 22.790 ms (70 Laufe)unbekanntNVIDIA 590.48.01 / CUDA 13.1 - 492,8 tok/s Generation, 1.262 tok/s Prefill, TTFT 33.373 ms (12 Laufe) | DIESER LAUF★ NVIDIA 590.48.01 / CU...
unbekannt 1.564,6 tok/s★ NVIDIA 590.48.01 / CUDA 13.1 492,8 tok/s dieser Lauf
💰 Economics

Wirtschaftlichkeit dieses Laufs

Betriebskosten, TCO und Vergleich mit den nächstbesten Läufen desselben Modells bei identischer Concurrency (10× parallel). Methodik →

⚙️ KonfigurationAlle Kennzahlen und Diagramme unten folgen diesen Einstellungen – bezogen auf 24 Monate Laufzeit.In URL übernehmenZurücksetzen
⚡ Strompreis EUR/kWh
⚙️ System-Auslastung 100 %
🖥️ Anschaffung EUR
🔌 Idle 15 W
⚡ TDP 140 W
☁️ Externes LLM (API)
Strompreis0,30 EUR/kWh
Ø-Leistung (inkl. Idle)140 W geschätzt (TDP)GPU 140 W Volllast
Ø-Kosten / Stunde0,042 EUR
Strom / 1 Mio. Token0,13 EUR
Token / kWh2,29 Mio.
Anschaffung (System)5.800 EUR TeilpreisGPU 4.000 EUR · RAM 1.680 EUR · Netzteil 120 EUR
Stromkosten (2 Jahre)–
TCO (2 Jahre)6.536 EUR
Output-Token (2 Jahre)5,61 Mrd.
☁️ Externes LLM (API) – Vergleich
Externe LLM-Kosten (2 Jahre)–
Ersparnis vs. extern (2 Jahre)–

Alle Werte oben und die Diagramme unten berücksichtigen die eingestellte System-Auslastung: bei X % generiert das System nur X % der Zeit, die restliche Zeit läuft es im Idle (15 W). Kosten pro Stunde sinken dadurch (mehr Idle), Kosten je Token steigen.

Kosten über 2 Jahre – nur Strom

Kosten über 2 Jahre – inkl. Anschaffung (TCO)

Geschwindigkeit vs. Token pro Euro

Euro pro 1 Mio. Token

Vergleich zur API – Wirtschaftlichkeit je Benchmark

Qwen3.8-Flash-NextNVIDIA DGX SPARK (GB10)Qwen3.8-Flash-NextNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionQwen3.8-Flash-NextNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionQwen3.8-Flash-NextNVIDIA RTX A6000
Kosten Strom (24 Mon.)––––
Kosten Anschaffung––––
Kosten Gesamt (TCO)––––
Generierte Token (24 Mon.)––––
Tokenpreis bei API––––
Break-Even-Point (Tage)––––
Ergebnis (Ersparnis / Ausgabe)––––

Vergleich mit bis zu 3 nächstbesten Läufen dieses Modells bei gleicher Concurrency (mind. einer auf anderer Hardware). Leistung = GPU-TDP + CPU (Idle + 15 %) + Board (geschätzt), Anschaffung = komplettes System (GPU + CPU + Board + RAM + Netzteil), Preise = hinterlegte Marktpreise.

Beigesteuert von

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.