N
Hersteller
NVIDIA
Nemotron-Modellfamilie von NVIDIA.
Beste Token-Generierung
3.484,3 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B
Bester Prefill
44.171,1 tok/s
NVIDIA-Nemotron-3-Nano-4B
∅ Token-Generierung
275,1 tok/s
Schnitt aus 669 Läufen
∅ Prefill
3.818,4 tok/s
Schnitt aus 667 Läufen
Bester TTFT
31 ms
NVIDIA-Nemotron-3.5-Lightning-30B-A3B
Beste Harness-Quote
80%
Nemotron-Cascade-2-30B-A3B
🏆
NVIDIA-Nemotron-3.5-Lightning-30B-A3B · schnellstes Modell mit 3.484,3 tok/s Token-Generierung
Bester Prefill des Herstellers: 44.171,1 tok/s (NVIDIA-Nemotron-3-Nano-4B)
Bester Prefill des Herstellers: 44.171,1 tok/s (NVIDIA-Nemotron-3-Nano-4B)
Top-Modelle nach Token-Generierung
Bester gemessener Generierungs-Durchsatz je Modell (tok/s), veröffentlichte Performancebenchmarks.
Modelle
Alle Benchmarks →14 zugeordnet
Llama-3_1-Nemotron-Ultra-253B-v1253B53 Läufe
4,3tok/s Ø
Min 0,1Max 62,1
Llama-3_3-Nemotron-Super-49B-v1_549B49 Läufe
75,4tok/s Ø
Min 1,1Max 364,1
Llama-3.1-Nemotron-Nano-4B-v1.14.5B8 Läufe
229,5tok/s Ø
Min 49,2Max 419,4
Nemotron-3-Nano-Omni-30B-A3B-Reasoning30B64 Läufe
432,5tok/s Ø
Min 31,4Max 1.791,5
Nemotron-3-Super-120B-A12B-Q8120B0 Läufe
Noch keine Performancedaten
Nemotron-Cascade-2-30B-A3B30B81 Läufe
385,5tok/s Ø
Min 0,3Max 1.784,7
Nemotron-H-47B-Reasoning-128K47B63 Läufe
45,1tok/s Ø
Min 1,1Max 203,5
NVIDIA-Nemotron-3-Nano-30B-A3B30B94 Läufe
359,3tok/s Ø
Min 0,3Max 1.775,6
NVIDIA-Nemotron-3-Nano-4B4B72 Läufe
548,7tok/s Ø
Min 0,3Max 2.182,7
NVIDIA-Nemotron-3-Super-120B-A12B120B59 Läufe
81,4tok/s Ø
Min 1,9Max 600,9
NVIDIA-Nemotron-3.5-Lightning-30B-A3B31.6B69 Läufe
446,9tok/s Ø
Min 50,7Max 3.484,3
NVIDIA-Nemotron-3.5-Super-VL-120B-A12B120B6 Läufe
445,0tok/s Ø
Min 20,4Max 1.562,3
NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B75B0 Läufe
Noch keine Performancedaten
OpenReasoning-Nemotron-32B32B53 Läufe
107,9tok/s Ø
Min 1,1Max 481,0

