Created bymario-alka.dePowered bynoob2claw.detricoma.de
Hersteller

NVIDIA

Nemotron-Modellfamilie von NVIDIA.

14Modelle
671Benchmarks
669Performance
2Harness
Beste Token-Generierung
3.484,3 tok/s
NVIDIA-Nemotron-3.5-Lightning-30B-A3B
Bester Prefill
44.171,1 tok/s
NVIDIA-Nemotron-3-Nano-4B
∅ Token-Generierung
275,1 tok/s
Schnitt aus 669 Läufen
∅ Prefill
3.818,4 tok/s
Schnitt aus 667 Läufen
Bester TTFT
31 ms
NVIDIA-Nemotron-3.5-Lightning-30B-A3B
Beste Harness-Quote
80%
Nemotron-Cascade-2-30B-A3B
🏆
NVIDIA-Nemotron-3.5-Lightning-30B-A3B · schnellstes Modell mit 3.484,3 tok/s Token-Generierung
Bester Prefill des Herstellers: 44.171,1 tok/s (NVIDIA-Nemotron-3-Nano-4B)

Top-Modelle nach Token-Generierung

Bester gemessener Generierungs-Durchsatz je Modell (tok/s), veröffentlichte Performancebenchmarks.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B
3.484,3 tok/s
NVIDIA-Nemotron-3-Nano-4B
2.182,7 tok/s
Nemotron-3-Nano-Omni-30B-A3B-Reasoning
1.791,5 tok/s
Nemotron-Cascade-2-30B-A3B
1.784,7 tok/s
NVIDIA-Nemotron-3-Nano-30B-A3B
1.775,6 tok/s
NVIDIA-Nemotron-3.5-Super-VL-120B-A12B
1.562,3 tok/s
NVIDIA-Nemotron-3-Super-120B-A12B
600,9 tok/s
OpenReasoning-Nemotron-32B
481,0 tok/s