NVIDIA
Nemotron-Cascade-2-30B-A3B
Benchmarkprofil und veroeffentlichte Ergebnisse.
MoE30B
Einordnung im Feld
Bestwerte im Vergleich
Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veroeffentlichten Systeme.
Generation107,9 tok/s
Min 2,0Ø 42,5Max 147,8
Ueber dem Durchschnitt · 135 Systeme im Feld
Prefill3.141 tok/s
Min 22Ø 2.886Max 9.072
Ueber dem Durchschnitt · 133 Systeme im Feld
Time to First Token690 ms
Min 91Ø 1.685Max 21.346
Ueber dem Durchschnitt · 135 Systeme im Feld
Agent- & Chat-Bewertung
Harnessbenchmark
Noch keine Harnessbenchmarks fuer dieses Modell.
Durchsatz & Latenz
Performancebenchmark
| # | Modell / Hersteller | Typ | Messwerte | GPU / CPU / RAM | Runtime | Datum | ||
|---|---|---|---|---|---|---|---|---|
| 1 | Nemotron-Cascade-2-30B-A3BNVIDIATimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 107,87 tok/s Prefill 3.141 · TTFT 690 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | llama.cppgodclaw Q4_K_M | 22.07.2026 | Details → |