M
Hersteller
Mistral AI
Franzoesisches KI-Labor; Mistral, Mixtral, Codestral, Devstral, Ministral, Magistral.
Beste Token-Generierung
1.060,0 tok/s
Ministral-3-14B-Reasoning-2512
Bester Prefill
20.061,1 tok/s
Ministral-3-14B-Reasoning-2512
∅ Token-Generierung
138,8 tok/s
Schnitt aus 728 Läufen
∅ Prefill
3.107,1 tok/s
Schnitt aus 728 Läufen
Bester TTFT
20 ms
Magistral-Small-2509
Beste Harness-Quote
87%
Devstral-Small-2-24B-Instruct-2512
🏆
Ministral-3-14B-Reasoning-2512 · schnellstes Modell mit 1.060,0 tok/s Token-Generierung
Bester Prefill des Herstellers: 20.061,1 tok/s (Ministral-3-14B-Reasoning-2512)
Bester Prefill des Herstellers: 20.061,1 tok/s (Ministral-3-14B-Reasoning-2512)
Top-Modelle nach Token-Generierung
Bester gemessener Generierungs-Durchsatz je Modell (tok/s), veröffentlichte Performancebenchmarks.
Modelle
Alle Benchmarks →11 zugeordnet
Codestral-22B-v0.122B101 Läufe
128,1tok/s Ø
Min 8,9Max 641,4
Devstral-2-123B-Instruct-2512123B53 Läufe
20,9tok/s Ø
Min 0,0Max 143,1
Devstral-Small-2-24B-Instruct-251224B110 Läufe
152,7tok/s Ø
Min 8,9Max 725,6
Devstral-Small-250724B97 Läufe
149,4tok/s Ø
Min 9,7Max 647,6
Magistral-Small-250924B102 Läufe
171,7tok/s Ø
Min 4,0Max 737,0
Mamba-Codestral-7B-v0.17B1 Läufe
29,3tok/s Ø
Min 29,3Max 29,3
Ministral-3-14B-Reasoning-251214B126 Läufe
242,0tok/s Ø
Min 17,3Max 1.060,0
Mistral-Medium-3.5-128B128B31 Läufe
9,4tok/s Ø
Min 0,6Max 141,6
Mistral-Small-24B-Instruct-250123.6B5 Läufe
59,4tok/s Ø
Min 8,5Max 153,1
Mistral-Small-3.1-24B-Instruct-250324B80 Läufe
65,6tok/s Ø
Min 5,0Max 214,9
Mistral-Small-4-119B-2603119B26 Läufe
93,1tok/s Ø
Min 5,8Max 959,6

