Echte Performance
TTFT, Prefill- und Generation-Token/s statt theoretischer Spitzenwerte.
Wir testen KI-Sprachmodelle auf echter Hardware: Tempo in Token pro Sekunde und Antwortzeit – plus Qualität in echten Agenten-Aufgaben. Transparent, reproduzierbar, direkt vergleichbar.
TTFT, Prefill- und Generation-Token/s statt theoretischer Spitzenwerte.
Punkte und Erfolgsquoten aus vollständigen Agent- und Chatabläufen.
Modell, Quantisierung, Runtime und Hardware bleiben an jedem Lauf sichtbar.
Tempo (Token/s) und Qualität (Harness) der meistgetesteten Modelle – direkt vergleichbar.
| # | Modell / Hersteller | Messwerte | Parallel | GPU / CPU / RAM | Runtime | ||
|---|---|---|---|---|---|---|---|
| 1 | NVIDIA-Nemotron-3.5-Lightning-30B-A3B31.6BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 3.484,32 tok/s TG Prefill 8.256 · TTFT 14.388 ms | 10× | NVIDIA GeForce RTX 3090AMD Ryzen 5 5600X 6-Core Processor · 31 GB RAM | tensorfoldgodclaw 1.1.6MLX 4-bit | Details → | |
| 2 | NVIDIA-Nemotron-3.5-Lightning-30B-A3B31.6BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 2.867,15 tok/s TG Prefill 8.107 · TTFT 17.054 ms | 10× | NVIDIA GeForce RTX 3090 iAMD Ryzen 5 5600X 6-Core Processor · 31 GB RAM | tensorfoldgodclaw 1.1.6MLX 4-bit | Details → | |
| 3 | gemma-4-E2B-it5BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 2.491,20 tok/s TG Prefill 15.814 · TTFT 4.382 ms | 10× | NVIDIA GeForce RTX 5090AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAM | llama.cppcodex_cliQ4_K_M | Details → | |
| 4 | gemma-4-E2B-it5BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 2.414,37 tok/s TG Prefill 20.277 · TTFT 4.107 ms | 10× | NVIDIA RTX PRO 6000 Blackwell Workstation EditionAMD Ryzen 9 9950X 16-Core Processor · 92 GB RAM | llama.cppgodclawQ4_K_M | Details → | |
| 5 | gemma-4-E2B-it5BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 2.412,27 tok/s TG Prefill 19.677 · TTFT 4.107 ms | 10× | NVIDIA RTX PRO 6000 Blackwell Workstation EditionAMD Ryzen 5 5600X 6-Core Processor · 31 GB RAM | llama.cppgodclawQ4_K_M | Details → |
Jede Kachel ist ein gemessener Lauf - Motiv, Modell und Generierungszeit auf echter Hardware.
Weitwinkel: Cyberpunk-Rechenzentrum
Qwen-Image-2.1
Detail: GPU-Rack Nahaufnahme
Qwen-Image-2.1
Figur: Technikerin im Serverraum
Qwen-Image-2.1
Textrendering: Server-Display
Qwen-Image-2.1
Weitwinkel: Cyberpunk-Rechenzentrum
Z-Image
Detail: GPU-Rack Nahaufnahme
Z-Image
Figur: Technikerin im Serverraum
Z-Image
Textrendering: Server-Display
Z-Image
Generierungs-Durchsatz (Token/s) je GPU – Minimum, Durchschnitt und Maximum über alle Performance-Läufe.
Generierungs-Durchsatz (Token/s) je CPU – Minimum, Durchschnitt und Maximum über alle Performance-Läufe.
Wir verwenden technisch notwendige Cookies. Externe Inhalte (z. B. YouTube-Videos) werden nur mit deiner Zustimmung geladen und setzen dann Cookies von YouTube/Google. Mehr in der Datenschutzerklärung.