💰
LLM Economics
LLM Economics
Vergleiche Hardware, Modelle und Inferenz-Setups nach Betriebskosten, Tokenleistung und Gesamtbetriebskosten.
💸 Betriebskosten🖥️ TCO⚡ Token / Euro🔋 Token / kWh
Einstellungen werden im Browser gespeichert und in der URL geteilt. Leistungsaufnahme mangels Messwert geschätzt aus GPU-TDP + CPU (Idle + 15 %) + Board. Methodik →
Modell-Wirtschaftlichkeit
67 Modelle
Wirtschaftlichstes Setup je Modell. €/1 Mio. Token = Gesamtkosten je Kostenmodus (Strom bzw. + Anschaffung). Kein Qualitätsurteil. Zahl hinter dem Modell = Läufe · HW-Konfigurationen.
| # | Modell | Gen tok/s i | € / 1 Mio. Tok i | Tok/€ | Tok/kWh | günstigste HW |
|---|---|---|---|---|---|---|
| 1 | Nemotron-3-Nano-4B4BiNVIDIA ↗ Quelle | 579,8 | 0,022 EUR | 46,33 Mio. | 13,90 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 2 | gemma-4-E4B-it8BiGoogle ↗ Quelle | 436,1 | 0,024 EUR | 41,90 Mio. | 12,57 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 3 | gemma-4-26B-A4B-it-assistant26BiGoogle ↗ Quelle | 58,3 | 0,13 EUR | 7,45 Mio. | 2,24 Mio. | AMD Radeon 8060S Graphics |
| 4 | Gemma-4-26B-A4B-it26BiGoogle ↗ Quelle | 388,8 | 0,026 EUR | 39,06 Mio. | 11,72 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 5 | Qwen2.5-3B-Instruct3BiQwen (Alibaba) ↗ Quelle | 170,3 | 0,12 EUR | 8,69 Mio. | 2,61 Mio. | 2× NVIDIA GeForce RTX 2060 |
| 6 | Gemma-4-26B-A4B26BiGoogle ↗ Quelle | 155,4 | 0,12 EUR | 8,54 Mio. | 2,56 Mio. | NVIDIA RTX A6000 |
| 7 | Llama-3.2-3B-Instruct3BiMeta ↗ Quelle | 157,6 | 0,13 EUR | 7,58 Mio. | 2,27 Mio. | 2× NVIDIA GeForce RTX 2060 |
| 8 | Ornith-1.5-35B-A3B35BiDeepReinforce ↗ Quelle | 331,3 | 0,089 EUR | 11,20 Mio. | 3,36 Mio. | 2× NVIDIA RTX A6000 |
| 9 | glm-4.7-flashiZ.ai (Zhipu) ↗ Quelle | 48,9 | 0,24 EUR | 4,19 Mio. | 1,26 Mio. | NVIDIA GB10 (DGX Spark) |
| 10 | Ornith-1.0-9B9BiDeepReinforce ↗ Quelle | 330,0 | 0,029 EUR | 34,20 Mio. | 10,26 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 11 | Meta-Llama-3.1-8B-Instruct8BiMeta ↗ Quelle | 335,8 | 0,028 EUR | 35,36 Mio. | 10,61 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 12 | Laguna-XS-2.1iPoolside ↗ Quelle | 607,8 | 0,029 EUR | 34,08 Mio. | 10,22 Mio. | NVIDIA GeForce RTX 5090 |
| 13 | Nemotron-Cascade-2-30B-A3B30BiNVIDIA ↗ Quelle | 380,8 | 0,030 EUR | 33,19 Mio. | 9,96 Mio. | NVIDIA GeForce RTX 5090 |
| 14 | Qwen2.5-7B-Instruct7BiQwen (Alibaba) ↗ Quelle | 108,7 | 0,19 EUR | 5,36 Mio. | 1,61 Mio. | 2× NVIDIA GeForce RTX 2060 |
| 15 | Ornith-1.5-9B9BiDeepReinforce ↗ Quelle | 246,6 | 0,12 EUR | 8,44 Mio. | 2,53 Mio. | 2× NVIDIA RTX A6000 |
| 16 | gemma-4-12B-it12BiGoogle ↗ Quelle | 262,8 | 0,038 EUR | 26,23 Mio. | 7,87 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 17 | gemma-4-E2B-it5BiGoogle ↗ Quelle | 517,5 | 0,013 EUR | 77,43 Mio. | 23,23 Mio. | NVIDIA GB10 (DGX Spark) |
| 18 | Nemotron-3-Nano-Omni-30B-A3B-Reasoning30BiNVIDIA ↗ Quelle | 407,2 | 0,030 EUR | 33,39 Mio. | 10,02 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 19 | North-Mini-Code-1.0iCohere ↗ Quelle | 401,4 | 0,033 EUR | 30,22 Mio. | 9,07 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 20 | Ministral-3-14B-Reasoning-251214BiMistral AI ↗ Quelle | 247,5 | 0,044 EUR | 22,84 Mio. | 6,85 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 21 | Qwen3-Omni-30B-A3B-Thinking30BiQwen (Alibaba) ↗ Quelle | 383,1 | 0,031 EUR | 32,31 Mio. | 9,69 Mio. | NVIDIA GeForce RTX 5090 |
| 22 | gpt-oss-20b20BiOpenAI ↗ Quelle | 445,7 | 0,021 EUR | 46,85 Mio. | 14,05 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 23 | Qwen3.6-35B-A3B35BiQwen (Alibaba) ↗ Quelle | 254,6 | 0,036 EUR | 27,76 Mio. | 8,33 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 24 | Qwen3-Coder-30B-A3B-Instruct30BiQwen (Alibaba) ↗ Quelle | 334,2 | 0,030 EUR | 33,14 Mio. | 9,94 Mio. | NVIDIA GeForce RTX 5090 |
| 25 | Qwen3-30B-A3B-Thinking-250730BiQwen (Alibaba) ↗ Quelle | 338,6 | 0,031 EUR | 32,51 Mio. | 9,75 Mio. | NVIDIA GeForce RTX 5090 |
| 26 | Qwen3-30B-A3B-Instruct-250730BiQwen (Alibaba) ↗ Quelle | 317,0 | 0,031 EUR | 32,26 Mio. | 9,68 Mio. | NVIDIA GeForce RTX 5090 |
| 27 | Qwen-AgentWorld-35B-A3B35BiQwen (Alibaba) ↗ Quelle | 341,7 | 0,036 EUR | 27,79 Mio. | 8,34 Mio. | NVIDIA GeForce RTX 5090 |
| 28 | Qwen3-VL-30B-A3B-Instruct30BiQwen (Alibaba) ↗ Quelle | 334,3 | 0,031 EUR | 31,97 Mio. | 9,59 Mio. | NVIDIA GeForce RTX 5090 |
| 29 | Nemotron-3-Nano-30B-A3B30BiNVIDIA ↗ Quelle | 359,6 | 0,030 EUR | 33,25 Mio. | 9,97 Mio. | NVIDIA GeForce RTX 5090 |
| 30 | Ornith-1.0-35B35BiDeepReinforce ↗ Quelle | 446,8 | 0,033 EUR | 30,06 Mio. | 9,02 Mio. | NVIDIA GeForce RTX 5090 |
| 31 | Qwen3.5-35B-A3B35BiQwen (Alibaba) ↗ Quelle | 327,9 | 0,035 EUR | 28,34 Mio. | 8,50 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 32 | Nemotron-3.5-Lightning-30B-A3B30BiNVIDIA ↗ Quelle | 186,2 | 0,36 EUR | 2,74 Mio. | 822,17 Tsd. | 4× AMD Radeon AI PRO R9700 |
| 33 | Devstral-Small-2-24B-Instruct-251224BiMistral AI ↗ Quelle | 156,1 | 0,074 EUR | 13,53 Mio. | 4,06 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 34 | Devstral-Small-250724BiMistral AI ↗ Quelle | 150,3 | 0,083 EUR | 12,07 Mio. | 3,62 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 35 | Qwen3.6-27B27BiQwen (Alibaba) ↗ Quelle | 139,6 | 0,097 EUR | 10,28 Mio. | 3,08 Mio. | NVIDIA GeForce RTX 5090 |
| 36 | Codestral-22B-v0.122BiMistral AI ↗ Quelle | 129,0 | 0,081 EUR | 12,38 Mio. | 3,72 Mio. | NVIDIA GeForce RTX 5090 |
| 37 | Magistral-Small-250924BiMistral AI ↗ Quelle | 172,9 | 0,070 EUR | 14,23 Mio. | 4,27 Mio. | NVIDIA GeForce RTX 5090 |
| 38 | Ling-3.0-flash127.5BiinclusionAI ↗ Quelle | 85,8 | 0,046 EUR | 21,74 Mio. | 6,52 Mio. | NVIDIA GB10 (DGX Spark) |
| 39 | Qwen3-Coder-NextiQwen (Alibaba) ↗ Quelle | 292,0 | 0,043 EUR | 23,36 Mio. | 7,01 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 40 | gpt-oss-120b120BiOpenAI ↗ Quelle | 309,3 | 0,040 EUR | 24,90 Mio. | 7,47 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 41 | Laguna-S-2.1-INT4iPoolside ↗ Quelle | 287,6 | 0,064 EUR | 15,57 Mio. | 4,67 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 42 | gemma-4-31B-it31BiGoogle ↗ Quelle | 79,0 | 0,22 EUR | 4,64 Mio. | 1,39 Mio. | NVIDIA GeForce RTX 3090 Ti |
| 43 | Mistral-Small-3.1-24B-Instruct-250324BiMistral AI ↗ Quelle | 63,2 | 0,17 EUR | 5,92 Mio. | 1,77 Mio. | AMD Radeon PRO W7900 Dual Slot |
| 44 | Qwen3.8-27B27BiQwen (Alibaba) ↗ Quelle | 103,5 | 0,13 EUR | 7,63 Mio. | 2,29 Mio. | 2× NVIDIA RTX A6000 |
| 45 | OpenReasoning-Nemotron-32B32BiNVIDIA ↗ Quelle | 114,9 | 0,11 EUR | 9,29 Mio. | 2,79 Mio. | NVIDIA GeForce RTX 5090 |
| 46 | Mistral-Small-4-119B-2603119BiMistral AI ↗ Quelle | 93,1 | 0,056 EUR | 17,89 Mio. | 5,37 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 47 | Seed-OSS-36B-Instruct36BiByteDance Seed ↗ Quelle | 110,6 | 0,062 EUR | 16,21 Mio. | 4,86 Mio. | NVIDIA GeForce RTX 5090 |
| 48 | Qwen2.5-32B-Instruct-AWQ32BiQwen (Alibaba) ↗ Quelle | 139,2 | 0,11 EUR | 9,51 Mio. | 2,85 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 49 | Muse-Glimmer-30B30BiMeta ↗ Quelle | 77,4 | 0,53 EUR | 1,88 Mio. | 563,91 Tsd. | 4× AMD Radeon AI PRO R9700 |
| 50 | minimax-m2-awq230BiMiniMax ↗ Quelle | 114,8 | 0,15 EUR | 6,69 Mio. | 2,01 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 51 | Qwen3.5-122B-A10B122BiQwen (Alibaba) ↗ Quelle | 91,1 | 0,15 EUR | 6,90 Mio. | 2,07 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 52 | Qwen2.5-Coder-32B-Instruct32BiQwen (Alibaba) ↗ Quelle | 97,6 | 0,11 EUR | 9,33 Mio. | 2,80 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 53 | GLM-4.5-Air106BiZ.ai (Zhipu) ↗ Quelle | 132,8 | 0,081 EUR | 12,34 Mio. | 3,70 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 54 | Llama-3.3-Nemotron-Super-49B-v1.549BiNVIDIA ↗ Quelle | 75,9 | 0,15 EUR | 6,79 Mio. | 2,04 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 55 | Nemotron-3-Super-120B-A12B120BiNVIDIA ↗ Quelle | 85,5 | 0,089 EUR | 11,20 Mio. | 3,36 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 56 | Nemotron-H-47B-Reasoning-128K47BiNVIDIA ↗ Quelle | 45,1 | 0,26 EUR | 3,81 Mio. | 1,14 Mio. | NVIDIA GeForce RTX 5090 |
| 57 | MiniMax-M2.5230BiMiniMax ↗ Quelle | 87,1 | 0,11 EUR | 9,05 Mio. | 2,71 Mio. | NVIDIA GB10 (DGX Spark) |
| 58 | DeepSeek-V4-Flash290.9BiDeepSeek ↗ Quelle | 15,4 | 5,14 EUR | 194,49 Tsd. | 58,35 Tsd. | 4× AMD Radeon AI PRO R9700 |
| 59 | DeepSeek-V4-Flash-284B-A13B284BiDeepSeek ↗ Quelle | 65,6 | 0,21 EUR | 4,71 Mio. | 1,41 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 60 | Laguna-M.1iPoolside ↗ Quelle | 39,7 | 0,24 EUR | 4,12 Mio. | 1,24 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 61 | Qwen2.5-72B-Instruct72BiQwen (Alibaba) ↗ Quelle | 45,2 | 0,22 EUR | 4,46 Mio. | 1,34 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 62 | command-a-reasoning-08-2025111BiCohere ↗ Quelle | 40,8 | 0,34 EUR | 2,93 Mio. | 877,76 Tsd. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 63 | Mistral-Medium-3.5-128B128BiMistral AI ↗ Quelle | 10,2 | 0,38 EUR | 2,64 Mio. | 791,69 Tsd. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 64 | MiniMax-M2.7230BiMiniMax ↗ Quelle | 64,4 | 0,067 EUR | 14,93 Mio. | 4,48 Mio. | NVIDIA GB10 (DGX Spark) |
| 65 | Llama-3.1-Nemotron-Ultra-253B-v1253BiNVIDIA ↗ Quelle | 4,3 | 1,32 EUR | 758,23 Tsd. | 227,47 Tsd. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 66 | Devstral-2-123B-Instruct-2512123BiMistral AI ↗ Quelle | 22,1 | 0,38 EUR | 2,67 Mio. | 799,97 Tsd. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 67 | glm-5.2-colibri744BiZ.ai (Zhipu) ↗ Quelle | 0,0 | 1.788,19 EUR | 559 | 168 | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
Niedrige Tokenkosten bedeuten nicht automatisch hohe Modellqualität. Für Qualität siehe Harness-Benchmarks.