Created bymario-alka.dePowered bynoob2claw.detricoma.de
meta-models

Muse-Glimmer-30B29.8B

Multimodales 30B-Modell (dense, alle Parameter aktiv) von Meta mit dediziertem Perception-Encoder (~1,8B) fuer Bildverarbeitung, destilliert aus Muse Spark, ausgelegt auf agentische Aufgaben auf lokaler Hardware.

Dense29.8B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

Generation199,1 tok/s
Min 0,0Ø 77,4Max 667,0
Ueber dem Durchschnitt · 978 Systeme im Feld
Prefill3.112 tok/s
Min 4Ø 2.302Max 35.719
Ueber dem Durchschnitt · 978 Systeme im Feld
Time to First Token337 ms
Min 31Ø 57.832Max 535.235
Ueber dem Durchschnitt · 976 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

2222071911751607301.2051.6802.155Prefill (tok/s)Generation (tok/s)AMD Radeon AI PRO R9700 - 199,1 tok/s Generation, 1.884 tok/s Prefill, TTFT 4.199 ms (12 Laufe)AMD Radeon AI PRO R97...AMD Radeon RX 7900 XTX - 182,7 tok/s Generation, 1.002 tok/s Prefill, TTFT 10.161 ms (3 Laufe)AMD Radeon RX 7900 XTX
AMD Radeon AI PRO R9700 199,1 tok/sAMD Radeon RX 7900 XTX 182,7 tok/s

CPUnach Prozessor

2242051851661466651.2731.8802.488Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 7955WX 16-Cores - 199,1 tok/s Generation, 2.152 tok/s Prefill, TTFT 2.455 ms (9 Laufe)AMD Ryzen Threadrippe...AMD Ryzen Threadripper PRO 3955WX 16-Cores - 182,7 tok/s Generation, 1.002 tok/s Prefill, TTFT 10.161 ms (3 Laufe)AMD Ryzen Threadrippe...AMD Ryzen 3 3100 4-Core Processor - 171,8 tok/s Generation, 1.079 tok/s Prefill, TTFT 9.433 ms (3 Laufe)AMD Ryzen 3 3100 4-Co...
AMD Ryzen Threadripper PRO 7955WX 16-Cores 199,1 tok/sAMD Ryzen Threadripper PRO 3955WX 16-Cores 182,7 tok/sAMD Ryzen 3 3100 4-Core Processor 171,8 tok/s

ENGnach Engine

24419013783,930,61.4341.6961.9582.220Prefill (tok/s)Generation (tok/s)llama.cpp - 199,1 tok/s Generation, 1.627 tok/s Prefill, TTFT 5.443 ms (12 Laufe)llama.cppvLLM - 75,3 tok/s Generation, 2.026 tok/s Prefill, TTFT 5.184 ms (3 Laufe)vLLM
llama.cpp 199,1 tok/svLLM 75,3 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
199,09 tok/s TG
Prefill 2.520 · TTFT 2.032 ms
10×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ4_K_M
2Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
182,69 tok/s TG
Prefill 1.099 · TTFT 18.308 ms
10×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_M
3Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
171,83 tok/s TG
Prefill 1.188 · TTFT 16.950 ms
10×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_M
4Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
159,55 tok/s TG
Prefill 3.112 · TTFT 1.645 ms
10×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ8_0
5Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
90,08 tok/s TG
Prefill 978 · TTFT 10.061 ms
5×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_M
6Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
84,05 tok/s TG
Prefill 2.716 · TTFT 943 ms
5×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ8_0
7Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
82,79 tok/s TG
Prefill 2.200 · TTFT 1.164 ms
5×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ4_K_M
8Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
75,28 tok/s TG
Prefill 2.774 · TTFT 8.886 ms
10×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawBF16
9Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
72,58 tok/s TG
Prefill 1.050 · TTFT 9.383 ms
5×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_M
10Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
41,70 tok/s TG
Prefill 2.092 · TTFT 5.044 ms
5×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawBF16
11Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
37,33 tok/s TG
Prefill 927 · TTFT 2.113 ms
1×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_M
12Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
28,00 tok/s TG
Prefill 1.219 · TTFT 420 ms
1×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ4_K_M
13Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
27,32 tok/s TG
Prefill 999 · TTFT 1.966 ms
1×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_M
14Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
17,92 tok/s TG
Prefill 1.520 · TTFT 337 ms
1×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ8_0
15Muse-Glimmer-30B29.8Bmeta-models PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
8,16 tok/s TG
Prefill 1.213 · TTFT 1.622 ms
1×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawBF16
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.