Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Qwen (Alibaba)

Qwen2.5-32B-Instruct-AWQ

Harnessbenchmark · gemessen am 04.04.2026 11:15

Benchmark-IDrun-20260722-161610-de118a
Tool Usage V 1.0Dense32BRuntime: openclaw_cliQuantisierung: AWQ
Zur Einordnung: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.
Punkte235,00von 1.760,00
Punktequote13,35%
Aufgaben bestanden15von 15
Gesamtdauer1.783,00s
Einordnung im Feld
27von 30 Systemen

Harnessbenchmark · Leitmetrik: Punktequote (%)

Dieser Lauf ist besser als 10 % aller vergleichbaren Systeme.
Punktequote 13 %
-75 % vs Ø 54,4
Aufgaben bestanden 15
-19 % vs Ø 18,6
Gesamtdauer 1.783,0 s
-26 % vs Ø 2.395,9
Verteilung im Feld10 – 91 %
Ø 54 Median Dieser Lauf

Wie schlägt sich dieser Benchmark?

Hardware

GPU: AMD Radeon 8060S Graphics
CPU: 32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
RAM: 31 GB
Mainboard: Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX)

Setup

Runtime: openclaw_cli
Quantisierung: AWQ
Betriebssystem: Ubuntu 24.04.2 LTS (Kernel 6.17.0-40-generic)
Treiber: ROCm 7.2.0
Modell: Qwen2.5-32B-Instruct-AWQ

Aufgaben (15)

AufgabeStatusPunkteDauer
Antwortzeit Testbestanden5 / 5053,00 s
JSON Direkt Ausgabebestanden7 / 7060,00 s
Kurzinhalt Benchmarkbestanden6 / 6056,00 s
Textdatei anlegenbestanden10 / 100119,00 s
JSON Datei erzeugenbestanden12 / 12099,00 s
JSON Datei lesen und Feld ausgebenbestanden12 / 120148,00 s
Komplexeres JSON erzeugenbestanden14 / 140196,00 s
JSON auswerten Summebestanden15 / 15072,00 s
Python Code erzeugenbestanden13 / 130120,00 s
Python Code ausfuehrenbestanden24 / 15056,00 s
PHP Datei erzeugenbestanden13 / 130123,00 s
PHP Datei ausfuehrenbestanden65 / 15038,00 s
Markdown Inhalt generierenbestanden11 / 110316,00 s
Dateiinhalt pruefenbestanden10 / 10051,00 s
Mehrstufige Verarbeitungbestanden18 / 180276,00 s

Alle Benchmarks dieses Modells Zum Leaderboard

Modell-Vergleich

Qwen2.5-32B-Instruct-AWQ auf verschiedener Hardware

Alle veroeffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

24,823,722,621,420,3486507528548Prefill (tok/s)Generation (tok/s)AMD Radeon 8060S Graphics - 22,6 tok/s Generation, 517 tok/s Prefill, TTFT 24.115 ms (3 Laufe) | DIESER LAUF★ AMD Radeon 8060S Grap...
★ AMD Radeon 8060S Graphics 22,6 tok/s dieser Lauf

CPUnach Prozessor

24,823,722,621,420,3486507528548Prefill (tok/s)Generation (tok/s)AMD RYZEN AI MAX+ 395 w/ Radeon 8060S - 22,6 tok/s Generation, 517 tok/s Prefill, TTFT 24.115 ms (3 Laufe) | DIESER LAUF★ AMD RYZEN AI MAX+ 395...
★ AMD RYZEN AI MAX+ 395 w/ Radeon 8060S 22,6 tok/s dieser Lauf

MBnach Mainboard

24,823,722,621,420,3486507528548Prefill (tok/s)Generation (tok/s)Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) - 22,6 tok/s Generation, 517 tok/s Prefill, TTFT 24.115 ms (3 Laufe) | DIESER LAUF★ Meigao Innovation Tec...
★ Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) 22,6 tok/s dieser Lauf

ENGnach Engine

24,823,722,621,420,3486507528548Prefill (tok/s)Generation (tok/s)unbekannt - 22,6 tok/s Generation, 517 tok/s Prefill, TTFT 24.115 ms (3 Laufe)unbekannt
unbekannt 22,6 tok/s

DRVnach Treiber

24,823,722,621,420,3486507528548Prefill (tok/s)Generation (tok/s)ROCm 7.2.0 - 22,6 tok/s Generation, 517 tok/s Prefill, TTFT 24.115 ms (3 Laufe) | DIESER LAUF★ ROCm 7.2.0
★ ROCm 7.2.0 22,6 tok/s dieser Lauf