← Alle benchmarks

Dansk ASR-dyst — Kreds 1-talk (kreds150626)

Syv transskriptionsmotorer på 60 stilhedsopdelte klip fra en 68-min dansk tech-talk. MAI-Transcribe 2, MAI 1.5, MAI 1.0, Azure Fast, Parakeet-v3, syv.ai og hviske-v5-tiny — mod samme menneske­verificerede facit. Plus ét ekstra spor: Parakeets output kørt gennem en LLM-oprydning (Nemotron 3.5 Lightning).

8 motorer60 klip68 min tale

Leaderboard

Skævheds-audit →
Du ser det blinde facit — labelet uafhængigt af motorerne. Stol på dette.
#MotorWER (ordret) ↓WER (filler-norm) ↓CER ↓Nøgleord ↑S / I / D
1MAI-Transcribe 1.52.5%2.1%1.5%87.5%6 / 10 / 1
2MAI-Transcribe 2 (Foundry, preview)
Taber til MAI 1.5 på WER og er samtidig den eneste søjle, der tager alle otte nøgleord. Forskellen er mest formatering, ikke hørelse: modellen skriver tal som cifre (»7« mod facittets »syv« — 4 af 30 fejl på blind-20) og rydder stille op i stammen og de falske starter, som det ordrette facit bevarer. Kørt med default transcribeStyle=verbatim; »clean« ville fjerne fyldordene, som facittet har. Facitlisterne er ældre end modellen. Bemærk at den forankrede facit er seedet fra MAI 1.5, som MAI 2 er direkte efterfølger til — blind-20 er det ærlige tal.
4.5%3.6%2.6%100.0%13 / 9 / 8
3syv.ai (syv-transcribe)14.5%11.9%8.2%37.5%38 / 6 / 53
4Azure Fast Transcription14.7%9.7%8.2%25.0%44 / 4 / 50
5MAI-Transcribe 1.0
Udfaset af Microsoft 20-08-2026. Søjlen bliver stående med sine oprindelige tal, men modellen kan ikke længere kaldes.
15.0%10.2%10.1%75.0%17 / 1 / 82
6hviske-v5-tiny (lokal, 263M)
263M parametre, destilleret fra syv.ai's ~2,1B syv-transcribe — som står som egen søjle her. Kørt lokalt på CPU (8,2× realtid, fp32 ONNX, ingen GPU), aldrig gennem et API. Facitlisterne er ældre end modellen, så søjlen er scoret helt blindt. Vægte: CC BY-NC 4.0.
15.9%11.9%9.6%12.5%38 / 8 / 60
7Parakeet-v3 (local) + Nemotron 3.5 Lightning cleanup (NVIDIA)
Ikke en ASR-motor: Nemotron 3.5 Lightning er tekst-til-tekst og hører ingen lyd. Den efterbehandler Parakeets output.
27.1%22.9%18.6%25.0%58 / 2 / 121
8Parakeet-v3 (local)28.3%24.1%18.5%12.5%67 / 3 / 119

20 af 60 klip er labelet i dette facit.

Beviskæden

Vælg et klip, lyt, og se hvert ord hver motor ramte. Grøn = korrekt, gul = forkert ord, blå = tilføjet, rød = misset. Diffene beregnes i din browser af nøjagtig samme kode som tallene ovenfor — 2.5% er ikke et løst skøn.

20 klip · blindt facit
Klip #012:0012:15
Facit · markér et ord for at foreslå en rettelse

Jeg har været vant til at skrive kode, øh, det vil sige, når AI'en sidder fast, så kan jeg nok komme ud af det igen, men det er så også min største ulempe, fordi at øh det er, det det er en refleks eller en vane, man skal øh vende sig af med som udvikler, og øh og det øh.

MAI-Transcribe 1.50% WER · S0/I0/D0
jeg har været vant til at skrive kode øh det vil sige når ai en sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vane man skal øh vende sig af med som udvikler og øh og det øh

Jeg har været vant til at skrive kode, øh, det vil sige, når AI'en sidder fast, så kan jeg nok komme ud af det igen, men det er så også min største ulempe, fordi at øh det er, det det er en refleks eller en vane, man skal øh vende sig af med som udvikler, og øh og det øh.

MAI-Transcribe 1.021% WER · S0/I1/D12
fordi jeg har været vant til at skrive kode øh det vil sige når ai en sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vane man skal øh vende sig af med som udvikler og øh og det øh

fordi jeg har været vant til at skrive kode. Det vil sige, når AI'en sidder fast, så kan jeg nok komme ud af det igen. Men det er så også min største ulempe, fordi det er en refleks eller en vane, man skal vende sig af med som udvikler.

Azure Fast Transcription8% WER · S0/I0/D5
jeg har været vant til at skrive kode øh det vil sige når ai en sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vane man skal øh vende sig af med som udvikler og øh og det øh

Jeg har været vant til at skrive kode. Det vil sige når AI en sidder fast, så kan jeg nok komme ud af det igen. Men Det er så også min største ulempe fordi at Det er det. Det er en refleks eller en vane man skal vende sig af med som udvikler og og det.

Parakeet-v3 (local)43% WER · S6/I0/D20
jeg er valgt vant til at skrive kode god det vil er når ai en sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vanen man skal øh vende sig af vend som udvikler og øh og det øh

Jeg er valgt vant til at skrive god. Det er, når, så kan jeg nok komme ud af det igen. Men det er så også min største ulempe, fordi det er en refleks eller en vanen, man skal vend, som udvikler.

syv.ai (syv-transcribe)16% WER · S2/I0/D8
jeg har været vant til at skrive kodet øh det vil sige når ai a1 sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vane man skal øh vende sig af med som udvikler og øh og det øh

Jeg har været vant til at skrive kodet øh det vil sige når A1 sidder fast så kan jeg nok komme ud af det igen men det er så også min største ulempe fordi at det det er en refleks eller en vane man skal vende sig af med som udvikler og det

Parakeet-v3 (local) + Nemotron 3.5 Lightning cleanup (NVIDIA)43% WER · S6/I0/D20
jeg er valgt vant til at skrive kode god det vil er når ai en sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vanen man skal øh vende sig af vend som udvikler og øh og det øh

Jeg er valgt vant til at skrive god. Det er, når, så kan jeg nok komme ud af det igen. Men det er så også min største ulempe, fordi det er en refleks eller en vanen, man skal vend, som udvikler.

hviske-v5-tiny (lokal, 263M)21% WER · S3/I0/D10
jeg har været vant til at skrive kode øh det vil sige at når a1 sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vane man skal øh vende sig af med som udvikler og øh og det øh

Jeg har været vant til at skrive kode. Det vil sige, at når A1 sidder fast, så kan jeg nok komme ud af det igen. Men det er så også min største ulempe, fordi det er en refleks eller en vane, man skal vende sig af med som udvikler. Og det.

MAI-Transcribe 2 (Foundry, preview)0% WER · S0/I0/D0
jeg har været vant til at skrive kode øh det vil sige når ai en sidder fast kan jeg nok komme ud af det igen men det er også min største ulempe fordi at øh det er det det er en refleks eller en vane man skal øh vende sig af med som udvikler og øh og det øh

Jeg har været vant til at skrive kode. Øh, det vil sige, når AI'en sidder fast, så kan jeg nok komme ud af det igen, men det er så også min største ulempe, fordi at øh det er, det det er en refleks eller en vane, man skal øh vende sig af med som udvikler, og øh og det øh.

Ser en fejl i facit? Markér ordet i facit-teksten ovenfor og foreslå en rettelse — det holder benchmarken ærlig. Forslag gemmes til gennemsyn.

Motor mod motor

Vælg to motorer. Klippene sorteres efter, hvor de to er enige med hinanden og uenige med facit — det er dér, mistanken falder på labelet frem for på modellerne. Uenighed indbyrdes er derimod almindelig konkurrence. Alignment er ikke entydig, så en markering er en mistanke, ikke en dom: lyt til klippet, før du sender rettelsen.

10 positioner hvor begge motorer siger det samme og facit siger noget andet — mistanke mod facit. Til sammenligning 22, hvor de to motorer er uenige indbyrdes; dér er det motorerne, der bliver målt.
20 klip · mest mistænkelige først
Klip #3748:3248:383 mistanke · 1 uenighed
Facit · markér et ord for at foreslå en rettelse

af de her ting, som vi snakkede om, eller som AI'en har snakket om.

FacitMAI-Transcribe 1.5MAI-Transcribe 2 (Foundry, preview)
ellerøhm ellerøhm eller⚑ facit-mistanke
somsom somsom som⚑ facit-mistanke
aiaaikun A afviger
(efter sidste ord)⚑ facit-mistanke
MAI-Transcribe 1.5mod facit · S1/I3/D0
af de her ting som vi snakkede om øhm eller som som a en har snakket om
MAI-Transcribe 2 (Foundry, preview)mod facit · S0/I3/D0
af de her ting som vi snakkede om øhm eller som som ai en har snakket om