Reson8: Talmodell med 0,5 miljarder parametrar i nivå med NVIDIA:s 30-miljardersmodell i samtalstest
Amsterdambaserade Reson8 har släppt modellvikterna för taligenkänningsmodellen Rumble-2-Flash under licensen Apache 2.0. Enligt företaget känner modellen med 0,5 miljarder parametrar igen tal på fler än 40 språk. Den transkriberar dessutom engelskspråkiga telefonsamtal nästan lika träffsäkert som NVIDIA:s modell med 30 miljarder parametrar, uppger företaget.
Reson8 (Resonate Labs B.V.) berättade om lanseringen den 18 november på Hugging Faces blogg, och SiliconANGLE återgav företagets uppgifter samma dag. Modellen är avsedd för transkribering av inspelat ljud. Alla siffror om träffsäkerhet och hastighet kommer från företaget.
Den lilla modellen har tränats genom destillation från företagets större modell Rumble-2. Under träningen transkriberar Rumble-2-Flash ljudet själv, och den större modellen bedömer transkriptionen token för token. På så sätt får den lilla modellen återkoppling på just sina egna fel. Eftersom modellen bygger på Qwen3-ASR-arkitekturen fungerar den i biblioteken Transformers och vLLM utan extra kod.
Tabellen visar ordfelfrekvensen (WER), alltså andelen felaktigt transkriberade ord, i AppTeks callcenterdata: 302 timmar engelskspråkiga supportsamtal med 14 accenter.
| Modell | Parametrar | WER |
|---|---|---|
| Qwen3-ASR 1.7B | 1,7 mdr | 7,4 % |
| NVIDIA Nemotron 3.5 Transcribe | 30 mdr | 7,78 % |
| Rumble-2-Flash | 0,5 mdr | 7,86 % |
| Qwen3-ASR 0.6B | 0,6 mdr | 8,7 % |
Källa: Reson8:s blogg, poängsatt med AppTeks eget skript.
Enligt Reson8 är modellen i nivå med Nemotron. Skillnaden är 0,08 procentenheter. Qwen3-ASR 1.7B, som tillhör samma modellfamilj, är dock bättre i jämförelsen. Datamaterialet är engelskspråkigt och säger därför inget om samtal på andra språk.
Källorna anger olika siffror för resultaten på flera språk. Enligt bloggen har modellen en genomsnittlig felfrekvens på 6,96 procent på nio språk i Open ASR Leaderboards flerspråkiga del, och ordfelfrekvensen i den engelska delen är 6,6 procent. SiliconANGLE skriver att genomsnittet i företagets egna mätningar var 7,09 procent på sju språk och omkring 5 procent på engelska. Orsaken till skillnaden anges inte. Enligt SiliconANGLE uppger Reson8 att modellens genomsnittliga ordfelfrekvens är 17,6 procent på tio språk som det finns mindre data för, till exempel maltesiska och baskiska. I samma test låg OpenAI:s Whisper Large V3 på 39,82 procent, enligt företaget.
Enligt bloggen transkriberar modellen mer än 7 000 gånger snabbare än realtid, det vill säga en timmes ljud på ungefär en halv sekund. Hastigheten beror dock på hur fulla batcherna är, alltså de omgångar som bearbetas samtidigt. Siffran gäller de stora datamängderna i Open ASR Leaderboard, där batcherna förblir fulla.
Modellvikterna kan laddas ner från Hugging Face (Reson8/Rumble-2-Flash). Modellen kan också användas via Reson8:s API, och priset börjar på 0,01 euro per ljudtimme, skriver SiliconANGLE. Bara Rumble-2 tar emot en egen ordlista utan finjustering. Ingen av källorna listar alla de fler än 40 språken, så stödet för finska måste kontrolleras på egen hand.
Läs mer: Modeller