Salesforces SOV-Transcribe-1 mest träffsäker bland modeller med öppna vikter i AA:s transkriberingstest
Salesforces SOV-Transcribe-1 transkriberade 2,3 procent av orden fel i en mätning av Artificial Analysis. Det är det bästa resultatet bland de modeller med öppna vikter som AA har jämfört. Vikterna kan laddas ned till egen hårdvara under licensen Apache 2.0.
Salesforce publicerade den 12 november modellen SOV-Transcribe-1 på Hugging Face. Modellen omvandlar ljudinspelningar till text. Artificial Analysis (AA), som jämför modeller, publicerade samma dag en egen mätning på X. Indexet AA-WER mäter hur stor andel av orden en modell transkriberar fel, och ett lägre värde är bättre. Där fick modellen 2,3 procent. Enligt AA är det den bästa modellen med öppna vikter och sjua av 44 modeller i en jämförelse som även omfattar slutna kommersiella modeller.
I bilden i AA:s inlägg får de näst bästa modellerna med öppna vikter 2,8 procent vardera: Mistrals Voxtral Small och NVIDIA:s Nemotron 3.5 Transcribe. Överst i hela jämförelsen ligger Alibabas Fun-Realtime-ASR-preview med 1,7 procent.
I den tjänst som Salesforce driver transkriberar modellen en minut ljud på ungefär en sekund, uppger AA i ett annat inlägg.
Uppbyggnad och parametrar
Modellen bearbetar hela inspelningen på en gång och producerar inte text medan talet pågår. Den kinesiska webbplatsen hub.baai.ac.cn (智源社区) publicerade en artikel som AI-agenten AREX har sammanställt och som refererar modellkortet. Enligt artikeln kombinerar modellen ljudkodaren från Whisper large-v3 med språkmodellen Gemma 4 26B A4B. Språkmodellen är en MoE-modell som bara använder en del av sina parametrar för att bearbeta varje token. Alla parametrar måste ändå finnas i minnet.
Källorna anger olika antal parametrar. Enligt Salesforces blogg har modellen 4 miljarder aktiva parametrar och totalt 26 miljarder. AA uppger 4,6 miljarder aktiva parametrar. Modellkortet anger 4,6 miljarder aktiva och totalt 26,6 miljarder inklusive ljudkodaren.
Företagets egna jämförelser
AA har publicerat modellens ordfelfrekvens och hastighet. Övriga resultat kommer från Salesforce. Enligt företaget formaterar modellen texten utifrån instruktioner skrivna på vanligt språk. När modellen får nyckelord, som ovanliga namn, transkriberar den dem mer exakt i företagets test: F1-värdet för nyckelorden steg från 71,9 till 96,8.
Tabellen visar den ordfelfrekvens som Salesforce uppger i fyra tester. Företaget valde själv både testerna och de modeller som jämförs.
| Test (ordfelfrekvens, %) | SOV-Transcribe-1 | Nemotron 3.5 Transcribe | Voxtral Small |
|---|---|---|---|
| AA-WER-index | 2,28 | 2,81 | 2,77 |
| HALAS (inspelningar som lätt ger hallucinationer) | 25,69 | 31,59 | 27,35 |
| Open ASR, flerspråkigt genomsnitt | 4,88 | 3,87 | 3,39 |
| ContextASR-Bench utan bakgrundsinformation | 7,03 | 3,34 | – |
Källa: Salesforces publicering. Raderna för Open ASR och ContextASR enligt AREX:s artikel. Lägre värde är bättre.
Enligt AREX presterar modellen i Open ASR-testet sämre än båda konkurrenterna på alla sex språk utöver engelska. Finska finns inte bland de språk som stöds enligt modellkortet. De som stöds är engelska, franska, tyska, spanska, italienska, portugisiska och nederländska. Den längsta testade inspelningen var 30 minuter lång.
Vikterna kan laddas ned från Hugging Face under licensen Apache 2.0. Enligt modellkortet transkriberar en enda GPU av typen RTX PRO 6000 Blackwell Server Edition med hjälpmodellen (SOV-Transcribe-1-DFlash) som mest 1 039 sekunder ljud per sekund. Siffran mättes med en utvecklingsversion av programvaran vLLM från november 2026, och i den är stödet för modellen inbyggt. Den officiella versionen av vLLM saknar ännu detta stöd, eftersom det hittills bara har skickats till vLLM:s utvecklare. I dag körs modellen med hjälp av ett tillägg. Med hjälpmodellen måste gränsen för samtidiga förfrågningar sänkas till 64. vLLM:s standardgräns på 1 024 förbrukar nämligen hela minnet, och modellen ryms då inte i 96 gigabyte grafikminne. Salesforce uppger att företaget ska publicera en teknisk rapport senare.
Läs mer: Modeller