Perplexity har släppt två nya beslutsmodeller, uppgav företaget i ett blogginlägg den 12 november. Decider v1.3 bygger på Qwen3.8-27B. Den mindre Decider Flash v1.3 har tränats med Qwen3.5-4B som grund för att efterlikna den större modellens svar.

Modellen skriver inget svar utan ger sannolikheter. Den får en text eller en bild samt frågor med svarsalternativ. En fråga kan vara ett ja/nej-val, flerval eller en ordnad skala. Perplexity använder själv modellen bland annat för att sålla webbsidor efter kvalitet och för att granska agenters säkerhetsloggar.

Så fungerar Decider

Perplexity gör en stor språkmodell till en klassificerare. Förutsägelsen av nästa token ersätts av ett beslutshuvud som läser av svaret vid en särskild markörtoken. En del av modellens lager läser indata i båda riktningarna. I version 1.3 isolerades frågorna från varandra så att svaret skulle bero mindre på vad som frågas samtidigt.

Enligt modellkortet på Hugging Face kör modellens programbibliotek ändå varje fråga separat som standard. Då påverkar de andra frågorna inte svaret. Den gemensamma körning som användes i träningen är billigare när många frågor delar samma långa indata. Men i den avviker 1,5–2,2 procent av toppsvaren från standardläget, står det i kortet.

Den nya funktionen Locate plockar ut efterfrågade avsnitt, till exempel personnamn eller personuppgifter, ordagrant och med teckenpositioner. Perplexity håller funktionen som ett separat tillägg, eftersom de vanliga klassificeringssvaren blev sämre när den slogs ihop med modellen. Locate fungerar bara med text. Om en begäran innehåller både extraktions- och klassificeringsfrågor behöver modellen en egen beräkningsomgång för vardera, vilket ökar fördröjningen.

Företagets egna resultat

Siffrorna är Perplexitys egna mätningar. Unite.AI:s nyhet bygger på företagets blogg och bekräftar dem inte oberoende.

Perplexity testade omrankning av sökresultat med 72 uppgifter. Måttet var nDCG@10, som anger hur väl de mest relevanta resultaten hamnar bland de tio första. Decider v1.3 fick i genomsnitt 83,99 poäng. Det är 1,81 poäng mer än Qwen3-Reranker-8B och 2,24 mer än TypeSafe AI:s Jev 1.14, som Perplexity nämner som förebild för Decider.

Vid klassificering av sökfrågor i 63 uppgifter var den genomsnittliga träffsäkerheten 91,6 procent. Resultatet är 6,54 procentenheter bättre än med Perplexitys nuvarande klassificerare, men de rätta svaren hade märkts av en stor språkmodell. I ett urval av en miljon verkliga API-anrop höll v1.3 med språkmodellsbedömarna i 93,98 procent av frågorna, v1.2 i 93,68 procent och Jev 1.14 i 93,35 procent. Siffran mäter samstämmighet med en annan modell, inte träffar mot ett verifierat rätt svar.

Enligt Unite.AI uppgav Perplexity kostnaden för samma urval till 26,47 dollar för v1.3 och 13,24 dollar för Flash. Decider kördes på egen hårdvara. Det framgår inte hur hårdvarukostnaderna beräknades, och fördröjningen mättes inte sida vid sida.

Tillgänglighet och krav

Modellerna kan laddas ned från Hugging Face under Apache-licens och kan också användas via OpenRouter och företagets Decisions API, uppger Perplexity. I modellkortet, som skapades den 10 november före lanseringen, anges dock kodförrådet som privat. Nedladdning kräver inloggningsuppgifter med åtkomst till det.

Den stora modellen behöver en CUDA-kompatibel GPU med plats för omkring 49 GiB BF16-modellvikter och arbetsminne. Enligt modellkortet kräver v1.3 ett eget anropsformat: promptformatet från tidigare versioner ska inte återanvändas, eftersom svaren ändras. Perplexity rekommenderar att beslutsgränserna justeras med en liten egen märkt datamängd, eftersom lämplig gräns varierar med användningsområdet.