Hugging Face ohjaa kielimallien kutsut nyt OpenRouterin reitittimen kautta
Hugging Facen Inference Providers välittää nyt kielimallien kutsut OpenRouterin reitittimelle, joka valitsee tarjoajan hinnan, nopeuden ja luotettavuuden mukaan ja yrittää epäonnistunutta kutsua toisella. Tarjoajien omat API-avaimet eivät enää käy kielimalleille.
Hugging Face kertoi muutoksesta blogissaan maanantaina 16. marraskuuta. Inference Providers on Hugging Facen palvelu, jonka kautta Hubiin julkaistuja malleja voi kutsua Hugging Face -käyttöoikeustunnuksella, vaikka mallia ajaa ulkopuolinen palveluntarjoaja. Tähän asti palvelu käytti omaa reititintään. Hugging Facen mukaan käyttäjän koodiin ei tarvitse tehdä muutoksia.
Epäonnistunut kutsu siirtyy toiselle tarjoajalle
OpenRouterin reititin valitsee jokaiselle kutsulle tarjoajan, jolla on hinnan, nopeuden ja luotettavuuden paras yhdistelmä. Valinta perustuu OpenRouterin jatkuviin mittauksiin yli 80 tarjoajasta.
Aiemmin Inference Providers palautti tarjoajan virheen käyttäjälle. Nyt epäonnistunut kutsu yritetään saman kutsun aikana uudelleen seuraavaksi parhaalla tarjoajalla. Käyttäjä voi yhä pyytää nopeinta, halvinta tai tiettyä tarjoajaa lisäämällä päätteen mallin tunnisteen perään (:fastest, :cheapest tai tarjoajan nimi, esimerkiksi :novita). Saman keskustelun kutsut pysyvät tarjoajalla, jonka välimuistissa keskustelun kehote on.
OpenRouter uudisti hiljattain oman reitityksensä, joka aiemmin katsoi vain halvinta listahintaa. OpenRouterin omien mittausten mukaan uudistus vähensi kapasiteettivirheitä 46 prosenttia, ja aika ensimmäiseen tokeniin parani 16,9 prosenttia ja läpäisykyky 16,3 prosenttia. Luvut eivät siis kuvaa Hugging Facen reitittimen vaihdon vaikutusta.
Reititin tukee kaikissa keskustelumalleissa OpenAI:n Chat Completions- ja Responses-rajapintoja sekä Anthropicin Messages-rajapintaa. Kuvien, videoiden ja äänen generointi toimii kuten ennenkin suoraan Inference Providersin kautta ilman OpenRouteria.
Omat tarjoaja-avaimet eivät enää toimi kielimalleilla
Kielimallien kutsut laskutetaan nyt Hugging Face -tililtä tai organisaatiolta, joten tarjoajan omaa API-avainta ei voi enää käyttää kielimalleilla. Tarjoajan voi edelleen valita mallin tunnisteen päätteellä tai estää asetuksista, jolloin reititin ei lähetä sille kutsuja. Kuva- ja videotarjoajien omat avaimet toimivat yhä.
Hinnat eivät muutu: käyttäjä maksaa tarjoajan hinnan, eikä Hugging Face lisää siihen katetta. PRO-tilaajat saavat 2 dollarin krediitit kuukaudessa, Team- ja Enterprise-organisaatiot 2 dollaria käyttäjäpaikkaa kohden. Mallisivujen uudet välilehdet näyttävät tarjoajien hinnat, nopeuden ja käytettävyyden viimeisen vuorokauden ajalta.
Hugging Face perustelee yhteistyötä OpenRouterin luvuilla: avointen painojen mallien osuus OpenRouterin välittämistä tokeneista nousi lokakuun 2025 26,8 prosentista 71,7 prosenttiin syyskuun 2026 lopussa. Yhtiö myöntää, että parhaat avointen painojen mallit jäävät yhä parhaista suljetuista vaikeimmissa vertailutesteissä. Artificial Analysis Intelligence Index -vertailussa Kimi K3.1 Pro sai 46 pistettä ja Claude Fable 5.2 65 pistettä, mutta Kimin kustannus tehtävää kohden oli noin seitsemäsosa.
Seuraavaksi Hugging Face aikoo mahdollistaa OpenRouter-tilin yhdistämisen Hugging Faceen ja ohjata OpenRouterin kautta muitakin tehtäviä. Hugging Facen Clement Delangue mainitsee X:ssä lisäksi pääsyn mallien painoihin suoraan OpenRouterista sekä OpenRouterin agenttien suorituslokien tallentamisen Hugging Faceen. Hänen julkaisunsa kuvassa OpenRouterin mallisivulla on linkki mallin painoihin, mutta blogi ei kuvaa lokien tallennusta.
Blogissa on käyttöönotto-ohjeet muun muassa Claude Codelle ja Codexille, ja tarkemmat tiedot löytyvät Inference Providers -dokumentaatiosta.
Lue lisää: Mallit