Reuters kertoi torstaina 12. marraskuuta IT-konsulttiyhtiö Capgeminin kyselystä, joka koski suuryritysten tekoälykuluja. Siihen vastasi 500 johtajaa kymmenessä maassa. Heidän yritystensä vuotuinen liikevaihto on yli miljardi dollaria. Capgemini auttaa itse yrityksiä ottamaan tekoälyä käyttöön järjestelmissään.

Vastaajista 59 % sanoi tekoälyyn kuluneen viimeisten 12 kuukauden aikana selvästi yli odotusten tai budjetin, keskimäärin 24 % enemmän. Tekoälykuluista on huolissaan 53 % johtajista, kun vuotta aiemmin osuus oli 45 %.

Lähi-idän ja Pohjois-Afrikan startup-uutisiin keskittyvä Jawlah kertoo Capgeminin tutkimuksesta lisää lukuja. Sen mukaan 21 % organisaatioista ylitti budjettinsa yli 30 prosentilla. Vain 56 % on täysin varma pystyvänsä ennustamaan, miten kulut muuttuvat käytön kasvaessa.

Avointen painojen mallin painot voi ladata ja ajaa omilla tai itse valituilla palvelimilla. Esimerkkejä ovat DeepSeekin ja Mistralin mallit. Suljettuja malleja käytetään kehittäjän pilvipalvelun kautta, esimerkiksi Claudea, ChatGPT:tä ja Geminiä.

Halvempi token ei ole koko hinta

Capgeminin mukaan avointen painojen mallien tokenit ovat keskimäärin 87 % halvempia kuin suljettujen mallien. Token on tekstin pätkä, jonka määrän mukaan mallin käyttö yleensä hinnoitellaan.

Capgemini nostaa esiin useiden kehittäjien malleja välittävän OpenRouter-palvelun. Syyskuussa avointen painojen mallit hoitivat 72 % sen liikenteestä mutta veivät vain 27 % käyttöön kuluneesta rahasta. Jawlah huomauttaa, että luvut koskevat OpenRouteria eivätkä välttämättä päde kaikkiin yrityksiin tai koko markkinoihin.

Jawlah muistuttaa myös, ettei avointen painojen mallin ajaminen ole ilmaista. Yritys tarvitsee laskentakapasiteettia ja henkilöstöä, joka ylläpitää, suojaa ja valvoo malleja. Jawlahin mukaan Capgeminin tutkimuksessa noin puolet johtajista sanoi, että tekoälykuluja hyväksytään joskus ilman riittävää kuvaa kokonaiskustannuksista. Vain noin kolmannes osaa arvioida luotettavasti epäsuorat kulut, kuten tulosten tarkastamisen ja virheiden korjaamisen.

Suljetut mallit jäävät vaativiin tehtäviin

Puolet vastaajista aikoo käyttää suljettuja malleja, kun tehtävän vaativuus oikeuttaa korkeamman hinnan. Jawlahin mukaan yli kolme viidesosaa johtajista odottaa organisaationsa siirtyvän seuraavan 12 kuukauden aikana monimallistrategiaan. Siinä rutiinitehtävät ohjataan halvemmille ja vaativat tehtävät kehittyneemmille malleille.

Reuters liittää kyselyn samaan suuntaan viittaaviin uutisiin. SAP:n talousjohtaja kertoi lokakuussa yhtiön korvaavan osan kalleimmista tekoälymalleistaan halvemmilla, kun suorituskyky säilyy. Anthropic aloitti tällä viikolla listautumisantinsa sijoittajakierroksen. Reutersin mukaan se varoittaa listautumisesitteessään asiakkaiden voivan siirtyä halvempiin vaihtoehtoihin, myös avointen painojen malleihin.