Reuters rapporterade torsdagen den 12 november om en enkät som it-konsultföretaget Capgemini har gjort om storföretagens AI-kostnader. Enkäten besvarades av 500 chefer i tio länder. Deras företag har en årsomsättning på över en miljard dollar. Capgemini hjälper själv företag att införa AI i sina system.

Av de svarande uppgav 59 procent att AI-kostnaderna under de senaste 12 månaderna hade legat klart över förväntningarna eller budgeten, med i genomsnitt 24 procent. Av cheferna är 53 procent oroade över AI-kostnaderna, jämfört med 45 procent ett år tidigare.

Jawlah bevakar startupnyheter från Mellanöstern och Nordafrika och redovisar fler siffror från Capgeminis studie. Enligt Jawlah överskred 21 procent av organisationerna sin budget med mer än 30 procent. Bara 56 procent är helt säkra på att de kan förutse hur kostnaderna förändras när användningen ökar.

Modellvikterna för en modell med öppna vikter kan laddas ned och köras på egna eller självvalda servrar. Exempel är modeller från DeepSeek och Mistral. Slutna modeller, till exempel Claude, ChatGPT och Gemini, används via utvecklarens molntjänst.

Billigare token är inte hela priset

Enligt Capgemini är token för modeller med öppna vikter i genomsnitt 87 procent billigare än för slutna modeller. Ett token är en textbit. Användningen av en modell prissätts vanligen efter antalet token.

Capgemini lyfter fram OpenRouter, en tjänst som förmedlar modeller från flera utvecklare. I september stod modeller med öppna vikter för 72 procent av trafiken där men bara för 27 procent av pengarna som gick åt till användningen. Jawlah påpekar att siffrorna gäller OpenRouter och inte nödvändigtvis stämmer för alla företag eller hela marknaden.

Jawlah påminner också om att det inte är gratis att köra en modell med öppna vikter. Ett företag behöver beräkningskapacitet och personal som underhåller, skyddar och övervakar modellerna. I Capgeminis studie uppgav ungefär hälften av cheferna att AI-kostnader ibland godkänns utan en tillräcklig bild av totalkostnaderna, skriver Jawlah. Bara omkring en tredjedel kan tillförlitligt bedöma indirekta kostnader, som granskning av resultat och rättning av fel.

Slutna modeller behålls för krävande uppgifter

Hälften av de svarande planerar att använda slutna modeller när uppgiftens komplexitet motiverar ett högre pris. Enligt Jawlah räknar mer än tre femtedelar av cheferna med att deras organisation går över till en flermodellsstrategi under de kommande 12 månaderna. Där styrs rutinuppgifter till billigare modeller och krävande uppgifter till mer avancerade.

Reuters kopplar enkäten till nyheter som pekar åt samma håll. SAP:s finanschef sade i oktober att företaget ersätter en del av sina dyraste AI-modeller med billigare när prestandan bibehålls. Anthropic inledde den här veckan investerarturnén inför sin börsintroduktion. I sitt prospekt varnar bolaget enligt Reuters för att kunder kan gå över till billigare alternativ, även modeller med öppna vikter.