Finansbolaget Ramp redovisade den 11 november hur kundföretagens betalningar för AI utvecklades i oktober. The Decoder och The Neuron har rapporterat om saken. Ramp AI Index följer betalningarna hos över 85 000 amerikanska kundföretag, och siffrorna analyseras av Ramps chefsekonom Ara Kharazian. Enligt The Decoder ökade kostnaderna med 1,65 procent från september.

Kostnaderna koncentreras till ett fåtal

Bland företag som betalar för AI var mediankostnaden i oktober 16,32 dollar per anställd och månad, 93 cent mer än i september, uppger Ramp på sin webbplats. För den procent som använder mest var medianen 10 199,20 dollar, ungefär nio procent mer än i september.

Kharazian säger att en procent av företagen står för 80 procent av OpenAI:s och Anthropics intäkter. The Neuron förtydligar att siffran gäller de intäkter som syns i Ramps data. Toppgruppen består enligt The Decoder främst av riskkapitalfinansierade företag inom teknik, finans och tekniska tjänster.

I oktober betalade 56,8 procent av Ramps kundföretag för någon AI-tjänst, en procentenhet mer än i september. Till Anthropic betalade 44,8 procent och till OpenAI 40,6 procent; samma företag kan betala till båda. Enligt The Decoder ökade beloppen till OpenAI med 2,1 procent på en månad och beloppen till Anthropic med 0,5 procent.

Bedömningarna av urvalets snedvridning går isär. The Decoder skriver att siffrorna troligen överskattar användningsgraden, eftersom Ramps kunder är större, mer teknikvänliga och mer tillväxtinriktade än genomsnittet. Ramp bedömer själv att siffrorna sannolikt är för låga, eftersom gratisverktyg och arbete på privata konton inte syns i betalningarna.

Priset per token sjunker

Språkmodeller bearbetar text som token, det vill säga orddelar, och företag som använder modellerna via API betalar oftast efter antalet token. Enligt The Decoder sjönk genomsnittspriset per miljon texttoken med 21 procent under föregående månad. Ramps webbplats anger att OpenAI:s och Anthropics sammanvägda pris sjönk från 0,62 dollar veckan som slutade den 4 oktober till 0,53 dollar veckan som slutade den 1 november, alltså med 14,8 procent. Källorna förklarar inte skillnaden mellan siffrorna.

Under samma period ökade antalet bearbetade token med 29 procent och pengarna som lades på dem med 10,5 procent. Siffrorna om token kommer bara från användare av Ramps tjänst Token Spend Management. De representerar inte AI-kostnaderna för alla bolagets kunder, även om riktningen är liknande, uppger Ramp. The Decoder bedömer att priserna pressas av konkurrensen mellan OpenAI och Anthropic samt av kinesiska modeller med öppna vikter.

Kundtjänst ökar sin andel

Av de AI-kostnader som klassificerats per avdelning stod mjukvaruutvecklingsteamen för 72 procent i oktober, men teamens kostnader har minskat sedan toppen i somras. Andelen för kundtjänst och kundrelationer steg från 0,8 procent i juni till 13,3 procent. Kharazian tror att chattbotar i kundtjänsten ligger bakom. Enligt The Neuron visar betalningsdata dock inte vilka tillämpningar som driver ökningen.

The Decoder skriver att sådana användare föredrar billigare och snabbare modeller, så OpenAI:s och Anthropics marginaler på nya kunder kan bli lägre. De dyraste modellernas andel av kostnaderna ökade ändå något i oktober, till 69,5 procent. Kharazian räknar dit Opus, Fable, Sol och Astra.