Alibabas vd: Nästa Qwen-modell tränas på bolagets egna T-Head-chip
Alibabas vd Eddie Wu säger att bolaget redan tränar nästa generation av sin Qwen-modell på chip från den egna chipenheten T-Head. Wu väntar sig att merparten av bolagets nya AI-chip efter 2027 kommer från T-Head.
Wu berättade om saken under bolagets telefonkonferens om kvartalsrapporten torsdagen den 19 november. Bland andra Nikkei Asia och nyhetsbyrån AFP har rapporterat om det. T-Head är Alibabas egen enhet som konstruerar chip. Alla rapporter bygger på Wus uttalanden. Alibaba uppgav inte modellens namn, när den ska bli klar eller släppas eller vilket chip som används i träningen.
Kärnan i nyheten är skillnaden mellan träning och inferens. Vid träning byggs modellen upp utifrån en stor mängd data, vilket kräver mest beräkningskraft. Vid inferens svarar den färdiga modellen på användarnas förfrågningar.
Tencents ledning drar gränsen just här. Strategichefen James Mitchell sa att bolaget inte ser att restriktionerna påverkar dess molntjänst, eftersom tjänsten i dag främst använder beräkningskraft till inferens, skriver Fortune. Presidenten Martin Lau medgav å sin sida att träningen av nästa Hunyuan-modell nu tar längre tid. Även Alibaba medgav att restriktionerna kan bromsa utvecklingen av nya modeller.
Enligt Fortune sa Wu att de nuvarande T-Head-chippen redan fullt ut räcker även för att träna mycket stora modeller. Han sa dock att det var ”för tidigt” att bedöma hur restriktionerna påverkar utvecklingen av Qwen. Träningen pågår fortfarande. Tidningen The Economy, som stöder sig på uppgifter från Nikkei, skriver att Alibaba planerar att genomföra hela träningen, från förträning till efterträning, på inhemska chip nästa år. Det rör sig om Zhenwu-chip, uppger The Economy, men övriga källor namnger dem inte.
NeoTeo, som hänvisar till uppgifter från AFP, skriver att Wu väntar sig att merparten av Alibabas nya AI-chip efter 2027 är chip från T-Head. Det rör sig om en förväntning. För sin egen inferens planerar bolaget att också köpa chip från andra inhemska tillverkare. TechNode, som hänvisar till den kinesiska nyhetstjänsten CLS, skriver att Alibabas modellplattform Bailian redan erbjuder inferens på kinesiska chip.
Bakgrunden är en tillfällig regel som USA:s handelsdepartement publicerade i måndags. Enligt den får avancerade chip nu bara säljas med exportlicens till datacenter i Malaysia, Singapore, Thailand, Indonesien och Brasilien. Dessutom behöver stora datacenter licens om de erbjuder kinesiska kunder mycket beräkningskraft. Wu bedömde att tillväxten i molnintäkterna kan avta till 30–45 procent och åter nå minst 50 procent till 2028. Under tredje kvartalet växte Alibabas intäkter från AI och moln med 53 procent.
Läs mer: Modeller