CNBC: Kinesiska Moonshot sökte Nvidias Blackwell-kapacitet i europeiska datacenter
Moonshot AI, som utvecklar Kimi-modellerna, har förhandlat om att hyra Nvidias Blackwell-kapacitet av molnbolag som driver datacenter i Europa, enligt anonyma källor till CNBC. Med nuvarande lag faller fjärråtkomst till största delen utanför USA:s exportkontroller.
Ett kinesiskt AI-labb har försökt få tillgång till Nvidias senaste chip i Europa. Det rapporterade den amerikanska ekonomikanalen CNBC torsdagen den 5 november. Uppgifterna bygger på fyra anonyma källor. Investing.com, Tom’s Hardware och andra medier har återgett CNBC:s uppgifter utan att själva bekräfta dem.
Det har i år förts samtal med Pekingbaserade Moonshot AI, som grundades 2023, om att hyra kapacitet av molnbolag som driver datacenter i Europa, säger källorna. Tre av dem uppger att Moonshot ville hyra kapacitet som drivs av Blackwell-system. USA:s exportkontroller förhindrar i praktiken import av dessa chip till Kina. CNBC uppger inte om några avtal har slutits.
Fjärråtkomst faller till största delen utanför exportkontrollerna
I ett sådant upplägg hyr det kinesiska bolaget beräkningskapacitet av ett företag som lagligt får köpa chippen: ett icke-kinesiskt datacenterbolag eller en neocloud, alltså ett molnbolag som hyr ut GPU-kapacitet. Enligt CNBC ger nuvarande lag inte myndigheterna några breda befogenheter att ingripa mot användningen av molntjänster i utlandet.
Två källor uppger att Moonshot var intresserat av inferens, alltså att köra modeller åt användare. En källa berättade också om ett intresse för kluster avsedda för träning av modeller. Enligt en källa gällde förhandlingarna kluster på minst 8 000 Blackwell-GPU:er. Källan beskrev Moonshot som en ”mycket aggressiv” köpare av beräkningskraft. Tom’s Hardware skriver att klustren på 8 000 GPU:er skulle vara avsedda för inferens, men CNBC kopplar inte ihop de uppgifterna i sin artikel.
Vita huset hävdade i juli att Moonshot via fjärranslutning hade använt Blackwell-chip i en anläggning i Thailand. Moonshot kommenterade inte påståendet då. Förhandlingar i Europa har förts även efter påståendet, uppger en av CNBC:s källor.
När en kund hyr beräkningskapacitet betalar den vanligtvis en del av avtalets värde i förskott. Enligt en källa föreslogs det att Moonshot skulle betala 30–50 procent mer i förskott än en icke-kinesisk kund. På så sätt skyddar sig molnbolagen och finansiärerna mot ett eventuellt förbud mot fjärråtkomst, skriver CNBC.
Moonshot släppte modellen Kimi K3 i juli. Enligt företaget belastade efterfrågan kapaciteten så hårt att det tillfälligt stoppade nya beställningar.
Lagförslag och Nvidias instruktion
USA:s representanthus antog i januari lagförslaget Remote Access Security Act (RASA), som skulle utvidga exportkontrollen till användning via molntjänster. Röstsiffrorna var 369–22, uppger The Boston Report. Förslaget ligger hos senatens bankutskott och har inte blivit lag.
Financial Times rapporterade i tisdags att Nvidia har krävt att molnbolagen säljer minst 51 procent av sina tjänster till icke-kinesiska kunder, skriver CNBC. Med hänvisning till Data Center Dynamics uppger The Boston Report att instruktionen gavs muntligt och gäller framtida avtal. När Nvidia tillfrågades om rapporterna tidigare i veckan sade en talesperson: ”Amerika kan inte vinna AI-kapplöpningen om inte Amerikas AI-infrastruktur vinner över hela världen – om världens molntjänster förlitar sig på utländskt tillverkade chip kommer även modell- och applikationslagren att byggas utomlands.”
Nvidia uppgav i augusti att Washington har beviljat licenser för försäljning av det äldre H200-chippet, men att den kinesiska regeringen har begränsat affärerna. Moonshot, Nvidia, Vita huset och USA:s handelsdepartement svarade inte på CNBC:s förfrågan om kommentar.