METR: Anthropics modeller förbättras ungefär dubbelt så snabbt på väldefinierade uppgifter
METR bedömer att Anthropic förbättrar sina modeller på väldefinierade uppgifter ungefär dubbelt så snabbt som 2024–2025, främst med hjälp av AI. Anthropic tog bort större delen av de viktigaste beläggen ur rapportens offentliga version.
Den amerikanska ideella organisationen METR forskar om AI-risker. Den 5 november publicerade METR en bedömning av hur mycket AI påskyndar Anthropics egen AI-utveckling. METR:s medarbetare gick igenom företagets interna uppgifter från augusti till slutet av oktober.
Enligt METR förbättrar Anthropic nu modellernas förmågor på väldefinierade uppgifter ungefär dubbelt så snabbt som mellan mars 2024 och oktober 2025. Företaget gör med andra ord lika stora framsteg på ett år som tidigare på två. Bedömningen är mycket osäker: METR skulle inte bli förvånad om faktorn låg närmare 1,3 eller 3. I en nyhet från Reuters som ARY News publicerade citerades METR med siffrorna 1,5 och 2,5.
Benchmarkresultaten förbättras snabbare
Det centrala måttet är AECI, Anthropics egen version av Epoch Capabilities Index. Indexet sammanför en modells resultat på benchmarkar till ett enda förmågetal. Sedan oktober 2025 har AECI ökat 1,9 gånger snabbare än tidigare (95 procents konfidensintervall 1,5–2,8). Beräkningen omfattar även opublicerade interna modeller.
Med olika antaganden om testuppgifternas svårighetsgrad låg faktorn mellan 1,1 och 2,9. När även andra företags modeller togs med blev faktorn 1,4. Accelerationen kan delvis bero på att modellerna har anpassats till testerna, uppger METR. Den senaste interna modellen når redan över 50 procent i alla tester som den har körts på, vilket försvårar mätningen.
METR är säker på att accelerationen inte beror på att beräkningskraften för träning har ökat snabbare.
AI assisterar forskarna men arbetar ännu inte självständigt
Enligt en mycket osäker bedömning från METR beror ungefär 80 procent av den nuvarande accelerationen på AI. I slutet av 2025 påverkades accelerationen sannolikt även av andra faktorer. AI påskyndar arbetet främst genom att assistera forskarna. Något betydande självständigt arbete utför den ännu inte i de viktigaste faserna av modellträningen, men de första tecknen på det har synts, säger forskarna.
Anthropics medarbetare uppskattade i enkäter på Slack att oktobers mest kapabla interna modell i genomsnitt gör deras arbete ungefär 12 gånger snabbare. METR ser detta som mycket svaga belägg. Dessutom motsvarar en enskild medarbetares ökade tempo inte accelerationen i utvecklingen som helhet.
METR fann inga betydande flaskhalsar för de kommande 12 månaderna, så utvecklingen kan accelerera ytterligare. Organisationens syn på flaskhalsarna ändrades dock flera gånger under bedömningen.
Anthropic tog bort större delen av beläggen
Anthropic hade rätt att ta bort all opublicerad information ur rapporten. Företaget tog bort större delen av de belägg som METR ansåg viktigast för sina slutsatser, uppger METR. Allmänheten måste därför lita på METR:s omdöme. Anthropic motiverade borttagningarna med att konfidentiell information skulle skyddas, eftersom den skulle kunna påskynda andra AI-utvecklares arbete.
I en separat bedömning anser METR att det är möjligt att den tidiga varningsgränsen i Anthropics skalningspolicy (Responsible Scaling Policy) redan hade passerats senast den 15 juli. Gränsen passeras om utvecklingen går dubbelt så snabbt på grund av AI. De flesta forskare vid METR och Anthropic som har studerat frågan bedömer ändå att gränsen inte passerades. Enligt METR tonade företagets offentliga riskrapport ned accelerationen. Rapporten angav att accelerationen låg under en fördubbling, men utifrån siffrorna i den interna versionen räknade METR fram en faktor på 1,97.
Liksom Anthropic bedömer METR dock att julimodellernas direkta katastrofrisk är liten. Risken kan enligt METR växa snabbt om utvecklingen accelererar tydligt ytterligare under det kommande halvåret.