Anthropics EVE-test: Claude-team avslöjade nästan aldrig medlemmen som beordrats sabotera
I Anthropics experiment samarbetade team med fyra Claude-agenter smidigt i spelet EVE Frontier. De förvarnade lagkamraterna identifierade dock sällan medlemmen som beordrats att i hemlighet sabotera. I en simulering av handeln i EVE Online gick de nyare modellerna med vinst.
Anthropics forskargrupp Frontier Red Team publicerade den 6 november studien Project EVE, där Claude-modeller spelade två rymdspel i EVE-serien. Arbetet gjordes inom programmet Anthropic Fellows under april–juli 2026 tillsammans med Fenris Creations.
Agentteam och en hemlig sabotör
I EVE Frontier, som fortfarande är under utveckling, utförde team med fyra Opus 4.8- eller Fable 5-agenter långa uppdrag i den riktiga spelvärlden under juni–juli 2026.
Striderna krävde snabbare reaktioner än modellerna klarar. Därför skrev en utvecklaragent en harness – ett program mellan modellen och spelet – som skötte undanmanövrer och besvarade elden. Fable 5-team som använde en harness skriven av Fable 5 förlorade inte ett enda skepp och klarade spelets introduktionsuppdrag inom 12 timmar.
I prompten instruerade forskarna en agent att i hemlighet hindra teamet från att lyckas. De övriga varnades för att någon i teamet inte nödvändigtvis delar samma mål. Sabotörerna tog hand om flaskhalsar i leveranskedjan, som sökandet efter knappa resurser. Där kunde de andra inte lätt kontrollera vad sabotörerna uppgav. En sabotör föreslog att spaningsinformation som var äldre än två minuter skulle ignoreras, vilket gjorde nästan all information värdelös.
Lagkamraterna avslöjade nästan aldrig sabotören. Bara en ärlig agent i en körning med Opus 4.8 identifierade sabotören med säkerhet, och först efter att sabotören hade ljugit direkt om sin kommunikation. Anthropic betonar att experimentet beskriver sabotage på order och inte visar om modellerna skulle ta till det på eget initiativ.
Separata övervakningsagenter som bara läste teamets offentliga meddelandekanal klarade sig något bättre. När de ställdes in så att de anklagade en ärlig agent i högst fem procent av fallen, identifierade övervakare med Opus 4.6, 4.7 och 4.8 mellan 30 och 40 procent av sabotörerna. Den mindre Sonnet 4.6 identifierade 20 procent. Ingen av dessa övervakare var mer än 50 procent säker på en sabotör. När en övervakare såg sabotörens privata resonemang och anteckningar upptäckte den sabotaget lätt.
Agentteam behöver sannolikt liknande mekanismer som mänskliga organisationer: granskningsspår, rykte och åtskillnad av arbetsuppgifter, uppger Anthropic.
Handel på en återspelad marknad
I EVE Online handlade Claude på egen hand med målet att göra så stor vinst som möjligt. Anthropic handlade inte i det riktiga spelet, där automatiserad handel är förbjuden. Företaget byggde en simulator som återspelar spelarnas verkliga köp- och säljordrar. Simulatorn reagerar inte på agenternas affärer. När forskarna lade till konstgjorda ordrar som underbjöd agenternas priser, minskade vinsterna med omkring 35 procent.
Opus 4.7, Opus 4.8 och Fable 5 gick med vinst i alla nio tvåveckorsperioderna och ökade sitt kapital med i genomsnitt omkring 16, 22 respektive 43 procent. Opus 4.6:s avkastning på omkring fyra procent låg i nivå med den bästa regelbaserade strategins. Av fler än 20 testade regelbaserade strategier gick bara en konsekvent jämnt ut, och då med knapp marginal. I halvårslånga körningar var Fable 5:s genomsnittliga avkastning tre gånger så hög som Opus 4.6:s: omkring 600 respektive omkring 200 procent av startkapitalet.
Nästan alla modeller kom själva på samma metod: de köpte varor under normalpriset och sålde dem något dyrare. Anthropic räknar inte med att detta skulle fungera på en riktig börs, som är effektivare än spelets marknad. Modellerna fick också i uppdrag att förutsäga prisernas riktning utifrån nyheter och speluppdateringar. Då gick även Fable 5 med vinst i bara ungefär hälften av körningarna.
Läs mer: Hur en agent fungerar · Agentkarta