Wenhui Chu vid State University of New York i Albany publicerade på arXiv den 4 november en förhandspublicering om kontextkomprimering. Vid kontextkomprimering ersätter agenten sin samlade historik med en sammanfattning som den skriver själv. Nästa instans, efterträdaren, fortsätter arbetet utifrån den. Claude Code och Codex komprimerar kontexten automatiskt.

Liggare och omkörning

De syntetiska uppgifterna gällde registerunderhåll, rapportering och kodning. En extern tillståndsliggare angav vilka åtgärder som krävde godkännande. Agenterna körde på tre modeller med öppna vikter och 8–21 miljarder parametrar: Qwen3-8B, Qwen3-14B och gpt-oss-20b. Frontiermodeller och kommersiella agentprodukter kan fungera annorlunda, uppger Chu.

Chu testade effekten av en misstänkt mening genom att återställa miljön till komprimeringsögonblicket. Efterträdaren kördes fyra gånger med den ursprungliga sammanfattningen och fyra gånger med en version där meningen hade ersatts med neutral utfyllnad.

Sammanfattningar som en regelbaserad detektor flaggade lästes av två AI-läsare, båda kopior av Claude Opus 5.5. I en liten kontroll stämde människors bedömningar bara i begränsad grad överens med AI-läsarnas.

Ogrundade tillstånd och begränsningar

Med uppgiftsmallar som inte användes under utvecklingen fanns en ogrundad begränsning i 1,2 procent av sammanfattningarna från Qwen3-8B och i 2,4 procent av dem från gpt-oss-20b. Ett ogrundat tillstånd fanns i 0,1 respektive 1,3 procent. Om AI-läsarnas bedömningar stämmer är andelarna nedre gränser, eftersom bara flaggade sammanfattningar lästes.

I de tydligaste fallen hade ett godkännande getts och dragits tillbaka, men sammanfattningen utelämnade återkallelsen. I en efterhandsanalys neutraliserades meningar som påstod ett ogrundat tillstånd. I två uppföljande försök minskade då de otillåtna åtgärderna från 24 till 7 av 120 körningar. Hela minskningen kom från körningarna med gpt-oss-20b. I en senare omgång med 48 körningar sjönk antalet från 17 till 11, vilket inte var statistiskt signifikant.

I en explorativ analys av utvecklingsmaterialet bad agenten om bekräftelse i 98 procent av körningarna, men i 59 procent efter att begränsningarna hade neutraliserats. På de nya mallarna upprepade ett i förväg specificerat test inte resultatet (p = 0,58). Ett uppföljande test som planerades efter nollresultatet fann en bräcklig effekt, som Chu inte räknar som en replikering.

Enligt en efterhandsgranskning tycktes de flesta begränsningarna på de nya mallarna föregås av en avslagen begäran som gällde fel mål. Då hjälpte det knappt att ta bort meningen, men att ange rätt tillstånd och tillåtet mål tog bort de flesta begärandena. Det var en jämförelse där korrekt information skrevs in i sammanfattningen, inte en åtgärd som passar för praktisk användning. I en del av försöken ökade ändringen regelbrotten.

En mening i prompten

I utvecklingsmaterialet föregicks de flesta påhittade begränsningarna av att agenten antog att en vanlig åtgärd krävde godkännande, visar en efterhandsspårning. Chu ersatte meningen ”Vissa åtgärder kräver godkännande.” i systemprompten med en mening om att bara åtgärder som nämns i reglerna eller i användarens begäran kräver godkännande. I de i förväg specificerade testerna sjönk andelen ogrundade begränsningar från 5,0 till 1,8 procent i utvecklingsmaterialet och från 1,8 till 0,3 procent på de nya mallarna. Agenten bad nästan lika ofta som tidigare om de godkännanden som liggaren krävde.

Chu varnar för att den nya meningen kan hindra nödvändiga begäranden när kraven inte står i liggaren, något som inte testades. Resultatet visar inte heller att den gamla meningen orsakade begränsningarna.

Kod, data och harness – det program som styr agenten, ger modellen verktyg och kör dess arbetssteg – finns på GitHub. Harnessen är paketerad som ett test för modeller som erbjuds via ett OpenAI-kompatibelt API med stöd för verktygsanrop. Det användningssättet har hittills bara prövats mot skriptade servrar.