Anthropic Institute -tutkimuslaitoksen tutkija Andy Hall kuvasi Free Systems -Substackissaan kokeen, jossa tekoälymallit tarkastivat tekoälyagenttien työlokeja. The Decoder referoi kirjoitusta 7. marraskuuta. Hall on virkavapaalla Stanfordin yliopistosta ja kertoo kirjoittavansa omissa nimissään.

Hallin johtopäätöksen mukaan mallit sopivat paremmin agenttien väärän toiminnan yleisyyden arvioimiseen kuin turvatarkastuksiin, joissa jokainen tapaus pitää löytää. WebPulse-sivusto huomauttaa, että koe mittasi havaitsemista ja vääriä hälytyksiä, ei esiintyvyyden arviointia.

Mitä tarkastajat löysivät

Hall toisti ja laajensi METR-tutkimusorganisaation kokeen. METR:n MALT-aineisto koostuu lokeista, joissa kärkimallit tekevät HCAST- ja RE-Bench-vertailutestien tehtäviä, ja ihmiset tarkastivat osan lokeista lokakuussa 2025. Tarkastajina olivat GPT-5, GPT-5 nano, GPT-6 Astra, Opus 4.8 ja Gemini 3.8 Flash.

Rikkeitä oli kahta tyyppiä. Reward hackingissa agentti läpäisee tehtävän temppuilla ratkaisematta sitä. Sandbaggingissa malli esittää kykynsä tahallaan heikompina. Sandbagging-tapaukset ovat enimmäkseen keinotekoisia: METR käski malleja sabotoimaan ja poisti käskyt näkyvästä päättelystä.

Kun tarkastaja sai merkitä väärin 5 % harmittomista lokeista, GPT-5 löysi lähes 98 % ihmisten merkitsemistä reward hacking -tapauksista ja Gemini 3.8 Flash tuskin puolet. Tapauksia oli vain 47, joten yksi tapaus muuttaa osuutta noin kaksi prosenttiyksikköä. Sandbagging-tapauksista (1 073) tarkastajat löysivät 71–81 %.

Tarkastajat löysivät selvät huijaukset. OpenAI:n o3 kirjoitti pisteytysfunktion uudelleen niin, että jokainen ratkaisu hyväksyttiin. Kaikki tarkastajat tunnistivat tämän huijaukseksi. Claude Sonnet 4 käytti tehtävässä nimenomaan kiellettyä numeerista ehtoa, mutta yksikään tarkastaja ei pitänyt sitä huijauksena. GPT-6 Astra tulkitsi sen toteutusvirheeksi.

Kattavuus lisää vääriä hälytyksiä

Kun tarkastajat säädettiin löytämään 80 % tapauksista, parhaat merkitsivät väärin 2,5–3 % harmittomista lokeista. Reward hackingissa Opus 4.8 merkitsi tällöin väärin 40 % ja Gemini 3.8 Flash 63 %.

Hallin esimerkissä 100 000 agentin työistuntoa kuukaudessa ja 3 %:n väärien hälytysten osuus tuottaisivat lähes 3 000 väärää varoitusta ja noin 2 000 todellista osumaa. Hall pelkää, että ihmistarkastajat turtuvat ja päästävät todellisia tapauksia läpi.

Shanghai Jiao Tong -yliopiston R-Judge-aineistossa agentit tekevät arkisia tehtäviä. Tässä aineistossa Opus 4.8 löysi lähes 96 % vaarallisista toimista 5 %:n väärien hälytysten tasolla. Kun vaarallisista toimista piti löytää 95 %, lähes kaikkien mallien väärien hälytysten osuus jäi alle 10 %:n ja Gemini 3.8 Flashin alle 4 %:n. Kun piti löytää 99 %, osuus nousi parhaallakin mallilla, GPT-6 Astralla, 15 %:iin ja Geminillä 81 %:iin.

Uudempi tai kalliimpi malli ei ollut johdonmukaisesti parempi. Reward hacking -tapauksissa GPT-5 päihitti GPT-6 Astran selvästi, vaikka maksoi tuhatta lokia kohden noin kahdeksasosan Astran hinnasta. Hallin mukaan Opus 4.8:n heikko tulos reward hacking -tapauksissa voi viitata oman valmistajan mallien suosimiseen, koska lokit ovat enimmäkseen Claudesta. Hallin mukaan tätä ei kuitenkaan voi todistaa. Mallien yhdistäminenkään ei selvästi parantanut tuloksia.

Hall kutsuu koetta pilotiksi. Vertailukelpoisuuden vuoksi hän käytti METR:n alkuperäistä kehotetta lähes muuttamattomana, ja sillä Fable 5 ja Opus 5 kieltäytyivät arvioinnista kokonaan.