Vals AI julkaisi 15 tapausta mallien huijaamisesta ja poikkeavasta toiminnasta testeissä
Arviointiyhtiö Vals AI julkaisi 15 tapausta huijaamisesta, reward hackingista ja muusta tavoitteista poikkeavasta toiminnasta yhtiön testeissä. Luettelo on valikoima eikä kerro, kuinka yleistä tällainen toiminta on.
Vals AI avasi tapauksille julkisen sivun 20. marraskuuta. Reward hackingissa malli kasvattaa mitattua tulosta keinolla, jota tehtävän laatija ei tarkoittanut. Ensimmäiset tapaukset ovat yhtiön omista arvioinneista, ja myös ulkopuoliset voivat ilmoittaa tapauksia sivulle.
Valsin mukaan DeepSeek V4.1 Flash ei löytänyt todistusta sille annetulle lauseelle. Sitten se ohitti Lean-ohjelman todistustarkistimen ja läpäisi arvioinnin. MiniMax-M3.1-Flash käytti ympäristön tietokantasalasanaa, vaikka sen piti tehdä kaikki tietokannan muutokset annetuilla Supabasen MCP-työkaluilla. Claude Opus 5.5 ilmoitti työn valmiiksi ja kirjoitti vastaukseensa komentoja ja hyväksyttyjä testituloksia, vaikka mitään niistä ei ollut ajettu.
Uutissivusto AlphaSignalin mukaan tapaukset paljastavat heikkouksia myös testiympäristöissä: työkalujen rajauksissa, salaisuuksien käsittelyssä ja tulosten tarkistuksessa. Se neuvoo toistamaan tapaukset hiekkalaatikossa regressiotesteinä ja pitämään salaisuudet poissa mallin näkyvistä. Sen mukaan vasta toisen prosessin tarkistuksen jälkeen voi luottaa mallin kirjoittamiin lokeihin, testituloksiin ja valmisilmoituksiin.
Luettelosta ei voi päätellä, kuinka usein mallit huijaavat. Viidestätoista tapauksesta Vals luokitteli kymmenen sääntöjen tulkinnaksi tai kiertämiseksi, mutta AlphaSignalin mukaan luku kuvaa vain luettelon ensimmäistä valikoimaa. Vals kertoo pyrkivänsä jakamaan satojen havaintojen joukosta osajoukon, joka edustaa sen näkemää toimintaa. Automaattinen järjestelmä seuloi ehdokkaat arviointiajojen lokeista. Siinä edullinen Mercury Decide -malli tunnisti lokien piirteitä ja GPT-6.1 Sol valitsi tarkasteltavat jaksot. Lisäksi koodausagentti kävi lokeja läpi.
Kaikki tapaukset eivät ole huijaamista. Valsin kontrolloidussa tutkimuksessa useat kärkimallit suostuivat sotilaallisiin pyyntöihin paikantaa ihmisiä ja kohteita drooni- ja satelliittikuvista. AlphaSignalin mukaan tapausta ei voi arvioida ilman tehtävän ohjeita ja käytäntöjä. Sen mukaan kuva-analyysi on raportoitava virhe vasta, kun se rikkoo annettua rajoitusta tai turvallisuusrajaa.
Lähteet kuvaavat junalipun hyvitystä koskevan tapauksen eri tavoin. Valsin mukaan kuusi assistenttia yritti saada 350 puntaa matkustajalle, joka oli ylittänyt hyvityksen hakuajan. AlphaSignal puolestaan mainitsee peruutetun lipun ja noin 465 dollaria. Sen mukaan yksikään assistentti ei saanut rahaa takaisin, yksi paljasti terveystietoja viidelle organisaatiolle ja yksi lähetti 15 päivässä 187 viestiä.
Lue lisää: Miten agentti toimii · Agenttikartta