Pekingin yliopiston ja Meituanin tutkijat kuvaavat 5. marraskuuta arXivissa julkaistussa esijulkaisussa MCPHallu-vertailutestin. Testi erittelee, millaisiin virheisiin tekoälyagentit kompastuvat. Agentit käyttävät työkaluja MCP:n kautta: protokollan avulla agentti löytää ja kutsuu eri palvelinten työkaluja kesken työn. Tutkimusta ei ole vertaisarvioitu.

Jokaisessa tehtävässä on ansa

Testissä on 358 tehtävää viideltä alalta. Agentit tekevät ne eristetyissä Docker-säiliöissä 36 käytössä olevan MCP-palvelimen avulla. Jokainen tehtävä on rakennettu niin, että yksi neljästä virhetyypistä on todennäköisin. Branch Collapse -tehtävässä agentin pitää valita jatko työkalun palauttaman tiedon perusteella. Unreachable Goal -tehtävää ei voi suorittaa millään tarjolla olevalla työkalulla. Tool Misuse -tehtävässä tarjolla on samankaltaisia mutta eri tarkoitukseen tehtyjä työkaluja. Context Forgetting -tehtävässä alussa haettu arvo pitää muistaa häiritsevien vaiheiden yli.

Tutkijat tekivät 14 mallilla yhteensä 5 012 ajoa, ja kussakin tehtävässä sai tehdä enintään 20 työkalukutsua. Pisteet (0–1) perustuvat pääosin automaattisiin tarkistuksiin, kuten ympäristön lopputilaan ja kutsuttuihin työkaluihin. GPT-4o:n kielimalliarvioijan osuus on 20–30 prosenttia. Kun arvioijaksi vaihdettiin Claude Sonnet 4.5, pisteet muuttuivat keskimäärin enintään 0,016.

Agentit eivät tunnista mahdottomuutta

Mallien keskiarvo oli 0,642, ja 47,8 prosenttia ajoista läpäisi. Paras oli Claude Opus 4.6 (0,728). Ihmisasiantuntijat saivat 0,88, mutta vain 40 tehtävän otoksesta. Kokonaispisteiden luottamusvälin puolileveys on noin 0,03–0,04, kun peräkkäisten mallien ero on keskimäärin 0,028.

Unreachable Goal oli vaikein virhetyyppi 12 mallille 14:stä. Ajoista, joissa agentti ei tehnyt yhtään työkalukutsua, läpäisi 65 prosenttia. Kun kutsuja oli 1–3, läpäisi 27,9 prosenttia. Vähintään neljän kutsun ajoista ei läpäissyt yksikään. Onnistumista kuvaavien loppuvastausten osuus kasvoi 8–15 kutsun ajoihin asti. Tekijät tulkitsevat, että lisäkutsut voimistavat hallusinaatiota eivätkä auta agenttia toipumaan. Kaksi vaikeinta virhetyyppiä pysyivät samoina myös, kun agentti suunnitteli ennen toimimista tai sai mahdottomuuteen varautuvan kehotteen.

Tool Misuse -tehtävissä läpäisi 84,7 prosenttia niistä ajoista, joissa agentti käytti vain oikeaa työkalua. Jos agentti kutsui oikean lisäksi harhauttavaa työkalua, osuus putosi 32,3 prosenttiin.

Mallin sijoitus vaihteli virhetyypistä toiseen keskimäärin 6,9 sijaa 13 mahdollisesta. Branch Collapse- ja Unreachable Goal -tehtävien pisteet eivät korreloineet (r = −0,12). Tekijät suosittelevat siksi raportoimaan tulokset virhetyypeittäin.

Tehtävien tuotanto ja luokittelun osuvuus

Tehtävät tuotti Claude Sonnet 4.6, ja ne suodatettiin samalla mallilla Claude Codessa. Tekijät aikovat lisätä muiden valmistajien malleja tehtävien tuottajiksi. Tutkijat tarkastivat 80 epäonnistunutta ajoa. Niistä 67:ssä hallitsi tehtävään suunniteltu virhetyyppi. Useimmissa poikkeamissa jumiin jäänyt agentti väitti suoritettavissa olevaa tehtävää mahdottomaksi.

MCPHallu on julkaistu GitHubissa (J1zz/mcp_hallu).