Vals AI:n testi: 23 tekoälymallia selitti lakia paremmin kuin ohjasi paikalliseen apuun
Yksikään 23 mallista ei yltänyt 80 prosenttiin kriteereistä, jota Vals AI pitää luotettavan ensimmäisen neuvojan rajana. Lain yleistä selittämistä koskevista kriteereistä mallit täyttivät 78–87 %, paikallisten avunlähteiden nimeämistä koskevista vain 30–50 %.
Yhdysvaltalainen tekoälyn arviointiyhtiö Vals AI ja sijoitusorganisaatio NextLadder Ventures julkaisivat 10. marraskuuta Access to Justice -vertailutestin. Se mittaa tekoälymallin kykyä neuvoa ensimmäisenä ihmistä, joka hoitaa oikeudellista ongelmaansa ilman asianajajaa. Testin tilanteet ovat tyypillisiä pienituloisille amerikkalaisille.
Simuloitu asiakas ja automaattinen arvioija
Testin 252 tilannetta perustuvat oikeusapujärjestöille esitettyihin todellisiin kysymyksiin. Kuusi oikeusapuasiantuntijaa sovitti ne kuuden osavaltion lakiin ja kirjoitti kuhunkin keskimäärin 15,4 arviointikriteeriä. Eniten tilanteita koskee perheoikeutta (110) ja asumista (65).
Testattava malli keskusteli GPT-5:n esittämän asiakkaan kanssa enintään viisi kierrosta ja sai hakea tietoa verkosta. Asiakas kertoi taustatietoja vain kysyttäessä. Automaattinen arvioija Decider v1.2 pisteytti keskustelun: tulos on täytettyjen kriteerien osuus. Noin neljännes kriteereistä mittaa, selvittääkö malli kysymällä olennaiset tosiasiat.
Kärjessä ei selvää voittajaa
Taulukossa on osa malleista sekä Vals AI:n arvio siitä, käyttääkö palveluntarjoajan ilmainen vai maksullinen versio mallia.
| Malli | Kriteereistä täytetty | Vals AI:n arvio |
|---|---|---|
| Qwen 3.8 Max | 76,37 % | – |
| Claude Sonnet 5.5 | 74,94 % | ilmaisversio |
| Wonder Full | 74,68 % | – |
| Claude Opus 5.5 | 73,77 % | maksullinen |
| Grok 4.7 | 73,69 % | maksullinen |
| Grok 4.6 | 71,34 % | ilmaisversio |
| Gemini 4 Argon | 68,48 % | maksullinen |
| Gemini 3.8 Flash | 67,06 % | ilmaisversio |
| GPT-6.1 Sol | 65,84 % | maksullinen |
| GPT-5.6 Luna | 65,56 % | ilmaisversio |
Lähde: Vals AI 10.11.2026. Osuus asiantuntijoiden kriteereistä 252 tilanteessa, arvioijana Decider v1.2. Viiva: malli ei ollut mukana ilmais- ja maksullisten versioiden vertailussa.
Kolmen parhaan erot ovat Vals AI:n mukaan virhemarginaalin sisällä, joten järjestys ei osoita selvää kärkeä. Pidemmät vastaukset saivat yleensä enemmän pisteitä (korrelaatio 0,50). Qwen 3.8 Max kirjoitti pisimmät loppuvastaukset, keskimäärin noin 3 900 sanaa. Vals aikoo kokeilla pituuden huomioivaa pisteytystä.
Ilmaisversioiden keskiarvo oli 69,7 % ja maksullisten 70,4 %. Ryhmittely on Vals AI:n arvio. Mallit testattiin rajapinnan kautta, joten tulos vastaa chatbot-sovelluksen käyttöä vain likimäärin. Maksullinen malli oli selvästi edellä vain xAI:llä: Vals AI:n sivun mukaan 2,4 ja tiedotteen mukaan 2,3 prosenttiyksikköä.
Mallit selittävät lakia, mutta paikallinen apu jää yleiseksi
Lain yleistä selittämistä koskevista kriteereistä täyttyi 78–87 %, tiettyjä avunlähteitä koskevista 30–50 %. Tällaisia ovat esimerkiksi paikallinen oikeusapuohjelma ja tuomioistuimen neuvontapiste. Malleista 21 mainitsi vähintään 70 prosentissa loppuvastauksistaan kansallisen hakemiston, kuten LawHelp.orgin tai 211-palvelun. Vals AI:n asiantuntijoiden mukaan paikallinen oikeusapujärjestö on paljon hyödyllisempi kuin kansallinen hakemisto.
Mallien lukemista verkkosivuista 10 % oli oikeusapu- ja neuvontasivustoja ja 42 % lakeja, oikeudenkäyntisääntöjä ja oikeustapauksia. Vals AI:n tulkinnan mukaan mallit lukevat lakia tarpeeksi selittääkseen sen mutta avaavat harvoin sivuja, joilta löytyisi seuraava paikallinen askel.
Kysymysten määrä ei taannut niiden osuvuutta. GPT-6.1 Sol päätti ensimmäisen vastauksensa kysymykseen 88 prosentissa keskusteluista, mutta olennaisten tosiasioiden selvittämisessä se sijoittui 23 mallista 18:nneksi (68,1 %).
Aihealueista mallit pärjäsivät parhaiten asumisessa (75,4 %) ja heikoimmin sosiaalietuuksissa (57,3 %), joissa tilanteita oli vain viisi.
Tulokset ovat Vals AI:n omaa mittausta: BenchLM toistaa taulukon ajamatta testiä uudelleen, ja Unite.AI referoi julkaisua. Tulokset ja menetelmäkuvaus ovat Vals AI:n sivulla. Vals pitää validointia varten salassa toiset 252 tilannetta.