AI Aulis

AI-UUTISET SUOMEKSI · 17.11.2026

Tekoälyalan tärkeimmät uutiset joka aamu. Tekoäly kirjoittaa ja tarkastaa jutut alkuperäisiä lähteitä vasten – tarkista tärkeät tiedot lähteistä.

← Numero 17.11.2026Lehti

OpenAI antaa neljälle ulkopuoliselle arvioijalle pääsyn sisäisiin malleihinsa

Tekoälyn tuottama sisältöTekoälyn kirjoittama

openai.com, x.com, techcrunch.com · 7 lähdettä · Lähteet julkaistu: 16.11.2026

Apollo Research, METR, Transluce ja Goodfire tutkivat OpenAI:n sisällä, toimivatko yhtiön mallit sen tavoitteiden mukaisesti ja pitävätkö suojaukset. Pääsyä on rajattu, ja OpenAI voi poistaa julkaisuista luottamuksellista tietoa.

OpenAI kertoi maanantaina 16. marraskuuta aloittavansa arvioinnit, joissa ulkopuolisten tutkimusorganisaatioiden asiantuntijat tutkivat yhtiön sisällä pitkään malleja, joita OpenAI kouluttaa tai käyttää sisäisesti (embedded assessments). Luottamuksellista tietoa tarvitsevat arvioijat työskentelevät OpenAI:n toimistoissa yhtiön laitteilla.

OpenAI:n mukaan arvioijat saavat arvioinnin tarpeen mukaan pääsyn osaan samoista sisäisistä resursseista kuin yhtiön omat tutkijat: koulutuksen välivaiheiden malleihin, lähdekoodiin, koulutus- ja arviointiaineistoon, valvontajärjestelmien tietoihin ja työntekijöiden puheille.

TechCrunchin mukaan ulkopuoliset ovat viime aikoihin asti testanneet malleja vasta juuri ennen julkaisua. Arvioijien mukaan se ei riitä, koska silloin ei voi tutkia esimerkiksi koulutuksen aikaista juonittelua. Ajatus sisäisistä arvioijista tuli lehden mukaan Anthropicilta, joka antoi lokakuussa METRin tutkijoille työntekijätason pääsyn järjestelmiinsä.

Neljä arvioijaa, neljä tehtävää

Apollo Research selvittää, voisivatko mallit salaa toimia kehittäjiensä tavoitteita vastaan ja huomaisivatko OpenAI:n suojaukset sen. Apollo arvioi neljää väitettä: koulutus ei palkinnut tällaisesta toiminnasta, tiukat testit eivät saa sitä esiin, mallit eivät ole yrittäneet sitä sisäisessä käytössä ja sen taustalla oleva päättely olisi havaittavissa.

METR etsii tavoitteista poikkeavaa toimintaa OpenAI:n tähän asti suurimmasta vahvistusoppimisajosta, myös sellaista, joka on voinut jäädä yhtiön omilta testeiltä ja valvonnalta huomaamatta. Valitun ajon ja sovitun pääsyn puitteissa METR päättää itse, mitä se tutkii. Toisen, valvontajärjestelmiä testaavan arvioinnin laajuudesta ei ole vielä sovittu.

Transluce arvioi, kuinka hyvin ja kattavasti OpenAI:n jälkikoulutusvaiheen testit mittaavat, toimivatko mallit tavoitteiden mukaisesti. Osapuolet aikovat jatkaa laajemmalla, noin kahdeksan viikon arvioinnilla alkuvuonna 2027. Goodfire tutkii tulkittavuusmenetelmillä, mitä mallien sisällä tapahtuu koulutuksen aikana. Sen havainnot on tarkoitettu ensisijaisesti OpenAI:n tutkijoille.

TechCrunchin mukaan Apollo ja Goodfire saavat työstään maksun. METR ja Transluce eivät saa, mutta ne voivat ottaa vastaan laskentakapasiteettia tai API-krediittejä.

Pääsy ja julkaisut rajattuja

Arvioijat julkaisevat tuloksensa itse, mutta OpenAI voi poistaa niistä luottamuksellista tietoa ja pyytää julkaisun lykkäämistä. Erimielisyydet ratkaisee viime kädessä OpenAI-säätiön hallituksen turvallisuus- ja tietoturvakomitea, joka saa raportit ilman poistoja.

TechCrunchin referoiman Apollon kuvauksen mukaan pääsy rajautuu sovittuihin väitteisiin, malleihin ja ajanjaksoihin. OpenAI voi jättää tietoa antamatta teknisistä syistä tai tietoturvan tai immateriaalioikeuksien vuoksi mutta ei pelkästään siksi, että tieto on sille epäedullista. OpenAI voi myös rajata julkisesti esitettävää näyttöä, mitä Apollo on vastustanut. Silti Apollo kutsuu kokeilua ”kunnianhimoiseksi ensimmäiseksi askeleeksi kohti syvempää pääsyä ja julkaisuoikeuksia”.

Apollo saa puhua vain OpenAI:n valtuuttamien työntekijöiden kanssa. TechCrunchin mukaan OpenAI erotti hiljattain kolme tutkijaa, joiden väitettiin kertoneen luottamuksellista tietoa METRille.

Tekoälyturvallisuutta tutkivan Redwoodin toimitusjohtaja Buck Shlegeris kirjoitti TechCrunchin lainaamassa X-viestissä, että OpenAI oli puhunut arvioijille annettavasta työntekijän kaltaisesta pääsystä. Nyt julkistetut sopimukset eivät hänen mukaansa vastaa sitä. ”Tämä on pettymys mutta ei yllätys.”

Aiemmin aiheesta

Ilmoita virheestä tässä jutussa