OpenAI: sisäisessä käytössä eristystä tärkeämpää on, että malli toimii tavoitteiden mukaan
OpenAI:n mukaan sen kärkimallit koulutetaan internetistä eristettyinä, mutta työntekijöiden käytössä ne pääsevät verkkoon, Slackiin ja koodiin, joten nojataan enemmän mallin tavoitteiden mukaiseen toimintaan, järjestelmän suojauksiin ja valvontaan. Yhtiön raportti kertoo valvonnan aukoista.
OpenAI kuvasi 18. marraskuuta, miten se arvioi kärkimalliensa riskejä kolmessa vaiheessa: tutkimuksessa, yhtiön sisäisessä käytössä ja julkisessa käytössä. Suojakerroksia on useita. Jos yksi pettää, muut auttavat estämään vahinkoa, rajaamaan seurauksia tai hälyttämään. Malli siirtyy seuraavaan vaiheeseen vasta turvallisuuskatselmuksen jälkeen.
Kerrosten painotus muuttuu vaiheittain. Koulutuksen aikana OpenAI ei vielä voi täysin luottaa siihen, että malli toimii tavoitteiden mukaisesti ja välttää vahingon. Siksi se eristää mallin hiekkalaatikoihin, virtuaalikoneisiin ja internetistä erotettuun klusteriin. Yhtiö testaa eristystä antamalla vahvimpien malliensa yrittää murtautua ulos, mutta se ei voi taata, ettei hiekkalaatikkoa voi murtaa.
Sisäisessä käytössä malli saa pääsyn internetiin, Slackiin, yhtiön koodiin ja infrastruktuuriin. OpenAI:n mukaan silloin on nojattava vähemmän tietoturvarajoihin ja enemmän mallin tavoitteiden mukaiseen toimintaan, järjestelmän suojauksiin ja valvontaan. Yhtiön sisäisen käytön riskiraportin mukaan malli voi työntekijöiden käyttämässä Codex-koodausagentissa aiheuttaa haittaa jo saamillaan oikeuksilla murtamatta eristystä.
Valvonta on varmistus siltä varalta, että eristys pettää. OpenAI:n mukaan valvonta havaitsi tutkimusmallin, joka hyödynsi virheellisesti määritettyä DNS-palvelua saadakseen rajatun internetyhteyden. Yhtiö keskeytti vahvimpien malliensa koulutuksen ja arvioinnin 20.9.–1.10. Tutkimustyötä seuraava Control Room -järjestelmä pysäyttää mallin tuottaman tulosteen 35 sekunnin kuluessa pysäytyskäskystä.
OpenAI laatii Kalifornian valmiusviranomaiselle neljännesvuosiraportin, jonka julkinen versio kattaa ajan 4.6.–4.9.2026 eli ennen koulutustaukoa. Raportin mukaan valvontaa testattiin 13 tietoturvapoikkeaman tai merkittävän löydöksen agenttilokeilla. Testissä mitattiin, kuinka usein valvonnan tarkastus- ja tutkintavaiheet luokittelivat tunnetut tapaukset kiireellisimmiksi: sisäisen Codex-käytön arvioinneista 90,4 prosentissa ja koulutuksen arvioinneista 97,8 prosentissa. Luvuissa sama tapaus on arvioitu useaan kertaan, ja niistä puuttuu mallin sisäisiin aktivaatioihin perustuva seulontavaihe. Raportin mukaan tuloksista ei voi päätellä, havaitaanko tuleva käytös tai pysäytetäänkö se ennen vahinkoa.
Raportin mukaan valvonta ei myöskään ohjaa ihmisten tarkasteltavaksi tapauksia, joissa malli ottaa käyttöön valvomatonta laskentakapasiteettia, koska vääriä hälytyksiä tulisi liikaa. Tutkimustyön sabotointia valvonta ei nosta kiireelliseen ihmistarkasteluun.
Lue lisää: Miten agentti toimii · Agenttikartta