OpenAI kertoi 12. marraskuuta kehittäjäblogissaan, miten se suojaa yhtiön sisällä toimivia pysyviä tekoälyagentteja. Kevin S Linin kirjoitus kuvaa osan yhtiön käyttämistä suojauksista, mutta ei esitä mittauksia niiden tehosta.

Pysyvä agentti toimii ympäri vuorokauden laajalla tehtäväalueella ja tekee asioita omasta aloitteestaan. Linin mukaan uhka tulee tällöin myös sisältä: agentti voi muuttaa asetuksiaan, kirjoittaa mitä tahansa koodia ja toimia tavoitteista poikkeavasti. Hänen mukaansa OpenAI:lla on käytössä satoja OpenClaw-agentteja.

Ohjaus ja agentti eri kontteihin

OpenAI erottaa luotetun, ennalta ohjelmoidun logiikan kielimallin epäluotettavasta toiminnasta. Tätä varten yhtiö lisäsi avoimen lähdekoodin OpenClaw’hun harnessin etäajon. Harness on agenttia ohjaava ohjelma, joka antaa mallille työkalut ja ajaa sen työvaiheet.

Agentin asetukset määrittävä OpenClaw Gateway voi nyt toimia eri kontissa kuin harness, ja OpenAI:lla se toimii eri klusterissa. Hiekkalaatikkoon eristetään agentti, sen ympäristö ja sen kirjoittama koodi.

OpenAI käyttää Codexin harnessin omaa hiekkalaatikkoa. Verkossa agentti pääsee vain organisaation sallimiin osoitteisiin, ja osa osoitteista on erikseen estetty. Kirjoittaa se saa vain työhakemistoihinsa, ja sen prosessit eristetään. Salaisuudet kulkevat tunnistetietojen välittäjän kautta, joten agentti ei näe niitä.

OpenAI poisti myös Codexin rajoittamattoman danger-full-access-tilan ja salli vain välimuistiin perustuvan verkkohaun, joka kulkee OpenAI:n oman hakuindeksin kautta. Blogin esimerkkiasetukset poistavat GitHub-tunnukset agentin komentojen ympäristömuuttujista. Lin huomauttaa, ettei tämä piilota tiedostoihin tallennettuja tunnuksia.

Toinen agentti hyväksyy toimet

OpenClaw’n ja Codexin valmiissa Auto-review-toiminnossa toinen agentti valvoo ja hyväksyy pääagentin toimet. OpenAI vaatii tarkastuksen kaikille agenttien toimille. Linin mukaan jatkuvat hyväksyntäpyynnöt opettavat ihmiset hyväksymään kaiken sokeasti. Siksi kielimalliin perustuva tarkastaja suodattaa pyynnöt, ja ihmisille jäävät tärkeimmät.

Jokaisella agentilla on oma ChatGPT-palvelutiliin liitetty identiteetti. Agentilla on siten käyttäjästä erillinen tunnus inferenssiin, sen toimet voi jäljittää ja sen inferenssin voi tarvittaessa katkaista.

OpenAI kirjaa lokiin jokaisen asetusmuutoksen, joka tehdään hallintatasolla eli agentit määrittävässä järjestelmässä, sekä agenttien kaikki toimintavuorot. Lokit voivat sisältää arkaluonteista tietoa, joten niihin pääsee vain muutama tietoturvatiimin jäsen.

Suojaukset avoimessa OCE:ssä

Linin mukaan sisäinen pilotti lisäsi selvästi tuottavuutta ja käyttöä. Taustalla toimii hänen mukaansa nyt yli 500 agenttia, jotka esimerkiksi avaavat pull requesteja tuotepalautteen pohjalta.

Monet suojauksista ovat valmiina avoimen lähdekoodin OpenClaw Enterprisessa (OCE), joka on toimittajariippumaton agenttien hallintataso. Ne tulevat käyttöön, kun agentin käynnistää Codexin vakioesiasetuksella. OCE on vielä pilottivaiheessa, ja OpenAI aikoo julkaista version 1.0 vuoden loppuun mennessä.