OpenAI:n uudessa tilassa turvatarkastettavat API-pyynnöt tallennetaan asiakkaan pilveen
OpenAI:n Private Safety Processing -tilassa turvallisuustarkastukseen valitut API-pyynnöt ja mallin vastaukset salataan ja tallennetaan asiakkaan omaan pilvitallennukseen. Yhtiön mukaan automaattinen tarkastus ei anna OpenAI:n henkilöstölle pääsyä sisältöön.
OpenAI kertoi 5. marraskuuta kehittäjille suunnatulla X-tilillään uudesta tavasta valvoa rajapintansa eli API:n käyttöä. Tila on nimeltään Zero Data Retention with Private Safety Processing (ZDR with PSP). Zero Data Retention tarkoittaa käytäntöä, jossa OpenAI ei säilytä API-pyyntöjen sisältöä. PSP lisää siihen turvallisuustarkastuksen, jonka aineisto säilyy asiakkaan pilvessä.
Miten tarkastus toimii
OpenAI:n kehittäjäohjeen mukaan turvallisuusluokitin tai hyväksytty otantakäytäntö valitsee osan kehotteista ja mallin vastauksista tarkastettavaksi. Ohjeen mukaan valinta ei tarkoita, että käyttöehtoja olisi rikottu.
Valittu tietue salataan ja kirjoitetaan asiakkaan alueelliseen tallennukseen, joka voi olla AWS S3, Azure Blob Storage, Google Cloud Storage tai OCI Object Storage. OpenAI:lle jää sisällön kopion sijaan hakemisto, jossa on toiminnallisia metatietoja ja viittaus tallennuspaikkaan. Salaus ja tallennus tehdään erillään inferenssistä, joten ne eivät ohjeen mukaan hidasta vastauksia.
X-viestissä tarkastuksen kerrotaan tapahtuvan asiakkaan ympäristössä. Ohjeen tarkemman kuvauksen mukaan tarkastuksen tekee kuitenkin OpenAI:n Safety Review Runtime, joka hakee salatut tietueet asiakkaan tallennuksesta. Se on laitteistotasolla todennettu laskentaympäristö, johon ihmisillä ei ole pääsyä. Yhtiön mukaan se on suunniteltu ainoaksi OpenAI:n järjestelmäksi, joka voi purkaa sisällön salauksen.
Tarkastuksesta välittyy salaamattomana vain ennalta rajattuja turvallisuussignaaleja ja hyväksyttyjä metatietoja. Yksityiskohtaiset tulokset salataan ja tallennetaan asiakkaan tallennukseen.
Tietueet voidaan salata kahdesti. Sisemmän salauksen hallitsee OpenAI. Asiakas voi lisätä ulomman salauksen omalla avainhallinnallaan (Enterprise Key Management, EKM), mitä OpenAI suosittelee. Jos asiakas peruu avaimen käyttöluvan, tietueiden salausta ei voi enää purkaa. Tietueet eivät silti poistu, eikä jo tehtyä käsittelyä peruta.
OpenAI:n mukaan sisältöä käytetään vain turvallisuustarkoituksiin. Sillä ei kouluteta malleja, eikä sitä anneta yhtiön muiden ryhmien tai kumppaneiden käyttöön.
Mitä asiakkaalta vaaditaan
Asiakkaan on säilytettävä salattuja tietueita vähintään 30 päivää ja pidettävä tallennus ja avainten käyttöoikeudet kunnossa. Sen on myös korjattava OpenAI:n ilmoittamat asetusvirheet ja selvitettävä yhtiön esiin nostamat turvallisuushuolet yhdessä sen kanssa.
PSP otetaan käyttöön projektikohtaisesti. Se koskee silloin projektin kaikkea API-liikennettä, myös malleja, jotka eivät sitä edellytä. Jos asiakas haluaa käyttää ZDR:ää ilman PSP:tä, se tarvitsee erillisen projektin. Jos projektin viimeinen tallennusyhteys katkaistaan, säilytyskäytäntö palaa organisaation oletukseen. PSP:tä edellyttävät mallit eivät myöskään välttämättä ole enää käytettävissä. Yhteyden katkaisu ei poista tallennettuja tietueita.
Organisaatiot, joille Zero Data Retention on jo hyväksytty, voivat ottaa PSP:n käyttöön API-konsolissa. Sitä voi käyttää myös Modified Abuse Monitoring -käytännön kanssa. Käyttöönotto vaatii organisaation ylläpitäjän, oman tallennussäiliön 30 päivän poistosäännöllä sekä pääsyoikeuden OpenAI:lle. Tarkat ohjeet ovat OpenAI:n kehittäjädokumentaatiossa.