Notion Labs kertoi 9. marraskuuta asiakkailleen, että sen tekoälyalihankkijaan Fireworks AI:hin kohdistuneessa murrossa vuoti Notion AI -keskusteluja. Notionin tietoturvatiedotteen mukaan vuoto koskee alle prosenttia Notionin työtiloista, ja selvitys jatkuu.

Fireworks AI on alusta, jonka kautta kehittäjät käyttävät avointen painojen malleja. SecurityWeek kertoo Fireworksin tiedotteeseen viitaten, että hyökkääjät pääsivät 24. lokakuuta yhtiön tutkimuskoneisiin kolmannen osapuolen pilvipalvelun kautta.

Fireworks ilmoitti murrosta Notionille 2. marraskuuta. Notion arvioi aluksi, että vuoto koski vain synteettistä testidataa. Notion katkaisi yhteydet Fireworksiin 3. marraskuuta aamuun mennessä. Fireworks kertoi 6. marraskuuta, että myös asiakasdataa saattoi vuotaa. Vuotaneen aineiston se vahvisti 8. marraskuuta.

Vuotaneet keskustelut tulivat Insights-toiminnosta

Notion käytti Fireworksia avointen painojen mallien inferenssiin ja Insights-toimintoon. Insights näyttää työtilan ylläpitäjille, miten jäsenet käyttävät Notion AI:ta. Toimintoa varten Notion lähetti tallennetut keskustelut Fireworksille luokiteltaviksi. Notion on nyt poistanut Insightsin käytöstä.

Notionin mukaan vuotaneissa keskusteluissa on kaikki, mitä käyttäjä kirjoitti mallille ja mitä malli vastasi. Työkalukutsujen tuloksia ei ollut mukana. Useimmissa työtiloissa keskusteluihin ei ollut merkitty kirjoittajaa eikä työtilaa. Notion kuitenkin muistuttaa, että itse teksti voi sisältää arkaluonteisia tietoja.

Japanilaisen ITmedian mukaan ainakin kolme japanilaisyritystä on kertonut mahdollisesta vuodosta. Tietoturvayhtiö SecureNavin mukaan tiedoissa voi olla asiakasyritysten ja yhteyshenkilöiden nimiä sekä tapaamisten sisältöjä. Yritykset selvittävät yksityiskohtia vielä.

Notion: Fireworks säilytti dataa sopimuksesta huolimatta

Nollasäilytys (zero data retention, ZDR) tarkoittaa sopimusta, jonka mukaan palveluntarjoaja ei tallenna tekoälylle lähetettyjä syötteitä eikä vastauksia. ITmedian mukaan Notion on kertonut, että vuoto voi koskea myös nollasäilytyssopimuksen tehneitä yritysasiakkaita.

Notionin mukaan sen ZDR-lupaus koskee pyyntöjä, jotka se lähettää mallitoimittajille tuottaakseen Notion AI:n vastaukset. Lupaus ei kata toimintoja, joita varten Notionin pitää tallentaa keskusteluja, esimerkiksi keskusteluhistoriaa ja Insightsia. Insightsin osalta Fireworks oli kuitenkin Notionin mukaan sitoutunut sopimuksessa nollasäilytykseen. Notionin selvityksessä paljastui, että Fireworks oli säilyttänyt Notionin käyttämien rajapintojensa kautta kulkenutta dataa.

ITmedian mukaan Fireworks ei ole havainnut vaikutuksia palveluihinsa, joissa nollasäilytys on oletuksena. Se ei ole kertonut, miten Notionin käyttämät rajapinnat liittyvät näihin palveluihin. Notion kertoo tarkastavansa nyt kriittiset alihankkijansa.

Mitä asiakkaiden pitää tehdä

Notion on ottanut yhteyttä asiakkaisiin, joita vuoto koski. Jos yhteydenottoa ei ole tullut, toimia ei Notionin mukaan nyt tarvita. Jäsenet näkevät useimmissa työtiloissa omat vuotaneet keskustelunsa tietokoneen selaimella sivupalkin ?-valikon kohdasta Security incident review. Omistaja näkee samasta kohdasta jäsenet, joita vuoto koski. Koko työtilan vuotaneen sisällön omistaja saa CSV-tiedostoina, jos työtilalla on vahvistettu verkkotunnus.

Notion kehottaa vaihtamaan Notion AI:hin vuodon aikana liitetyt salasanat, API-avaimet ja muut tunnukset. Notion kertoo mitätöineensä keskusteluista löytyneet Notionin myöntämät API-avaimet ja ilmoittaneensa muiden palvelujen avaimet niiden myöntäjille.