Notion Labs meddelade den 9 november sina kunder att chattar i Notion AI har läckt vid ett intrång hos AI-underleverantören Fireworks AI. Läckan gäller mindre än en procent av Notions arbetsytor, och utredningen fortsätter, uppger Notion i ett säkerhetsmeddelande.

Fireworks AI är en plattform där utvecklare använder modeller med öppna vikter. Angriparna tog sig den 24 oktober in i företagets forskningsdatorer via en molntjänst från tredje part, skriver SecurityWeek med hänvisning till ett meddelande från Fireworks.

Fireworks informerade Notion om intrånget den 2 november. Notion bedömde först att läckan bara gällde syntetisk testdata. Senast på morgonen den 3 november hade Notion brutit förbindelserna med Fireworks. Den 6 november meddelade Fireworks att även kunddata kunde ha läckt. Det läckta materialet bekräftade Fireworks den 8 november.

De läckta chattarna kom från funktionen Insights

Notion använde Fireworks för inferens med modeller med öppna vikter och för funktionen Insights. Insights visar arbetsytans administratörer hur medlemmarna använder Notion AI. För funktionen skickade Notion sparade chattar till Fireworks för klassificering. Notion har nu stängt av Insights.

De läckta chattarna innehåller allt som användaren skrev till modellen och allt som modellen svarade, uppger Notion. Resultat av verktygsanrop ingick inte. I de flesta arbetsytor var chattarna inte märkta med författare eller arbetsyta. Notion påpekar dock att själva texten kan innehålla känsliga uppgifter.

Minst tre japanska företag har rapporterat en möjlig läcka, skriver japanska ITmedia. Uppgifterna kan omfatta namn på kundföretag och kontaktpersoner samt innehåll från möten, uppger säkerhetsföretaget SecureNavi. Företagen utreder fortfarande detaljerna.

Notion: Fireworks sparade data trots avtalet

Nollagring (zero data retention, ZDR) innebär ett avtal om att leverantören varken sparar de indata som skickas till AI:n eller svaren. Notion har enligt ITmedia uppgett att läckan även kan gälla företagskunder med avtal om nollagring.

Notions ZDR-löfte gäller de anrop som företaget skickar till modelleverantörer för att ta fram svaren i Notion AI, uppger Notion. Löftet omfattar inte funktioner där Notion måste spara chattar, till exempel chatthistoriken och Insights. För Insights hade Fireworks ändå i avtalet åtagit sig nollagring, säger Notion. Notions utredning visade att Fireworks hade sparat data som gått via de API-slutpunkter hos Fireworks som Notion använde.

Fireworks har inte sett någon påverkan på de tjänster där nollagring är standard, skriver ITmedia. Företaget har inte förklarat hur de API-slutpunkter som Notion använde hänger ihop med dessa tjänster. Notion granskar nu sina kritiska underleverantörer, uppger företaget.

Vad kunderna ska göra

Notion har kontaktat de kunder som berörs av läckan. Kunder som inte har kontaktats behöver inte vidta några åtgärder nu, uppger Notion. I de flesta arbetsytor ser medlemmarna sina egna läckta chattar i datorns webbläsare under Security incident review i ?-menyn i sidofältet. Där ser ägaren vilka medlemmar som berörs. Ägaren får arbetsytans hela läckta innehåll som CSV-filer om arbetsytan har en verifierad domän.

Notion uppmanar användare att byta lösenord, API-nycklar och andra inloggningsuppgifter som klistrats in i Notion AI under läckan. Företaget uppger att det har ogiltigförklarat de API-nycklar från Notion som hittades i chattarna och anmält nycklar till andra tjänster till respektive utfärdare.