OpenRouter: En utomstående kan ha läst promptar till MiniMax-modeller
Testlänkar som en forskare gömt i promptar öppnades 40–130 timmar efter förfrågningarna, även när AtlasCloud, Novita eller StreamLake förmedlade förfrågan till MiniMax, uppger OpenRouter. Inloggningsuppgifter i promptarna bör bytas ut.
OpenRouter förmedlar utvecklares förfrågningar till olika företags AI-modeller. Företaget skickade ett mejl till sina kunder med ämnesraden ”Requests you sent to MiniMax models may have been read”. Något offentligt meddelande finns inte. RuntimeWire var först med att rapportera om mejlet den 21 november, uppger PrivacyAffairs. Ungefär 40 minuter senare publicerade en av mottagarna hela texten på Hacker News.
Enligt mejlet skickade en icke namngiven säkerhetsforskare promptar till modeller från kinesiska MiniMax mellan juli och oktober. Forskaren hade lagt in unika testlänkar i dem. Länkarna fanns bara i promptarna. En öppnad länk visar alltså att någon eller något har läst prompten. Det är inte känt vem som öppnade länkarna eller om promptarna lästes av en människa eller ett program.
Länkarna öppnades även när förfrågan hanterades av AtlasCloud, Novita eller StreamLake. De har uppgett för OpenRouter att de vidarebefordrade MiniMax-förfrågningarna till MiniMax. Valde man någon av dessa tre i stället för MiniMax, hamnade förfrågan ändå hos MiniMax. OpenRouter har tagit bort märkningen Zero Data Retention från dessa slutpunkter för MiniMax-modellerna så länge utredningen pågår. Märkningen innebär att prompten inte sparas.
OpenRouters egen bedömning är att problemet ligger hos MiniMax och de leverantörer som vidarebefordrade förfrågningarna, inte hos OpenRouter. Företaget kallar inte händelsen för ett dataintrång. Med ett undantag öppnades inte de testlänkar som skickades till andra modeller hos samma leverantörer. OpenRouter uppger inte vilket undantaget var. Forskarens AWS-testnycklar användes inte, men uppgiften gäller bara dem och inte kundernas promptar.
OpenRouter vidarebefordrade en förklaring från MiniMax som företaget fått via StreamLake. Enligt MiniMax var innehållsmoderering, alltså automatisk granskning av indata, aktiverad före den 22 oktober. Sedan dess har MiniMax infört Zero Data Retention. MiniMax har inte svarat på OpenRouters egen fråga.
Enligt PrivacyAffairs och Joho no Todai sker granskning i realtid när prompten kommer in, så en fördröjning på flera dagar tyder på sparade promptar. Innehållsmoderering kan dock ge besök flera tiotals timmar senare om systemet hämtar länkar i promptarna eller skickar innehåll till mänsklig granskning, skriver Cocoloop. Det meddelande som RuntimeWire själv fick gällde 80 förfrågningar mellan den 15 oktober och den 12 november, alltså även tiden efter den 22 oktober.
HD Moore, forskningschef på säkerhetsföretaget Dragos, publicerade den 19 november ett experiment där en grupp lade in unika länkar och falska inloggningsuppgifter i ungefär två miljoner promptar. Systemet hos ett icke namngivet kinesiskt labb hämtade länkarna från mer än hälften av de promptar som skickades till dess modeller mellan juli och oktober. Bland dem fanns ungefär två tredjedelar av de förfrågningar som var märkta ”ingen datainsamling” eller Zero Data Retention. Dragos och OpenRouter har inte uppgett att labbet skulle vara MiniMax. ”En integritetsflagga binder bara det första mellanledet”, säger Moore.
PrivacyAffairs rekommenderar att man kontrollerar aktivitetsloggen även om inget mejl har kommit. Inloggningsuppgifter i promptarna bör ersättas med nya och de gamla ogiltigförklaras. Enligt PlayCISO stoppar en blockering av MiniMax som leverantör inte förfrågningar som andra leverantörer vidarebefordrar till MiniMax, så vid känsligt arbete bör även själva modellen blockeras.
Med OpenRouters routningsinställningar kan man lista leverantörer som ska hoppas över (ignore) eller tillåtas (only), förbjuda reservleverantörer (allow_fallbacks: false) och kräva att data inte samlas in eller sparas (data_collection: "deny", zdr: true). Inställningarna kan göras per förfrågan eller för hela kontot, men märkningen är ett löfte från leverantören och ingen garanti.