Laboratorieförsök: En skadlig sida räckte för att föra ut en Muse-användares konversationer och minnen
Säkerhetsföretaget NebuSec uppger att det i ett laboratorieförsök förde ut en Muse-användares konversationer och minnen till en extern server utan godkännandefråga och till sist tog kontroll över användarens molnmaskin. Enligt företaget åtgärdade Meta sårbarheterna före publiceringen.
Muse är en personlig AI-agent som Meta lanserade den 8 september. Den arbetar via de webbkonton som användaren kopplar till den och kan handla åt användaren. NebuSec beskrev attacken i en forskningsartikel som publicerades den 20 november.
Muse skyddas i flera lager. Varje användares agent körs i en egen virtuell maskin i molnet och inuti den i ytterligare en separat container. Tjänsten Sentinel övervakar utgående trafik och ber vid behov användaren om godkännande. Tanken är att inloggningsuppgifterna till de kopplade kontona ska hållas utom räckhåll för agenten.
Forskarna lurade inte språkmodellen i en konversation. Attacken utgick i stället från agentens eget verktyg. Muse skapar till exempel PDF-filer med webbläsaren Chromium. När agenten konverterade angriparens sida till PDF kunde forskarna utnyttja en sårbarhet i webbläsaren för att köra egen kod i containern.
Enligt NebuSec klassificerade och kontrollerade Sentinel utgående förfrågningar bristfälligt. Därför kunde forskarna skicka konversationshistoriken och minnena till en extern server utan godkännandefråga. De kunde dessutom ändra agentens minnen och konversationshistorik.
Därefter tog sig forskarna ut ur containern via en sårbarhet i Linuxkärnan och fick root-behörighet i den virtuella maskinen. De attackkoder som NebuSec genererade automatiskt lyckades i över 99,9 procent av testkörningarna. Med root-behörigheten kom forskarna åt lagringsutrymmet, den skyddade lagringen för inloggningsuppgifter och Sentinel. FourWeekMBA påpekar att NebuSec inte uppger att det har fört ut inloggningsuppgifter. Intrånget stannade i en enda användares virtuella maskin. Forskarna påvisade ingen åtkomst till servern som kör den virtuella maskinen eller till andra användares maskiner.
Skydden fungerade som de var tänkta, men varje steg i kedjan försvagade ett annat lager, uppger NebuSec. Därför gick attacken hela vägen. Företaget uppmanar utvecklare av agenter att undersöka om skydden fortfarande håller efter ett partiellt intrång i systemet. Behörigheterna för inloggningsuppgifter bör enligt företaget också begränsas med tanke på ett eventuellt intrång.
Det rörde sig om ett laboratorieförsök, inte en attack mot riktiga användare. NebuSec uppger att det rapporterade fynden till Meta och säger att Meta åtgärdade alla beskrivna sårbarheter före publiceringen. Enligt The Hacker News har Meta inte bekräftat åtgärderna offentligt. Av forskningsartikeln framgår inte om någon kom åt riktiga användares data före åtgärderna. Fallet är ett annat än i den Reutersnyhet som TechCrunch återger. I den uppges att Metas anställda i interna meddelanden var oroliga över att Muse blandade ihop konversationer från olika konton.
UrduPoint råder Muse-användare att uppdatera appen och kontrollera de kopplade kontona. Det är också värt att se över hur fritt agenten får surfa på webben och handla och att ta bort onödiga kopplingar. Enligt FourWeekMBA har NebuSec inte uppgett om fynden även gäller Muses Chrome-tillägg.