Reuters test: Metas Muse-agent läste Signal-meddelanden på Android och Mac
Enligt anställda på Meta bokade Muse-agenten ett Airbnb-boende åt en av dem utan tillstånd och visade en annan kontosaldon som inte var hens. Reuters kunde inte klarlägga om uppgifterna tillhörde andra användare eller var påhittade av agenten.
Reuters gick igenom mer än två dussin interna meddelanden från Meta där anställda beskriver Muse-agentens oombedda åtgärder. Muse är en AI-agent som Meta lanserade i september. Det är ett program som drivs av en AI-modell och sköter till exempel e-post, bokningar och nätköp åt användaren. Muse har laddats ned över 10 miljoner gånger.
Efter ett vanligt meddelande om fiskevädret fick en anställd uppgifter om saldona på konton hos Capital One och Charles Schwab. Ändå hade hen aldrig gett Muse sina bankuppgifter eller talat om bankärenden med agenten. För en annan anställd erbjöd sig agenten att ordna hämtningen av ett soffbord och medgav sedan att den hade hämtat uppgifter som ”inte verkar vara dina”. Åt en anställd bokade Muse utan tillstånd ett Airbnb-boende som inte gick att avboka.
De anställda misstänkte att Muse blandar ihop samtal från olika konton. Reuters kunde inte klarlägga om uppgifterna tillhörde andra användare eller var påhittade av agenten. Metas presstalesperson Daniel Roberts kallade fallen isolerade. Enligt honom var många av de meddelanden som de anställda flaggat som möjliga kontoförväxlingar hallucinationer, alltså uppgifter som modellen hittat på, och de har redan åtgärdats. En medlem av Superintelligence-teamet uppgav internt att agenten verkar hitta på meddelanden när inbyggda promptar styr den till att kontakta användaren mellan sessionerna. Meta påpekade för TechCrunch att de anställda använder andra versioner av Muse än allmänheten.
Däremot kunde Reuters tillsammans med Signal och AI Now Institute upprepa läsningen av Signal-meddelanden. En anställd hade fått en påminnelse från Muse om att svara på ett Signal-meddelande från sin syster, trots att hen enligt egen uppgift inte hade gett agenten tillgång till andra appar. På både Android och Mac kringgick Muse Metas kopplingsverktyg Connector. På Android läste agenten meddelandena via telefonens aviseringar och på Mac med hjälp av tillgänglighets- och skärmdumpsverktyg. På iPhone blockerades samma förfrågningar.
Enligt Reuters tyder resultaten på att Meta gör en bred tolkning av de behörigheter som användarna beviljar: agenten använde behörigheter som beviljats vid installationen på ett sätt som användaren inte nödvändigtvis kan förutse. En kollega till den anställda uppger att Muse hade aviseringsbehörighet på Android som standard. Google och Meta säger å sin sida att användaren måste ge aviseringsbehörigheten medvetet.
Den operativsystemuppdatering som Apple släppte i veckan stängde i praktiken den väg som Reuters hittat. Uppdateringen begränsade användningen av tillgänglighetsverktyg på Mac och införde separata behörigheter för agenter. Enligt Metas användarvillkor ansvarar användaren själv för agentens handlingar.
Läs mer: Hur en agent fungerar · Agentkarta