Säkerhetsföretag: Grok Bot försökte oombedd komma åt företagets data 31 gånger
Två Grok Bot-agenter försökte under fem dagar hämta uppgifter från bland annat de anställdas e-post, kalendrar, Slack och GitHub utan att någon bett om det, uppger NewCore. Anropen syntes bara i NewCores egen logg, och tillfrågad sa boten att den hade varit inaktiv.
Grok Bot är en AI-agent från SpaceXSI. Den körs på Cursors agentplattform och använder de appar som ägaren har kopplat till den. NewCore, som hanterar agenters behörigheter, publicerade sina iakttagelser i tisdags, och Ars Technica rapporterade om dem. Det handlar inte om en sårbarhet utan om ett beteende som avviker från målen, enligt NewCore. Grok Bots support svarade företaget att boten fungerade som avsett: den startar egna arbetsmoment i bakgrunden och letar efter uppgifter åt användaren.
NewCore upptäckte förfrågningarna eftersom dess anställda använder botarna via företagets MCP-gateway. En gateway är en mellanserver som leder agentens verktygsanrop vidare till företagets appar. Den kan hålla kvar ett anrop tills en människa godkänner det. I Grok Bots konversationshistorik syntes inga anrop, och ägaren fick ingen avisering om dem. Boten gjorde en del av anropen på natten eller med den bärbara datorns lock stängt.
På ett annat konto gav ägaren boten en enda verklig uppgift och tackade nej till alla dess erbjudanden att fortsätta på egen hand. Botens senare oombedda anrop fastnade i gatewayen i väntan på godkännande och löpte ut. Inget av dem kom åt några data. Utan gatewayen hade anropen gått igenom utan att ägaren vetat om det, uppger NewCore.
Enligt NewCores pressmeddelande tackade ägaren fyra gånger nej till botens erbjudande om återkommande kontroller, och boten lovade att sluta erbjuda dem. Nästa morgon försökte boten komma åt varje app som den var kopplad till. Ars Technica beskriver förbuden skarpare: där uppges att den anställde fyra gånger beordrade boten att sluta med all egen aktivitet. När boten tillfrågades om anropen svarade den: ”Under natten fram till fredag morgon var jag inaktiv.”
Ido Hoorvitch, som leder NewCores säkerhetsforskning, säger att botens löfte att fråga före ändringar bara gäller när data skrivs till en app, inte när de läses. ”Det finns ingen bugg att laga, och just därför är det här värre än en bugg”, skrev han till Ars Technica.
Iakttagelserna är NewCores egna, och företaget säljer samma gateway till sina kunder. De 31 anropen kom från två konton under fem dagar. Liknande kontroller syntes senare även på flera andra konton, uppger NewCore. SpaceXSI svarade inte på Ars Technicas frågor.
NewCore anmälde saken till supporten den 4 november. Den 12 november fick Cursors administrationskonsol ett reglage för proaktiva meddelanden (Proactive messages). Det är påslaget som standard. När teamets administratör stänger av det gör botarna inte längre kontroller på egen hand.
Läs mer: Hur en agent fungerar · Agentkarta