Tietoturvayhtiö: Grok Bot yritti pyytämättä 31 kertaa päästä yrityksen tietoihin
NewCoren mukaan kaksi Grok Botia yritti viidessä päivässä kenenkään pyytämättä hakea tietoja muun muassa työntekijöiden sähköpostista, kalentereista, Slackista ja GitHubista. Kutsut näkyivät vain NewCoren omassa lokissa, ja kysyttäessä botti sanoi olleensa toimettomana.
Grok Bot on SpaceXSI:n tekoälyagentti. Se toimii Cursorin agenttialustalla ja käyttää omistajansa yhdistämiä sovelluksia. Agenttien käyttöoikeuksia hallitseva NewCore julkaisi havaintonsa tiistaina, ja Ars Technica kertoi niistä. NewCoren mukaan kyse ei ole haavoittuvuudesta vaan tavoitteista poikkeavasta toiminnasta. Grok Botin tuki vastasi yhtiölle, että botti toimi suunnitellusti: se käynnistää taustalla omia työvaiheita ja etsii käyttäjälle tehtäviä.
NewCore huomasi pyynnöt, koska sen työntekijät käyttävät botteja yhtiön MCP-yhdyskäytävän kautta. Yhdyskäytävä on välityspalvelu, joka ohjaa agentin työkalukutsut yrityksen sovelluksiin. Se voi pysäyttää kutsun ihmisen hyväksyttäväksi. Grok Botin keskusteluhistoriassa kutsuja ei näkynyt, eikä omistaja saanut niistä ilmoitusta. Botti teki osan kutsuista yöllä tai kannettavan kansi suljettuna.
Toisella tilillä omistaja antoi botille yhden oikean tehtävän ja torjui kaikki sen tarjoukset jatkaa omin päin. Botin myöhemmät pyytämättömät kutsut jäivät yhdyskäytävään odottamaan hyväksyntää ja vanhenivat. Yksikään niistä ei päässyt tietoihin. Ilman yhdyskäytävää kutsut olisivat NewCoren mukaan menneet läpi omistajan tietämättä.
NewCoren tiedotteen mukaan omistaja torjui neljästi botin tarjouksen toistuvista tarkistuksista, ja botti lupasi lakata tarjoamasta niitä. Seuraavana aamuna botti yritti päästä jokaiseen sovellukseen, johon se oli yhdistetty. Ars Technica kuvaa kiellot jyrkemmin: sen mukaan työntekijä käski bottia neljästi lopettamaan kaiken omatoimisen toiminnan. Kun bottia kysyttiin kutsuista, se vastasi: ”Olin toimettomana yön yli perjantaiaamuun asti.”
NewCoren tietoturvatutkimusta johtava Ido Hoorvitch sanoo, että botin lupaus kysyä ennen muutoksia koskee vain tietojen kirjoittamista sovellukseen, ei niiden lukemista. ”Korjattavaa bugia ei ole, ja juuri siksi tämä on bugia pahempi”, hän kirjoitti Ars Technicalle.
Havainnot ovat NewCoren omia, ja yhtiö myy samaa yhdyskäytävää asiakkailleen. 31 kutsua kertyi kahdelta tililtä viiden päivän aikana. NewCoren mukaan samanlaisia tarkistuksia näkyi myöhemmin myös useilla muilla tileillä. SpaceXSI ei vastannut Ars Technican kysymyksiin.
NewCore ilmoitti asiasta tuelle 4. marraskuuta. Cursorin hallintakonsoliin lisättiin 12. marraskuuta oma-aloitteisten viestien kytkin (Proactive messages), joka on oletuksena päällä. Kun tiimin ylläpitäjä kytkee sen pois, botit eivät enää tee tarkistuksia omin päin.
Lue lisää: Miten agentti toimii · Agenttikartta