Laboratoriokoe: haitallinen sivu riitti viemään Muse-käyttäjän keskustelut ja muistit
Tietoturvayhtiö NebuSec kertoo vieneensä laboratoriokokeessa Muse-käyttäjän keskustelut ja muistit ulkopuoliselle palvelimelle ilman hyväksyntäkyselyä ja saaneensa lopulta käyttäjän pilvikoneen hallintaansa. Yhtiön mukaan Meta korjasi aukot ennen julkaisua.
Muse on Metan 8. syyskuuta julkaisema henkilökohtainen tekoälyagentti. Se toimii käyttäjän siihen liittämien verkkotilien kautta ja voi tehdä ostoksia tämän puolesta. NebuSec kuvasi hyökkäyksen 20. marraskuuta julkaistussa tutkimuskirjoituksessaan.
Musen suojaus on kerroksellinen. Jokaisen käyttäjän agentti toimii pilvessä omassa virtuaalikoneessaan ja sen sisällä vielä erillisessä kontissa. Sentinel-palvelu valvoo ulos lähtevää liikennettä ja pyytää tarvittaessa käyttäjän hyväksynnän. Liitettyjen tilien tunnukset on tarkoitus pitää agentin ulottumattomissa.
Tutkijat eivät harhauttaneet kielimallia keskustelussa, vaan hyökkäys lähti agentin omasta työkalusta. Muse tekee esimerkiksi PDF-tiedostoja Chromium-selaimella. Kun agentti muunsi hyökkääjän sivun PDF:ksi, tutkijat pystyivät selaimen haavoittuvuuden avulla ajamaan omaa koodiaan kontissa.
NebuSecin mukaan Sentinel luokitteli ja tarkasti ulos lähteviä pyyntöjä puutteellisesti. Siksi tutkijat pystyivät lähettämään keskusteluhistorian ja muistit ulkopuoliselle palvelimelle ilman hyväksyntäkyselyä. Lisäksi he pystyivät muuttamaan agentin muisteja ja keskusteluhistoriaa.
Seuraavaksi tutkijat pääsivät Linuxin ytimen haavoittuvuuden avulla ulos kontista ja saivat virtuaalikoneen pääkäyttäjän oikeudet. NebuSecin automaattisesti tuottamat hyökkäyskoodit onnistuivat yli 99,9 prosentissa testiajoista. Pääkäyttäjän oikeuksilla tutkijat pääsivät käsiksi tallennustilaan, tunnusten suojattuun säilöön ja Sentineliin. FourWeekMBA huomauttaa, ettei NebuSec kerro vieneensä tunnuksia. Murto pysyi yhden käyttäjän virtuaalikoneessa, eivätkä tutkijat osoittaneet pääsyä virtuaalikonetta ajavaan palvelimeen tai muiden käyttäjien koneisiin.
NebuSecin mukaan suojaukset toimivat suunnitellusti, mutta ketjun jokainen vaihe heikensi eri kerrosta. Siksi hyökkäys eteni loppuun asti. Yhtiö kehottaa agenttien kehittäjiä selvittämään, pitävätkö suojaukset vielä järjestelmän osittaisen murron jälkeen. Tunnusten oikeudet pitäisi sen mukaan rajata myös murron varalta.
Kyse oli laboratoriokokeesta eikä hyökkäyksestä oikeisiin käyttäjiin. NebuSec kertoo ilmoittaneensa löydöksistä Metalle ja sanoo Metan korjanneen kaikki kuvatut aukot ennen julkaisua. The Hacker Newsin mukaan Meta ei ole vahvistanut korjauksia julkisesti. Kirjoituksesta ei selviä, päästiinkö oikeiden käyttäjien tietoihin ennen korjauksia. Kyse on eri tapauksesta kuin TechCrunchin referoimassa Reutersin uutisessa, jonka mukaan Metan työntekijät olivat sisäisissä viesteissään huolissaan siitä, että Muse sekoitti eri tilien keskusteluja.
UrduPoint neuvoo Musen käyttäjiä päivittämään sovelluksen ja tarkistamaan liitetyt tilit. Lisäksi kannattaa katsoa, kuinka vapaasti agentti saa selata verkkoa ja tehdä ostoksia, sekä poistaa tarpeettomat yhteydet. FourWeekMBA:n mukaan NebuSec ei ole kertonut, koskevatko löydökset myös Musen Chrome-laajennusta.