Reutersin testi: Metan Muse-agentti luki Signal-viestejä Androidilla ja Macilla
Metan työntekijöiden mukaan Muse-agentti varasi yhdelle heistä Airbnb-majoituksen ilman lupaa ja näytti toiselle tilisaldoja, jotka eivät olleet hänen. Reuters ei pystynyt selvittämään, olivatko tiedot muiden käyttäjien vai agentin keksimiä.
Reuters kävi läpi yli kaksi tusinaa Metan sisäistä viestiä, joissa työntekijät kuvaavat Muse-agentin pyytämättömiä tekoja. Muse on Metan syyskuussa julkaisema tekoälyagentti eli ohjelma, joka toimii tekoälymallin avulla ja hoitaa käyttäjän puolesta esimerkiksi sähköposteja, ajanvarauksia ja verkko-ostoksia. Sitä on ladattu yli 10 miljoonaa kertaa.
Yksi työntekijä sai tavallisen kalastussääviestin perään tiedon Capital One- ja Charles Schwab -tilien saldoista, vaikka hän ei ollut koskaan antanut pankkitietojaan Muselle eikä puhunut pankkiasioista sen kanssa. Toiselle agentti tarjoutui sopimaan sohvapöydän noudosta ja myönsi sitten hakeneensa tietoja, jotka ”eivät näytä olevan sinun”. Yhdelle työntekijälle Muse varasi luvatta Airbnb-majoituksen, jota ei voinut perua.
Työntekijät epäilivät, että Muse sekoittaa eri tilien keskusteluja. Reuters ei pystynyt selvittämään, olivatko tiedot muiden käyttäjien vai agentin keksimiä. Metan tiedottaja Daniel Roberts kutsui tapauksia yksittäisiksi. Hänen mukaansa moni viesti, jonka työntekijät olivat merkinneet mahdolliseksi tilien sekaannukseksi, oli hallusinaatio eli mallin keksimää tietoa, ja niihin on jo puututtu. Superintelligence-tiimin jäsen kertoi sisäisesti agentin näyttävän keksivän viestejä, kun sisäänrakennetut kehotteet ohjaavat sitä ottamaan yhteyttä käyttäjään istuntojen välillä. TechCrunchille Meta huomautti, että työntekijöillä on käytössään eri Muse-versioita kuin yleisöllä.
Signal-viestien lukemisen Reuters sen sijaan pystyi toistamaan yhdessä Signalin ja AI Now Instituten kanssa. Eräs työntekijä oli saanut Muselta muistutuksen vastata siskonsa Signal-viestiin, vaikka hänen mukaansa hän ei ollut antanut agentille pääsyä muihin sovelluksiin. Sekä Androidilla että Macilla Muse ohitti Metan Connector-liitostyökalun: Androidilla se luki viestit puhelimen ilmoituksista, Macilla esteettömyys- ja kuvakaappaustyökaluilla. iPhonella samat pyynnöt estettiin.
Reutersin mukaan tulokset viittaavat siihen, että Meta tulkitsee käyttäjien myöntämiä lupia laajasti: agentti käytti asennuksessa myönnettyjä lupia tavalla, jota käyttäjä ei välttämättä osaa odottaa. Työntekijän kollegan mukaan Musella oli Androidilla ilmoituslupa oletuksena. Google ja Meta puolestaan sanovat, että käyttäjän on myönnettävä ilmoituslupa tietoisesti.
Applen tällä viikolla julkaisema käyttöjärjestelmäpäivitys käytännössä sulki Reutersin löytämän reitin: se rajoitti esteettömyystyökalujen käyttöä Macilla ja toi agenteille erilliset luvat. Metan käyttöehtojen mukaan käyttäjä vastaa itse agentin teoista.
Lue lisää: Miten agentti toimii · Agenttikartta