Dragos: syöttitunnukset paljastivat murrot kolmeen tekoälypalveluun
Dragosin HD Moore lähetti tekoälypalveluille noin kaksi miljoonaa kehotetta, joissa oli ainutkertaisia syöttitunnuksia. Yhtiön mukaan tunnuksia vuoti kolmesta murretusta palvelusta ja välittäjiltä, eikä tallentamisen kieltävä asetus estänyt vuotoja.
Tietoturvayhtiö Dragosin tutkimusjohtaja HD Moore kertoi 19. marraskuuta yhtiön blogissa, mitä heinä–marraskuussa lähetetyille kehotteille tapahtui. Jokaisessa oli ainutkertainen syötti (canary token), esimerkiksi oikea AWS-avain tyhjälle tilille, salasana tai salainen verkko-osoite. Kukin syötti oli vain yhdessä kehotteessa. Siksi sen käytöstä näki, mikä kehote, malli, reititin ja yksityisyysasetus olivat kyseessä.
Vuotoja syntyy, koska kehote kulkee usein monen yrityksen läpi. Tekoälyreititin ottaa pyynnön vastaan yhdessä osoitteessa ja välittää sen mallia ajavalle palvelulle, joskus toisen reitittimen kautta. Jokainen välikäsi näkee kehotteen ja vastauksen kokonaan. Mooren mukaan yksityisyysasetus, kuten tallentamisen kieltävä Zero Data Retention (ZDR), sitoo vain ensimmäistä välikättä.
Dragosin mukaan hyökkääjät olivat murtautuneet kolmeen mallipalvelun tarjoajaan, eikä yksikään niistä tiennyt asiasta ennen yhtiön ilmoitusta. Suurimmassa murrossa vietiin parisataa AWS-avainta, myös pyynnöistä, jotka palvelu hylkäsi ennen mallin ajoa. Kahdessa muussa osa varastetuista pyynnöistä oli merkitty ZDR:llä. Ransomnewsin mukaan väitteitä ei voi tarkistaa ulkopuolelta, koska Dragos ei nimeä palveluja.
Useat halpaa inferenssiä myyvän markkinapaikan myyjät lukivat ostajien kehotteita tavallisesta pyyntölokista. Vuoto riippui myyjästä: toisen myyjän kautta lähetettyihin saman mallin kehotteisiin ei koskettu. Kiinalaisen tekoälylaboratorion haravointiohjelma avasi heinä–lokakuussa salaiset osoitteet yli puolesta sen malleille lähetetyistä kehotteista, ZDR- tai ”ei tiedonkeruuta” -merkityistäkin noin kahdesta kolmasosasta.
Syötti paljastaa vuodon mutta ei sitä, missä ketjun kohdassa se tapahtui. Siksi Dragos rakensi reitinjäljityksen. Noin 2 000 jäljitetystä reitistä useassa sadassa oli tunnistamaton järjestelmä.
Kalifornian yliopiston Santa Barbaran tutkijat raportoivat huhtikuussa arXiv-esijulkaisussa, että Taobaosta, Xianyusta ja Shopify-kaupoista ostetuista 28 maksullisesta ja yhteisöistä kerätyistä 400 ilmaisesta reitittimestä yhdeksän lisäsi haitallista koodia palautettuihin työkalukutsuihin.
Moore neuvoo valitsemaan itse palveluntarjoajat, joille pyynnöt päätyvät, tarkistamaan, että yksityisyysasetus todella muuttaa reittiä, ja välttämään jälleenmyyjien markkinapaikkoja. Agenttien kontekstiin kannattaa lisätä valetunnus, jonka käyttö käsitellään tietoturvapoikkeamana. Hänen mukaansa kehotteet altistuvat vähiten, kun mallia käytetään suoraan yhdeltä palveluntarjoajalta ilman välikäsiä. Silloinkin tietoa voi vuotaa tiedonjakosopimusten tai murron kautta, ja yksi suuri yhdysvaltalainen palvelu haki salaista osoitetta vielä yli kaksi kuukautta yhden hakukutsun jälkeen. Mooren mukaan kehotteet pysyvät kokonaan omissa käsissä vain omalla palvelimella.
Lue lisää: Miten agentti toimii · Agenttikartta