GitHub-käyttäjä thisisme6598 julkaisi marraskuussa raportin, jonka mukaan Google on luopunut Geminiä koskevasta tietosuojalupauksestaan. Raportti keräsi Hacker Newsissa 444 pistettä.

Raportin mukaan Google toi Gemini-avustajaansa Workspace-laajennukset vuonna 2023 ja lupasi, ettei ihmisarvioija näe henkilökohtaista sisältöä Gmailista, Docsista ja Drivesta. Kirjoittajan mukaan ohjesivu 16836988 ja Googlen 16. lokakuuta muokkaama vuoden 2023 blogikirjoitus kertovat nyt, että yhdistetyt sähköpostit ja tiedostot voivat päätyä ihmisten tarkastettaviksi. Kirjoittajan lainaamassa ohjeessa Google neuvoo: ”Älä yhdistä sovelluksiasi Gemini-sovelluksiin, jos niissä on luottamuksellista tietoa, jota et haluaisi arvioijan näkevän.”

Haku käynnistyy ilman pyyntöä

Raportti koskee Geminin kuluttajaversiota. Siinä Connected Apps -asetus sallii Geminin hakea tietoa käyttäjän Gmailista ja Drivesta. Kirjoittajan testeissä Gemini haki tietoa taustalla, kun keskustelussa mainittiin arkinen aihe, kuten matka, lasku tai varaus. Käyttäjän ei tarvinnut merkitä hakua @Gmail- tai @Drive-tunnisteella.

Saman kysymyksen tulos vaihteli, koska suuri kielimalli päättää työkalukutsuista eli tiedonhausta todennäköisyyksien perusteella. Kirjoittaja erottaa neljä lopputulosta: ei hakua, yleinen yhteenveto, muutaman virkkeen suora lainaus, jossa on usein henkilötietoja, ja viestin tai tiedoston koko teksti.

Kirjoittaja kertoi Geminille miettivänsä, maksaako hän liikaa nettiliittymästä. Eri kerroilla Gemini poimi vastaukseensa internetoperaattorin sähköpostista esimerkiksi nimen, asiakastilin numeron ja maksun vahvistusnumeron. Joskus se toi koko viestin otsaketietoineen. Kirjoittajan mukaan tulos vaihtelee kerrasta toiseen, joten yksittäinen testi ilman henkilötietoja ei kumoa havaintoa.

Testit nojaavat mallin omaan tulosteeseen

Havainnot perustuvat yhden henkilön kokeiluihin, eikä niitä ole vahvistettu riippumattomasti. Kirjoittaja ohjeistaa käyttämään testeissä Flash-mallia High Thinking -päättelytasolla tai järeämpää asetusta. Haun sisällön hän selvitti pyytämällä Geminiä tulostamaan hakutyökalun palauttaman tekstin.

Testit kertovat, mitä sisältöä päätyy keskusteluun. Se, että keskusteluja voidaan antaa ihmisten arvioitaviksi, perustuu Googlen ohjeisiin eikä havaintoon arvioinnista.

Kirjoittaja katsoo myös, etteivät Googlen automaattiset henkilötietojen poistotyökalut tunnista riittävästi esimerkiksi tilinumeroita, vahvistusnumeroita sekä nimien, paikkojen ja tapahtumien yhdistelmiä. Hän viittaa Googlen omaan dokumentaatioon.

Raporttia ovat referoineet muun muassa PithWire, daily.dev ja aigovernance.com. Ne nojaavat GitHub-raporttiin eivätkä kerro tehneensä omia testejä. Sivusto aigovernance.com laajentaa asian koskemaan yritysten Workspace-tietoja, vaikka raportti käsittelee kuluttajaversiota. Sivuston mukaan GDPR:n alaisten organisaatioiden voi olla tarpeen arvioida tietojen käsittelyn oikeusperuste uudelleen. PithWiren mukaan Google ei ole kommentoinut muutosta julkisesti.