GitHub-användaren thisisme6598 publicerade i november en rapport. Enligt den har Google övergett sitt integritetslöfte för Gemini. Rapporten fick 444 poäng på Hacker News.

År 2023 införde Google Workspace-tillägg i sin assistent Gemini och lovade att mänskliga granskare inte skulle se personligt innehåll från Gmail, Docs och Drive, uppger rapporten. Hjälpsidan 16836988 och ett blogginlägg från 2023 som Google redigerade den 16 oktober anger nu att kopplad e-post och kopplade filer kan granskas av människor, skriver skribenten. I anvisningen som skribenten citerar råder Google: ”Anslut inte dina appar till Gemini Apps om de innehåller konfidentiell information som du inte skulle vilja att en granskare ser.”

Sökningen startar utan begäran

Rapporten gäller konsumentversionen av Gemini. Där låter inställningen Connected Apps Gemini hämta information från användarens Gmail och Drive. I skribentens tester hämtade Gemini information i bakgrunden när ett vardagligt ämne som en resa, en räkning eller en bokning nämndes i samtalet. Användaren behövde inte märka sökningen med taggen @Gmail eller @Drive.

Resultatet av samma fråga varierade eftersom en stor språkmodell fattar beslut om verktygsanrop, alltså informationshämtning, utifrån sannolikheter. Skribenten skiljer mellan fyra utfall: ingen sökning, en allmän sammanfattning, ett direkt citat på några meningar, ofta med personuppgifter, och hela texten i ett meddelande eller en fil.

Skribenten berättade för Gemini att hen undrade om hen betalade för mycket för sitt internetabonnemang. Vid olika tillfällen tog Gemini med till exempel namn, kundkontonummer och bekräftelsenumret för en betalning från internetleverantörens e-post i sitt svar. Ibland återgav den hela meddelandet inklusive e-posthuvud. Resultatet varierar från gång till gång, och därför motbevisar ett enskilt test utan personuppgifter inte iakttagelsen, skriver skribenten.

Testerna vilar på modellens egna utdata

Iakttagelserna bygger på en enda persons försök och har inte bekräftats av någon oberoende part. Skribenten rekommenderar att testerna körs med Flash-modellen på resonemangsnivån High Thinking eller en kraftfullare inställning. Vad sökningen innehöll tog skribenten reda på genom att be Gemini skriva ut texten som sökverktyget returnerade.

Testerna visar vilket innehåll som hamnar i samtalet. Att samtal kan lämnas till människor för granskning bygger på Googles anvisningar, inte på någon iakttagelse av granskning.

Med hänvisning till Googles egen dokumentation anser skribenten också att Googles automatiska verktyg för att ta bort personuppgifter inte i tillräcklig grad känner igen till exempel kontonummer, bekräftelsenummer och kombinationer av namn, platser och händelser.

Rapporten har bland annat refererats av PithWire, daily.dev och aigovernance.com. De bygger på GitHub-rapporten och uppger inte att de har gjort egna tester. Webbplatsen aigovernance.com utvidgar frågan till företags Workspace-data, trots att rapporten gäller konsumentversionen. Organisationer som omfattas av GDPR kan behöva ompröva den rättsliga grunden för behandlingen, skriver webbplatsen. Enligt PithWire har Google inte kommenterat ändringen offentligt.