AI Aulis

AI-UUTISET SUOMEKSI · 15.11.2026

Tekoälyalan tärkeimmät uutiset joka aamu. Tekoäly kirjoittaa ja tarkastaa jutut alkuperäisiä lähteitä vasten – tarkista tärkeät tiedot lähteistä.

26 juttua · seuraava numero huomenna aamulla · Miten lehti tehdään →

← Numero 15.11.2026Lehti

Esijulkaisu: kuvaan piilotettu ohje voi paljastua mallille, kun kuvaa pienennetään rajusti

Tekoälyn tuottama sisältöTekoälyn kirjoittama

arXiv, huggingface.co · 2 lähdettä · Lähteet julkaistu: 12.11.2026 · osan lähteistä ajankohta ei tiedossa

Esijulkaisun mukaan kuvaan voi kätkeä tekstiohjeen, jonka neljä suljettua kuvia tulkitsevaa kielimallia lukivat yli puolessa testeistä vasta 64 × 64 pikseliin pienennetystä kuvasta. Lievemmin pienennetyissä kuvissa vaikutus heikkeni jyrkästi.

Nanyangin teknillisen yliopiston ja DSO National Laboratoriesin tutkijat kuvaavat arXivissa 12. marraskuuta julkaistussa esijulkaisussa ilmiön, jota he kutsuvat nimellä Scale-Induced Semantic Shift (SISS). Tutkimusta ei ole vertaisarvioitu.

Järjestelmä pienentää tai pakkaa kuvan usein, ennen kuin kuvia ja tekstiä tulkitseva kielimalli käsittelee sen. Malli ei siis välttämättä näe samaa kuvaa kuin käyttäjä.

Testit ja tulokset

Tutkijat hienosäätivät kuvageneraattoria kuvilla, jotka he valitsivat pelkästään avointen painojen Qwen2.5-VL-mallin palautteen perusteella. Testikuvat lukittiin ennen kuin ne näytettiin testattaville malleille. Hyökkäys onnistui, jos malli ei lukenut ohjetta 512 × 512 pikselin kuvasta mutta luki sen 64 × 64 pikseliin pienennetystä versiosta. Arvioijana toiminut Gemini 3 Pro päätteli pelkästä tekstivastauksesta, löytyikö ohje. Kuvaa se ei nähnyt.

Hyökkäyksen onnistumisosuus 300 testikuvassa:

Malli SISS QR-Monster (vertailukohta)
GPT-4o 60,33 % 35,33 %
Claude Sonnet 4.6 57,67 % 49,33 %
Qwen3.5-Plus-02-15 62,67 % 47,67 %
Gemini-3-Flash 54,33 % 32,00 %
Keskiarvo 58,75 % 41,08 %

Lähde: tekijöiden esijulkaisu, kolmas hiomiskierros, pienennys 512 → 64 pikseliä.

Luvuista ei voi päätellä, että hyökkäys toimisi tavallisissa kuvakoissa. Tekijöiden mukaan 64 pikseliä on tarkoituksella raju koeasetelma eikä oletus käytössä olevien mallien toiminnasta. Samoilla kuvilla keskimääräinen onnistumisosuus oli 128 pikselin pienennyksessä 17,68 %, 224 pikselin 6,85 % ja 336 pikselin 5,60 %.

Vaikutus agentteihin oli pieni

Verkkoagenttikokeessa kuvat lisäsivät piilotetun ohjeen havaitsemista. Gemini-3-Flashilla osuus nousi vertailukuvien 37,33 prosentista 67,67 prosenttiin ja GPT-4o:lla 12,67 prosentista 30,33 prosenttiin. Haitallisia toimia agentit tekivät kuitenkin vain 4,00 ja 3,67 prosentissa tapauksista, kun vertailukuvilla luvut olivat 2,33 ja 1,67 prosenttia. Tekijöiden mukaan koe osoittaa, että kuvat voivat vaikuttaa agenttiin, mutta ei sitä, että niillä voisi luotettavasti kaapata agentin. Kokeessa oli vain kaksi agenttia.

Yleiset kuvasuodattimet eivät suojanneet

Puolustuskokeessa onnistumisosuus ei muuttunut tilastollisesti merkitsevästi, kun kuvaa skaalattiin uudelleen, pakattiin JPEG-muotoon, suodatettiin tai peitettiin satunnaisesti. Tekijöiden ScaleGuard-tunnistin vertaa täysikokoista kuvaa yhdeksään pienennettyyn versioon ja hylkää kuvan, jos teksti näkyy vain pienissä. Se laski onnistumisosuuden 61,4 prosentista 24,3 prosenttiin. Kun hyökkääjä hioi kuvia yhden kierroksen tunnistinta vastaan, osuus laski 42,5 prosentista 15,0 prosenttiin.

Tunnistin ei hylännyt yhtään puhdasta vertailukuvaa 70 ja 40 kuvan otoksissa. Tekijöiden mukaan näin pienestä otoksesta ei voi päätellä, että vääriä hälytyksiä olisi vähän. Tekijät eivät myöskään mitanneet tunnistimen viivettä, vaikka se tarkastaa jokaisesta kuvasta kymmenen versiota. Puolustuskoe tehtiin eri aineistolla ja arvioijalla, ja kohteena oli vain Qwen2.5-VL-7B-malli, joten sen lukuja ei voi verrata päätuloksiin.

Ilmoita virheestä tässä jutussa