AI Aulis

AI-NYHETER PÅ SVENSKA · 15 november 2026

De viktigaste AI-nyheterna varje morgon. AI skriver och granskar artiklarna mot originalkällorna – kontrollera viktiga uppgifter i källorna.

26 artiklar · nästa nummer i morgon bitti · Så görs tidningen →

← Numret 15 november 2026Tidningen

Förhandspublicering: Instruktion gömd i en bild kan bli synlig för modellen när bilden förminskas kraftigt

AI-genererat innehållSkriven av AI

arXiv, huggingface.co · 2 källor · Källornas publiceringsdatum: 12 november 2026 · Publiceringstidpunkten är okänd för vissa källor

En textinstruktion kan gömmas i en bild, enligt en förhandspublicering. Fyra slutna språkmodeller som tolkar bilder läste instruktionen i mer än hälften av testerna, men först när bilden hade förminskats till 64 × 64 pixlar. Vid mildare förminskning försvagades effekten kraftigt.

I en förhandspublicering som lades ut på arXiv den 12 november beskriver forskare vid Nanyang Technological University och DSO National Laboratories ett fenomen som de kallar Scale-Induced Semantic Shift (SISS). Studien är inte referentgranskad.

Systemet förminskar eller komprimerar ofta en bild innan den behandlas av en språkmodell som tolkar bild och text. Modellen ser alltså inte nödvändigtvis samma bild som användaren.

Tester och resultat

Forskarna finjusterade en bildgenerator med bilder som de valde enbart utifrån återkoppling från Qwen2.5-VL, en modell med öppna vikter. Testbilderna låstes innan de visades för de testade modellerna. Attacken räknades som lyckad om modellen inte läste instruktionen i bilden på 512 × 512 pixlar men läste den i versionen som förminskats till 64 × 64 pixlar. Gemini 3 Pro var bedömare och avgjorde enbart utifrån textsvaret om instruktionen hade hittats. Bilden såg den inte.

Andel lyckade attacker i 300 testbilder:

Modell SISS QR-Monster (jämförelse)
GPT-4o 60,33 % 35,33 %
Claude Sonnet 4.6 57,67 % 49,33 %
Qwen3.5-Plus-02-15 62,67 % 47,67 %
Gemini-3-Flash 54,33 % 32,00 %
Medelvärde 58,75 % 41,08 %

Källa: författarnas förhandspublicering, tredje förfiningsomgången, förminskning 512 → 64 pixlar.

Av siffrorna går det inte att dra slutsatsen att attacken fungerar vid vanliga bildstorlekar. Enligt författarna är 64 pixlar en medvetet kraftig försöksuppställning och inget antagande om hur modeller i drift fungerar. Med samma bilder var den genomsnittliga andelen lyckade attacker 17,68 procent vid förminskning till 128 pixlar, 6,85 procent vid 224 pixlar och 5,60 procent vid 336 pixlar.

Effekten på agenterna var liten

I ett försök med webbagenter ökade bilderna upptäckten av den dolda instruktionen. För Gemini-3-Flash steg andelen från 37,33 procent med jämförelsebilderna till 67,67 procent och för GPT-4o från 12,67 till 30,33 procent. Agenterna utförde dock skadliga handlingar i bara 4,00 respektive 3,67 procent av fallen, mot 2,33 respektive 1,67 procent med jämförelsebilderna. Försöket visar att bilderna kan påverka en agent, men inte att de tillförlitligt kan användas för att kapa den, skriver författarna. I försöket ingick bara två agenter.

Vanliga bildfilter skyddade inte

I försvarsförsöket förändrades andelen lyckade attacker inte statistiskt signifikant när bilden skalades om, komprimerades till JPEG, filtrerades eller maskerades slumpmässigt. Författarnas detektor ScaleGuard jämför bilden i full storlek med nio förminskade versioner och avvisar bilden om texten bara syns i de små. Den sänkte andelen lyckade attacker från 61,4 till 24,3 procent. När angriparen förfinade bilderna under en omgång mot detektorn sjönk andelen från 42,5 till 15,0 procent.

Detektorn avvisade inte en enda ren jämförelsebild i urvalen på 70 och 40 bilder. Ett så litet urval räcker inte för att dra slutsatsen att falsklarmen är få, skriver författarna. De mätte inte heller detektorns fördröjning, trots att den kontrollerar tio versioner av varje bild. Försvarsförsöket gjordes med andra data och en annan bedömare och gällde bara modellen Qwen2.5-VL-7B. Siffrorna från det kan därför inte jämföras med huvudresultaten.

Tidigare om ämnet

Anmäl ett fel i artikeln