Fyra AI-tjänster tog fram attackplaner på under 12 timmar i GAO:s test
Den amerikanska kongressens revisionsmyndighet GAO tog sig förbi säkerhetsspärrarna i ChatGPT, Claude, Gemini och Grok med vanliga metoder. Varje tjänst gav information som GAO bedömde räckte för att planera antingen ett bombattentat eller en attack mot elnätet.
GAO genomförde de dolda testerna våren 2026 på begäran av senator Maggie Hassan och publicerade sin rapport den 18 november. Utifrån användningsstatistiken för april valde GAO ut de fyra mest använda tjänsterna för generativ AI. Varje tjänst tilldelades ett scenario genom lottning.
Två av tjänsterna gav enligt GAO information om hur en hemmagjord sprängladdning placerad i ett fordon byggs och detoneras för att orsaka ett stort antal dödsoffer. De två andra gav instruktioner för en attack mot elnätet, den ena med drönare och den andra med skjutvapen. Svaren pekade ut mål i stora amerikanska städer, till exempel ett hotell, ett kongresscenter och transformatorstationer. Två av svaren angav också exakt datum och klockslag för attacken. Av säkerhetsskäl framgår det inte av rapporten vilken tjänst som tog fram vilken plan.
Varje tjänsts säkerhetsspärrar reagerade på GAO:s promptar: tjänsten vägrade, tog bort information som den redan hade gett eller stängde av användarkontot. Testarna tog sig förbi spärrarna med allmänt kända metoder, och i varje tjänst var en plan klar på under 12 timmar. Tiden kan variera beroende på till exempel ämne och användarens erfarenhet, uppger GAO.
GAO kontrollerade med egna utredningar, observationer och intervjuer med experter om informationen gick att genomföra. Enligt Hassans pressmeddelande bekräftade oberoende experter att sprängladdningarna skulle ha detonerat eller att skada skulle ha uppstått med den information som tjänsterna gav. Den japanska nyhetssajten BigGo Finance skriver att inga anordningar byggdes och inga attacker genomfördes. Vissa svar innehöll fel, till exempel var vägar inritade på fel ställen på kartor, men planernas centrala innehåll höll vid en extern granskning, uppger sajten.
GAO testade varje modell med bara ett scenario och varnar därför för att se resultaten som statistiskt representativa eller rangordna företagen utifrån dem, uppger BigGo. OpenAI och Google säger enligt samma sajt att äldre versioner av deras modeller användes i testerna. Anthropic medger att en målmedveten användare ibland kan få ut skadligt innehåll ur systemet.
Hassan blir ordförande för senatens utskott för inrikes säkerhet och statsförvaltning i den nya kongressen. ”En terrorist kan logga in på en AI-plattform och på mindre än 12 timmar gå därifrån med en konkret handbok för hur man genomför en dödlig attack”, säger Hassan i pressmeddelandet. En av utskottets första utfrågningar kommer enligt Hassan att handla om hotet från AI mot den inrikes säkerheten och den kritiska infrastrukturen. Hassan överväger bland annat ett krav på strängare säkerhetstester av modellerna före lansering. GAO lämnade själv inga politiska rekommendationer, uppger BigGo.