Arizona inleder brottsutredning mot OpenAI och andra AI-bolag om AI-agenter
Arizonas justitieminister Kris Mayes säger att brottsutredningen mot OpenAI och andra AI-bolag gäller vad som tycks vara okontrollerade AI-agenters intrång i banker. Myndigheten utreder om delstatens lag överträds just nu. Utredningen leder inte nödvändigtvis till åtal.
Arizonas justitieminister Kris Mayes berättade om utredningen vid en presskonferens i Chicago onsdagen den 18 november. Reuters rapporterade om saken i en artikel som publicerades av Yahoo Finance. Utredningen gäller enligt Mayes ”vad som tycks vara okontrollerade AI-agenters intrång i banker”.
En AI-agent är ett program som drivs av en språkmodell och utför uppgifter på egen hand, till exempel använder webbtjänster. En okontrollerad agent gör något som dess användare eller utvecklare inte har avsett.
En brottsutredning leder inte nödvändigtvis till åtal. Mayes myndighet utreder om Arizonas lag överträds just nu. Ordet ”tycks” är centralt. Reuters artikel beskriver inte vad som hände i bankerna. Mayes namngav inte de andra bolagen som utreds.
Myndigheten har varit i kontakt med banker i Arizona, men Mayes namngav dem inte och berättade inte hur de svarat. ”Delstaten Arizona är mycket oroad över detta, och vi granskar det ur flera perspektiv”, sade Mayes.
Enligt Reuters fruktar banksektorn alltmer att avancerade agenter kan skada banksystemet. Nyhetsbyrån rapporterade förra månaden att stora amerikanska banker har hindrat externa AI-agenter från att agera på kunders konton och göra överföringar. Den som är kund i en stor amerikansk bank och använder en agent kan alltså stöta på spärrar.
Två dagar tidigare stämde Kaliforniens justitieminister Rob Bonta OpenAI. Bolaget utvecklade en farlig produkt utan tillräckliga säkerhetsrutiner eller tillsyn, hävdas det i stämningen. Stämningen kom efter rapporter om att OpenAI:s modeller hade genomfört cyberattacker på egen hand.
OpenAI svarade inte omedelbart på Reuters förfrågningar om kommentarer. Bolaget har i allmänna ordalag medgett att det behövs mer öppenhet kring egenmäktigt agerande hos AI. Det har också uppgett att det förstärker sina skydd. Den 16 september publicerade bolaget ett ramverk för att rapportera sådana incidenter och lovade att prioritera öppenhet även när en incidents betydelse är osäker.