Den amerikanska regeringens lilla enhet för AI-säkerhet saknar permanent chef. Det skrev AP-reportern Garance Burke den 8 november i en artikel som ABC News publicerade. Enheten har också slutat publicera sin forskning.

Enheten är Center for Advancing Innovation and Standards for Super Intelligence (CAISSI), en självständig avdelning inom handelsdepartementet. Den ska bedöma säkerheten hos nya AI-produkter. Tills nyligen hette den U.S. Center for AI Standards and Innovation. Super Intelligence är president Donald Trumps föredragna benämning på AI.

Uppgifterna bygger på anonyma källor

Två tidigare tjänstemän i administrationen berättade för AP att CAISSI:s tjänstemän nyligen har ombetts rapportera inofficiellt till ett kontor i Vita huset. De talade anonymt för att nuvarande anställda inte skulle drabbas av konsekvenser. AP uppger inte vem som framförde begäran.

Vita huset svarade inte på AP:s detaljerade frågor om CAISSI. I ett pressmeddelande uppgav Vita huset att Trump formellt har inrättat enheten Super Intelligence Force och beställt en rapport om riskerna med AI från sitt råd för vetenskap och teknik. Super Intelligence Force leds av den nationella underrättelsechefen Jay Clayton.

Centrets chef anställdes i april och avskedades efter några dagar. Efterträdaren avgick efter några månader. Nu leds centret tillfälligt av chefen för dess moderinstitut. CAISSI:s årsbudget är 10 miljoner dollar, vilket enligt AP är ungefär en åttondel av budgeten för motsvarande brittiska institution.

I augusti började kongressen fråga varför centret slutat publicera rapporter om vissa AI-systems säkerhet. OpenAI hade redan då bett beslutsfattarna ge centret mer pengar och stöd.

Kritiker befarar att resultat tystas ned

Kritiker befarar att den verkställande makten kan politisera beslut. Besluten kan påverka till exempel cybersäkerhet och biologiska vapen. Centrets resultat kan ändras eller tystas ned till förmån för teknikbranschen, menar kritikerna. Andra anser att närheten till Trump skulle kunna ge centret synlighet och kanske mer pengar.

Amos Toh, senior jurist vid Brennan Center for Justice, säger att administrationen framställer modellsäkerhet som en fråga om nationell säkerhet som kräver den verkställande maktens bedömning och sekretess. Därmed hamnar riskerna som rör konsumentskydd, integritet och medborgerliga rättigheter i skymundan, säger Toh.

I september bad Trump de ledande AI-företagen att förbinda sig till ett frivilligt säkerhetsavtal och ”enorm självövervakning”. Administrationen har inte berättat hur den följer upp att avtalet genomförs.

Logan Koepke vid teknik- och medborgarrättsorganisationen Upturn frågar vilken roll statliga tester har om de största företagen uppmuntras att bygga egna utvärderingar eller anlita externa utvärderare. Enligt AP har statens förmåga att oberoende granska AI-system inte hållit jämna steg med utvecklingen. Sayash Kapoor, blivande biträdande professor vid University of California, Berkeley, säger att det fortfarande inte finns något etablerat sätt att i verkliga miljöer testa säkerheten hos AI-agenter, alltså program som med hjälp av en modell agerar självständigt.