Uutistoimisto AP:n toimittaja Garance Burke kertoi 8. marraskuuta ABC Newsin julkaisemassa jutussa, että Yhdysvaltain hallinnon pieneltä tekoälyn turvallisuusyksiköltä puuttuu vakituinen johtaja. Se on myös lopettanut tutkimustensa julkaisemisen.

Yksikkö on kauppaministeriön itsenäinen osasto Center for Advancing Innovation and Standards for Super Intelligence (CAISSI). Sen tehtävä on arvioida uusien tekoälytuotteiden turvallisuutta. Vielä hiljattain sen nimi oli U.S. Center for AI Standards and Innovation. Super Intelligence on presidentti Donald Trumpin suosima nimitys tekoälylle.

Tieto perustuu nimettömiin lähteisiin

Kaksi entistä hallinnon virkamiestä kertoi AP:lle, että CAISSI:n virkamiehiä on hiljattain pyydetty raportoimaan epävirallisesti eräälle Valkoisen talon toimistolle. He puhuivat nimettöminä, jotta nykyiset työntekijät eivät kärsisi seurauksista. AP ei kerro, kuka pyynnön esitti.

Valkoinen talo ei vastannut AP:n yksityiskohtaisiin kysymyksiin CAISSI:sta. Tiedotteessaan se kertoi Trumpin perustaneen virallisesti Super Intelligence Force -yksikön ja tilanneen tiede- ja teknologianeuvostoltaan raportin tekoälyn riskeistä. Super Intelligence Forcea johtaa kansallisen tiedustelun johtaja Jay Clayton.

Keskuksen huhtikuussa palkattu johtaja erotettiin muutaman päivän kuluttua, ja hänen seuraajansa erosi muutaman kuukauden jälkeen. Nyt keskusta johtaa väliaikaisesti sen emo-instituutin johtaja. CAISSI:n vuosibudjetti on 10 miljoonaa dollaria, mikä on AP:n mukaan noin kahdeksasosa Britannian vastaavan laitoksen budjetista.

Elokuussa kongressi alkoi kysyä, miksi keskus lakkasi julkaisemasta raportteja tiettyjen tekoälyjärjestelmien turvallisuudesta. OpenAI oli jo tuolloin pyytänyt päättäjiä antamaan keskukselle lisää rahaa ja tukea.

Kriitikot pelkäävät havaintojen vaimentamista

Arvostelijat pelkäävät, että toimeenpanovalta saattaa politisoida päätöksiä. Päätökset voivat vaikuttaa esimerkiksi kyberturvallisuuteen ja biologisiin aseisiin. Arvostelijoiden mukaan keskuksen havaintoja voidaan muuttaa tai vaimentaa teknologia-alan hyväksi. Toisten mielestä läheisyys Trumpiin voisi tuoda keskukselle näkyvyyttä ja ehkä lisää rahaa.

Brennan Center for Justicen vanhempi lakimies Amos Toh sanoo hallinnon esittävän mallien turvallisuuden kansallisena turvallisuuskysymyksenä, joka vaatii toimeenpanovallan harkintaa ja salassapitoa. Hänen mukaansa tällöin varjoon jäävät kuluttajansuojaan, yksityisyyteen ja kansalaisoikeuksiin liittyvät riskit.

Syyskuussa Trump pyysi johtavia tekoälyyhtiöitä sitoutumaan vapaaehtoiseen turvallisuussopimukseen ja ”valtavaan itsevalvontaan”. Hallinto ei ole kertonut, miten se seuraa sopimuksen toteutumista.

Teknologia- ja kansalaisoikeusjärjestö Upturnin Logan Koepke kysyy valtion testauksen roolia, jos suurimpia yhtiöitä kannustetaan rakentamaan omat arviointinsa tai palkkaamaan ulkopuolisia arvioijia. AP:n mukaan valtion kyky tarkastaa tekoälyjärjestelmiä riippumattomasti ei ole pysynyt kehityksen tahdissa. Kalifornian yliopiston Berkeleyn tuleva apulaisprofessori Sayash Kapoor sanoo, ettei vieläkään ole vakiintunutta tapaa testata todellisissa ympäristöissä tekoälyagenttien eli mallin avulla itsenäisesti toimivien ohjelmien turvallisuutta.