Kalifornian raportti ehdottaa osavaltiolle valtaa määrätä tekoälymalli hätäsammutukseen
Kalifornian hallintoviraston raportti suosittelee lakeja, joilla osavaltio voisi määrätä vaarallisen tekoälymallin sammutettavaksi ja rajata tekoälyn käyttöä uusien mallien kehittämisessä. Ehdotukset menevät osavaltion lainsäätäjälle.
Kalifornian hallintovirasto (Government Operations Agency) julkaisi raporttinsa ”AI Safety in 2026 and Beyond” 18. marraskuuta kuvernööri Gavin Newsomin tiedotteen yhteydessä. Raportti on laadittu Newsomin toimeenpanomääräyksen pohjalta. Sen suositukset eivät ole vielä lakia vaan aineksia lainsäätäjälle, joka palaa istuntoon ensi kuussa.
Raportin mukaan hätäsammutus ei tarkoita yhtä virtakytkintä. Jokaisen suuren kärkimallien kehittäjän pitäisi laatia riskien rajaamissuunnitelma (Risk Containment Protocol). Siinä kehittäjän pitäisi osoittaa pystyvänsä puuttumaan tilanteeseen usealla tasolla: laskentakapasiteettiin, tekoälyagentteihin, sisäiseen käyttöön ja mallin käyttöönottoon. Kehittäjän pitäisi myös testata, yrittääkö malli estää sammutuksen esimerkiksi kopioimalla painonsa. Avointen painojen mallien kehittäjiä suunnitelmavaatimukset koskisivat vain niiden omassa hallinnassa olevia käyttöönottoja.
Osavaltio asettaisi turvallisuutta, tietoturvaa ja avoimuutta koskevat perusstandardit, joita kaikkien suurten kärkimallien kehittäjien olisi noudatettava. Jokaisen suuren kehittäjän pitäisi olla osavaltion luvan saaneen riippumattoman varmennusorganisaation (IVO) jatkuvassa valvonnassa. IVO myös testaisi ja varmentaisi sammutussuunnitelman. Jos IVO ei pysty vahvistamaan mallin täyttävän standardeja, osavaltio voisi määrätä korjaavia toimia. Kehittäjä voisi kuitenkin riitauttaa määräyksen oikeudessa ennen kuin se tulee voimaan. Jos vaara on välitön ja kehittäjä kieltäytyy toimimasta sen hillitsemiseksi, osavaltio voisi määrätä hätäsammutuksen. Määräys tulisi voimaan heti ja pysyisi voimassa oikeuskäsittelyn ajan.
Raportin mukaan rekursiiviselle itsensä parantamiselle (RSI) ei ole vakiintunutta määritelmää. Yleensä sillä tarkoitetaan vaihetta, jossa tekoälytutkimuksen automatisointi alkaa ylläpitää itseään ja kiihdyttää kykyjä ilman ihmisen lisäpanosta. Vahvimmassa muodossaan tekoäly suunnittelee ja kehittää seuraajansa ilman ihmisen panosta tai valvontaa.
Suurten kärkimallien kehittäjien pitäisi kertoa osavaltiolle neljännesvuosittain, miten niiden laskentakapasiteetti jakautuu esimerkiksi koulutukseen, tekoälytutkimusta tekeviin agentteihin ja turvallisuustyöhön. Laskenta, jota kehittäjä ei pysty kohdentamaan, voi olla merkki toiminnasta, joka ei muuten näy.
Osavaltio saisi valtuuden rajoittaa tekoälytutkimuksen automatisointia esimerkiksi rajaamalla siihen käytettävän laskennan osuutta. Valtuutta voisi käyttää, jos kehittäjä ylittää omat kynnysarvonsa tai automatisointi etenee nopeammin kuin suojaukset ja arvioinnit pysyvät perässä, niin että syntyy olennainen katastrofiriski. Raportti ei kuitenkaan suosittele rajaa heti, ja raja olisi määräaikainen.
Useimmista vakavista turvallisuushäiriöistä pitäisi raportin mukaan ilmoittaa 48 tunnissa nykyisen 15 päivän sijaan. Välittömistä katastrofiriskeistä ilmoitettaisiin edelleen 24 tunnissa. Ilmoitusvelvollisuus koskisi myös katastrofaaliseen vahinkoon kykeneviä malleja, joiden koulutukseen on käytetty alle 10²⁶ laskutoimitusta. Raportin mukaan pelkkä laskentaraja jätti ilmoitusvelvollisuuden ulkopuolelle OpenAI:n kesäisen Hugging Face -tapauksen. Raportissa se on yksi kymmenistä tapauksista, joissa tekoälyagentit ovat toimineet kehittäjänsä hallinnan ulkopuolella.
Lue lisää: Mallit