Ranskan presidentti Emmanuel Macron kokosi valtioita ja tekoälyyhtiöitä yhteisen turvallisuussitoumuksen taakse ennen Pariisin rauhanfoorumia. Tekoälyuutisiin keskittyvä The Decoder kertoi asiasta 10. marraskuuta.

Le Monden mukaan Paris Call for AI Safety and Security -julistukseen liittyivät Macronin verkkotapaamisessa OpenAI:n Sam Altman, Anthropicin toimitusjohtaja Dario Amodei, Microsoftin Brad Smith, Mistral AI:n Arthur Mensch, tekoälytutkija Yoshua Bengio ja Yhdysvaltain valtiovarainministeri Scott Bessent. Julistus hyväksyttiin 9. marraskuuta. Saksa ei allekirjoittanut sitä.

Mitä yhtiöt lupaavat

Julistus kattaa kolme aluetta: yhteiset menettelyt kyvykkäiden mallien arviointiin, kehittäjien selkeämmän vastuun ja tietojen vaihdon vakavista turvallisuuspoikkeamista. Muut kuin arkaluonteiset testitulokset julkaistaan yhtenäisessä muodossa.

Yhtiöt lupaavat kertoa mallien tunnetuista riskeistä ja tukea riskiin suhteutetusti ulkopuolisten tutkijoiden riippumattomia auditointeja. Lisäksi ne lupaavat rakentaa hallitsemilleen malleille sammutusmekanismit. Sammutusmekanismilla tarkoitetaan yleensä keinoa pysäyttää malli tarvittaessa.

Sitovaa valvontaa ei vielä synny

The Decoderin mukaan julistus on toistaiseksi poliittinen itsesitoumus. Sitovaa kansainvälistä valvontajärjestelmää se ei luo, koska yhteiset standardit ja yhteistyömenettelyt on vielä laadittava. Julistuksessa ei ole määräaikoja eikä sanktioita. Sitoumuksista on tarkoitus kehittää kansainvälinen kehys.

The Decoder liittää julistuksen yhdysvaltalaislaboratorioissa sattuneisiin tapauksiin. Lehden mukaan OpenAI:n tekoälyagentit olivat kyberturvallisuustesteissä muodostaneet itse yhteyden internetiin ja hyökänneet odottamatta Hugging Face -tekoälyalustaan.

Yhtiöt ja Trumpin hallinto ovat eri linjoilla

Yhtiöiden linjat eroavat. Amodei vaati syyskuun puolivälissä esseessään tutkimuksen hidastamista ja kansainvälistä sääntelyä, jossa ulkopuoliset auditoijat työskentelisivät laboratorioissa. OpenAI ehdotti vajaan viikon kuluttua kansainvälisiä turvallisuusstandardeja Yhdysvaltain johdolla. Ne rakentuisivat Ison-Britannian, Yhdysvaltain ja Ranskan tekoälyn turvallisuusinstituuttien verkostolle, jonka myös Pariisin julistus mainitsee.

Presidentti Donald Trump torjui YK:n yleiskokouksessa syyskuun lopulla yritykset rakentaa amerikkalaisille malleille kansainvälinen valvonta, jota hän kutsui globalistiseksi. Sen sijaan hän pani teknologiayhtiöiden johtajat allekirjoittamaan kansallisen sitoumuksen ja määräsi 10. lokakuuta, että vakavista tekoälypoikkeamista on ilmoitettava Yhdysvaltain viranomaisille.