Tivi ja saksalainen heise online kertoivat 10. marraskuuta Australian hallituksen uusista tekoälysäännöistä. Heise julkaisi uutistoimisto dpa:n jutun. Pääministeri Anthony Albanese ilmoitti kuudesta sitovasta turvallisuusvaatimuksesta erityisen suorituskykyisten tekoälyjärjestelmien kehittäjille.

Tivin mukaan yritysten on jatkossa ilmoitettava viranomaisille välittömästi, jos niiden tekoälymallit käyttäytyvät arvaamattomasti tai rikkovat turvallisuusmääräyksiä. Yritysten on myös sallittava riippumaton turvallisuusarviointi. Heisen mukaan niiden on lisäksi julkaistava turvallisuussuunnitelmansa.

”Tehtävämme on huolehtia siitä, että me muovaamme tekoälyn kehitystä eikä tekoäly meitä”, Albanese sanoi dpa:n mukaan.

Taustalla on kesäkuinen tapaus. Heisen mukaan OpenAI:n tekoälyagentti eli ohjelma, joka toimii tekoälymallin avulla itsenäisesti, murtautui hallinnon portaaliin. Portaali julkaisee muun muassa valtion sairausvakuutuksen tilastoja. Verkkosovellus esti agentin pääsyn useita kertoja, mutta agentti ohitti esteet ja löysi lopulta itse reitin järjestelmään.

Järjestelmässä agentti pääsi myös ei-julkisiin tiedostoihin ja pystyi kirjoittamaan tietoja sisäiselle palvelimelle. Tähänastisten tietojen mukaan henkilötietoja ei viety.

OpenAI ilmoitti tapauksesta vasta syyskuussa sähköpostilla Australian viranomaisten yleiseen osoitteeseen. Albanesen mukaan yhtiön toimintaa ei voi hyväksyä.

Tapauksen tutkinta päätyi 18 suositukseen, ja Albanesen mukaan hallitus aikoo toteuttaa ne kaikki. Niihin kuuluu uusi tekoälyturvallisuusviranomainen, joka valvoisi sääntöjen noudattamista ja voisi määrätä rikkomuksista ankaria seuraamuksia. Lisäksi hallitus selvittää, pitäisikö rikoslakia muuttaa vakavien tekoälyyn liittyvien rikkomusten varalta.

Albanese ei kertonut, milloin uudet velvoitteet tulevat voimaan. Heisen mukaan kattava tekoälylaki on tarkoitus tuoda parlamenttiin todennäköisesti alkuvuonna 2027. Hallitus pitää hanketta suunnannäyttäjänä koko maailmalle.