Kiinalainen Moonshot AI kertoi 5. marraskuuta julkaisseensa Kimi Hosted Agents -palvelun. Siinä Moonshot ylläpitää yritysten tekoälyagenttien ajoympäristöä omassa pilvessään. Yhtiön mukaan ympäristö on käytössä ympäri vuorokauden ja tukee pitkiä tehtäviä sekä usean agentin yhteistyötä.

Palvelu tarjoaa harnessin eli agenttia ohjaavan ohjelman, joka antaa mallille työkalut ja ajaa sen työvaiheet. Moonshotin mukaan yrityksiltä menee tavallisesti kuukausia oman harnessin rakentamiseen. Siihen kuuluvat koodin ajoympäristö, istuntojen hallinta, työkalukutsut, käyttöoikeudet ja keskeytyneen tehtävän jatkaminen.

Mitä alusta hoitaa

Kimin dokumentaation mukaan alusta tallentaa istunnon koko historian ja ajaa sisäänrakennetut työkalut eristetyssä pilvihiekkalaatikossa. Yrityksen omat työkalut toimivat edelleen asiakkaan omassa ohjelmassa. Yhtiön lupauksen mukaan alusta hoitaa uudelleenyritykset ja jatkaa tehtävää automaattisesti, jos vika on alustassa.

Usean agentin työnjaosta kertoo Unite.AI:n juttu, jonka on kirjoittanut tekoäly ja tarkistanut toimitus. Sen mukaan koordinoiva agentti voi jakaa osatehtäviä enintään 20 agentille samassa istunnossa. Osatehtäviä tekevät agentit eivät voi jakaa työtä eteenpäin eivätkä viestiä suoraan keskenään.

Valmiina on yli 140 skilliä eli agentille paketoitua toimintoa ja yli 30 lisäosaa. Ne kattavat esimerkiksi verkkohaun, datahaut ja toimistodokumentit. Yritys voi liittää palveluun omia työkalujaan ja MCP-palvelimiaan. Dokumentaatiossa on 12 valmista agenttipohjaa: tiedotteen korostamat kahdeksan rahoitusalan pohjaa, kaksi pelialan pohjaa sekä IT-häiriöiden selvittelyn ja Discord-yhteisöjen hoidon pohjat.

Tietoturva ja asiakkaan omat koneet

Agentin verkkoyhteyksiä voi rajata, istunnon voi keskeyttää ja ajolokit voi viedä auditointia varten. Kimi Inference Hook -lisäkomponentin avulla yrityksen oma tai ostettu tietoturvapalvelu tarkistaa ennen jokaista mallikutsua tehtävän syötteet ja työkalujen palauttaman sisällön. Säännöt määrittää yritys. Hook on vain yritykseksi varmennettujen asiakkaiden saatavilla, ja sitä pyydetään myynnistä.

Myös asiakkaan itse ylläpitämä ympäristö on vain varmennetuille yrityksille. Siinä hiekkalaatikon työkalut toimivat asiakkaan koneella, mutta Kimin alustalla pysyvät mallikutsut, agenttien ohjaus ja istunnot. Unite.AI:n mukaan Kimi korostaa, ettei tämä ole yksityinen asennus: työkalujen syötteet ja tulokset kulkevat yhä alustan mallirajapinnan kautta. Lehden mukaan tämä versio ei tue esimerkiksi IPythonia, ja verkkohaku toimii edelleen alustalla maksullisena.

Hinta ja saatavuus

Dokumentaation mukaan hinta koostuu mallin tokeneista, hiekkalaatikon ajoajasta ja lisäosakutsuista. Pandaily kertoo IT Homen tietoihin viitaten, että hiekkalaatikko maksaa 0,072 juania tunnilta. Samaa lukua käyttää Unite.AI. Tech in Asian mukaan sen läpikäymä dokumentaatio ei vahvistanut hintoja.

Palvelua käytetään Kimin kehittäjäalustalla (platform.kimi.com) verkkokonsolin, rajapinnan tai kha-komentorivityökalun kautta. Unite.AI:n mukaan beta tuli tarjolle syyskuussa varmennetuille kiinalaisille yrityksille. Dokumentaatiossa palvelu on yhä merkitty betaksi.