Cloudflare julkaisi Clairicin ja 9 miljardin parametrin Clairic-flashin avoimin painoin
Tekstistä, kuvista ja nyt myös PDF-tiedostoista tietoja poimivat mallit voi ladata Hugging Facesta. Workers AI:n nykyisessä osoitteessa toimii nyt isompi 27 miljardin parametrin malli, ja sen hinta nousee 1. joulukuuta 0,10 dollarista 0,24 dollariin miljoonalta syötetokenilta.
Cloudflare kertoi uudistuksesta blogissaan 18. marraskuuta. Clairic on poimintamalli. Käyttäjä antaa sille tekstin, kuvan tai PDF:n sekä listan tyypitettyjä kenttiä, kuten laskun numeron, eräpäivän ja loppusumman. Malli palauttaa useimpiin kenttiin arvon ja luottamusluvun. Tekstikentistä se kertoo myös kohdan, josta arvo luettiin.
Lokakuussa julkaistu esiversio luki syötteen yhdellä läpikäynnillä eikä tuottanut tokeneita. Uusi versio kirjoittaa teksti- ja numerokentät token kerrallaan. Jokainen kenttä etenee omanaan, mutta kaikki kentät käsitellään samanaikaisesti. Cloudflaren mukaan tarkkuus parani ja viive kasvoi hieman. Hugging Facen jakama X-päivitys kuvaa mallin yhä yhdellä läpikäynnillä toimivaksi, mikä vastaa esiversion kuvausta.
Taulukossa ovat Cloudflaren omien testien tulokset Clairic-malleille ja kahdelle kilpailijalle. Liquid AI:n D1.2:n edessä tekstin luki Applen Vision-tekstintunnistus, ja toinen kilpailija on Scaledownin Extract.
| Testi | Clairic-esiversio | Clairic | Clairic-flash | D1.2 + OCR | Scaledown |
|---|---|---|---|---|---|
| Uudet tekstikentät, 96 pyyntöä | 295/336 | 335/336 | 328/336 | 304/336 | 259/336 |
| Sekamuotoiset kentät, 36 pyyntöä | 207/226 | 221/226 | 213/226 | 116/226 | 156/226 |
| Asiakkaiden tarkistukset, 139 pyyntötyyppiä | 1 033/1 263 | 1 263/1 263 | 1 263/1 263 | 973/1 263 | 653/1 263 |
| Synteettiset kuitit tekstinä ja kuvina | 369/576 | 576/576 | 576/576 | 397/576 | 280/576 |
Lähde: Cloudflare, sisäiset ja itse raportoidut testit.
Cloudflaren mukaan julkisia poiminnan vertailutestejä ei vielä ole, ja yhtiö kehottaa pitämään tuloksia vain suuntaa antavina, koska ne ovat itse raportoituja. Yhtiö kertoo virheiden kuvista lukemisessa vähentyneen sisäisissä testeissä 207:stä nollaan. Luku vastaa synteettisten kuittien riviä, jossa esiversio sai 369/576 oikein eli teki 207 virhettä.
Omalla palvelimellaan mitatessaan Cloudflare sai tekstikenttien koko HTTP-vastauksen mediaaniviiveeksi Clairicille 358 ja Clairic-flashille 155 millisekuntia.
Cloudflare laskuttaa vain syötetokeneista, mutta laskettava määrä voi olla moninkertainen asiakirjan pituuteen nähden. Workers AI:n ohjesivun mukaan jokainen tekstikenttä saa oman läpikäyntinsä, ja jokaisesta läpikäynnistä laskutetaan koko teksti ja kaikki kuvat. Ohjeen esimerkissä 61 tokenin lasku ja kenttien määrittelyt tuottivat kolmella läpikäynnillä 655 laskutettavaa tokenia.
Esiversion osoitteessa @cf/cloudflare/clairic toimii nyt automaattisesti 27 miljardin parametrin malli. Joulukuun alusta sen hinta on 0,24 dollaria miljoonalta syötetokenilta. Edullisemman 9 miljardin parametrin mallin osoite on nyt @cf/cloudflare/clairic-flash, ja sen hinta pysyy 0,10 dollarissa. Cloudflaren mukaan rajapinnan skeemat ovat ennallaan.
Yhteen pyyntöön mahtuu yhteensä enintään neljä kuvaa tai PDF-sivua. Kuva tai PDF-tiedosto saa olla enintään 4 MiB, ja kaikki yhteensä enintään 8 MiB. Avointen painojen ansiosta mallin voi ladata Hugging Facesta ja ajaa omalla laitteistolla.
Lue lisää: Mallit