Box: Agentsökning byggd på Nvidias modeller kan minska tokenanvändningen med 90 procent
Box nya sökmotor Context Retrieval hämtar åt AI-agenter de stycken i företagets filer som är relevanta för frågan. Den ska bli tillgänglig i början av 2027. Förbättringssiffrorna är företagens egna, och det har inte uppgetts vad de jämförs med.
Box meddelade torsdagen den 5 november på konferensen BoxWorks 2026 i San Francisco att företaget bygger en ny sökmotor för AI-agenter tillsammans med Nvidia. Motorn heter Box Context Retrieval och bygger på Nvidias Nemotron Retriever-modeller.
Aaron Levie, vd för Box, beskrev idén så här för TechCrunch: ”I stället för att en agent ska behöva läsa igenom varje dokument kan vi skicka tillbaka de stycken ur dokumenten som är mest relevanta för användarens fråga eller för den uppgift som agenten utför.”
Så fungerar sökningen
Ben Kus, teknikchef på Box, berättade för investerare att systemet hanterar olika filformat och skapar textindex och inbäddningar av dem. När filerna ändras uppdaterar systemet indexen. Uppgifterna kommer från en artikel som MarketBeat har genererat automatiskt och som Yahoo Finance har publicerat.
En inbäddning är en talföljd som beskriver textens betydelse. Med den kan sökningen hitta ett stycke som handlar om samma sak även om andra ord används. Box sökning kombinerar sådan betydelsebaserad sökning med vanlig nyckelordssökning.
Enligt pressmeddelandet från Box omfattar sökningen även skannade dokument, bilder, ljud och video. Agenten får bara information från innehåll som användaren har behörighet till.
Siffrorna är företagens egna
Box skriver i pressmeddelandet att kunderna kan förbättra söknoggrannheten med 20 procent, minska tokenanvändningen med 90 procent och få svar fyra gånger snabbare. Noggrannheten har mätts med måttet Recall@5. Det anger hur stor andel av de relevanta styckena som finns bland de fem första sökträffarna.
Kus presenterade siffrorna som resultat från Box egna tester och angav förbättringen av noggrannheten till över 20 procent. Han uppgav inte vad resultaten jämfördes med, skriver MarketBeat. Kari Briski, chef för generativ AI-programvara på Nvidia, presenterade samma siffror för TechCrunch som förväntningar. Hon beskrev dock förbättringen av noggrannheten som 20 procent färre fel. Antalet träffar bland toppresultaten och felfrekvensen är olika mått.
Enligt MarketBeat sade Levie att sökprodukten inte konkurrerar med andra system utan kompletterar dem. Produkten är enligt honom ett alternativ för kunder som inte vill bygga och underhålla ett eget söksystem.
Tillgänglighet
Enligt Box blir Context Retrieval tillgänglig för Enterprise Advanced-kunder i början av 2027. Den blir även tillgänglig för Shield-prenumeranter, uppger SiliconANGLE. Box påminner själv i pressmeddelandet om att funktioner som ännu inte har lanserats kan försenas eller aldrig levereras.
Enterprise Advanced-kunder kan redan nu använda Nvidias Nemotron-modeller i Box AI. Först ut är Nemotron 3 Ultra. Nemotron-modellerna är modeller med öppna vikter, vilket betyder att modellvikterna är fritt tillgängliga.
Läs mer: Modeller