Voyage AI: Voyage 3.5 Lite

Voyage 3.5 Lite omvandlar text till inbäddningar för semantisk informationssökning. Voyage AI beskriver denna version som optimerad för latens och kostnad, vilket gör den till en kandidat för söktjänster som ofta bäddar in inkommande frågor eller underhåller stora samlingar sökbara avsnitt. Utdata är en numerisk representation av den inmatade texten, som en sökapplikation jämför med vektorer lagrade för källmaterialet.

Börja med en samling vars indelning motsvarar användarens uppgift. I ett hjälpcenter kan ett avsnitt förklara en procedur och dess förutsättningar. I ett diskussionsarkiv bör tillräckligt mycket av svarskedjan bevaras för att det ska framgå vad svaret gäller. Ett resultat bör leda till ett läsbart underlag, så lagra originaltexten, en stabil källänk och dokumentets metadata tillsammans med varje inbäddning.

Formulera testfrågorna som användarna skulle ställa dem. ”Var ändrar jag adressen på en faktura?” är en mer användbar sökkontroll än en kopia av den relevanta artikelrubriken. Ta med korta frågor, omformuleringar, fackförkortningar och fall som nämner flera begrepp. Granska de returnerade avsnitten och avgör om en missad träff beror på saknat källinnehåll, olämpliga avsnittsgränser eller ett val i sökningen.

Tillverkaren dokumenterar ett kontextfönster på 32 000 token. Det medger omfattande textindata, medan avsnittslängden fortfarande är ett designval för sökupplevelsen. Håll ett koncentrerat svar samman med nödvändiga villkor och undvik att skilja en definition från termen den förklarar. Extrahera läsbar text från källan och ta bort navigering som upprepas på varje sida när den skymmer den information användaren söker.

Voyage 3.5 Lite stöder 2 048, 1 024, 512 och 256 dimensioner. Flyttalsrepresentationer, åttabitars heltal och binära representationer ger ytterligare val för vektorindexet. Testa en mindre eller kvantiserad representation mot samma frågor och textsamling som används för referensen med full precision. Spara vald modell, dimension och datatyp med indexet så att frågevektorerna använder motsvarande inställningar.

I tillverkarens sökarbetsflöde anges indexerade avsnitt som document och inkommande sökningar som query. Bevara kopplingen mellan varje returnerad vektor och dess inmatade text när flera avsnitt behandlas tillsammans. En lyckad inbäddningsoperation levererar vektorer; applikationen måste fortfarande lagra dem i rätt poster och visa källutdraget när användaren öppnar ett resultat.

Använd denna version för en sökbar supportsamling, ett verktyg för dokumentsökning eller en assistents informationshämtningssteg. För flerspråkigt material bör de språkkombinationer som finns i den egna samlingen utvärderas, i stället för att förlita sig på ett enda engelskt test. Håll behörigheter och språkmetadata tillgängliga för applikationen så att en relevant träff kan filtreras och visas i rätt sammanhang.

När samlingen växer bör vektorerna för ändrade avsnitt uppdateras tillsammans med källornas versioner. Behåll en uppsättning verkliga frågor med enkla träffar, svåra omformuleringar och liknande dokument med olika svar. Mät sökkvaliteten och beteendet i hela sökflödet under den förväntade belastningen. Tillverkarens positionering av Lite hjälper till att välja en kandidat; den slutliga dimensionen, avsnittsstrategin och indexinställningarna bestäms utifrån resultaten på det egna materialet.