Voyage AI: Voyage Context 3

Voyage Context 3 skapar kontextualiserade segmentinbäddningar för dokumentsökning. Varje textsegment får en egen vektor, samtidigt som modellen beaktar de andra segment som har skickats från samma dokument. Det ger söksystemet en representation av det lokala avsnittet tillsammans med bredare dokumentkontext, exempelvis en entitet eller ett ämne som introduceras någon annanstans i källan.

Förbered varje dokument som en ordnad följd av läsbara textsegment. Håll segmenten från samma dokument tillsammans och bevara deras ursprungliga ordning. I tillverkarens kontextualiserade arbetsflöde innehåller varje inre grupp segmenten från en källa, medan olika grupper representerar olika källor. Grupperingen är en del av indatas betydelse: den anger vilken omgivande text som hör till dokumentet som representeras.

Ett användbart fall är en rapport vars inledning identifierar företaget medan ett senare stycke förklarar dess tillväxt. En sökning efter företagets tillväxt behöver både det specifika stycket och dokumentets identitet. Behåll originalsegmentets text och det överordnade dokumentets metadata tillsammans med den resulterande vektorn så att resultatet kan visa avsnittet och länka till hela källan.

Tillverkarens referens dokumenterar upp till 120 000 token i en förfrågan, med högst 1 000 indatagrupper och totalt 16 000 textsegment. Modellguiden anger separat ett fönster på 32 000 token per segment. Håll dessa omfattningar åtskilda när materialet förbereds: en gräns för ett enskilt segment och en gräns för hela förfrågan beskriver olika indatastorlekar. Kontrollera totalsumman efter uppdelningen av källan i stället för att anta att varje enskilt segment kan fylla sin maximala storlek i samma förfrågan.

Vid dokumentsökning anges de grupperade avsnitten som dokumentindata. Förbered varje sökfråga som en egen frågegrupp. Tillverkaren rekommenderar att de inmatade dokumentsegmenten inte överlappar, så att den kontextualiserade representationen kan bära omgivande information utan att text upprepas i varje avsnitt. Bevara sambandet mellan dokumentgrupp, segmentposition och returnerad vektor när indexet skrivs.

Voyage Context 3 stöder 2 048, 1 024, 512 och 256 dimensioner samt utdata som flyttal, åttabitars heltal och binära representationer. Välj en indexrepresentation och utvärdera den mot samma källdokument och frågor. Spara vald dimension och datatyp med indexet så att frågornas representation och de lagrade vektorerna förblir konsekventa.

Använd de resulterande vektorerna för avsnittssökning, dokumentsökning eller informationshämtningen i en assistent som arbetar med rapporter, forskningsartiklar, avtal eller tekniska handböcker. Ett resultat kan peka ut ett fokuserat avsnitt, medan källänken ger tillgång till definitioner och förbehåll på andra ställen i dokumentet. Bevara dokumentversioner och behörigheter som applikationsmetadata tillsammans med vektorerna.

Testa frågor som kräver både en lokal detalj och dokumentövergripande kontext. Ta med liknande avsnitt från olika källor, namngivna entiteter som endast introduceras i början och frågor vars underlag finns i flera sektioner. Granska om det förväntade segmentet hämtas och om applikationen visar tillräckligt mycket omgivande text för tolkningen. När en källa ändras bör den berörda dokumentgruppen återskapas medvetet så att dess kontextualiserade segment motsvarar en sammanhängande version.