VoyageAI by MongoDB: voyage-code-4

voyage-code-4 er Voyage AI’s kodespecialiserede embeddingmodel til søgning i kodelagre og genfinding til kodeagenter. Den er designet til at hjælpe med at finde relevant kildekode, når udgangspunktet er et spørgsmål, et symptom eller en opgavebeskrivelse frem for en kendt identifikator. Den repræsenterer kode og tekstlig information som numeriske vektorer til genfinding; den redigerer ikke kodelageret og genererer ikke en rettelse.

Genfind kode ud fra det problem, der undersøges

Producenten beskriver et træningskorpus udvalgt fra afsluttede pull requests, som forbinder forespørgsler i naturligt sprog med kode. Det er en meningsfuld forskel fra træningseksempler, der hovedsageligt bygger på kildefiler og deres docstrings: Genfindingsopgaven kan begynde med den adfærd, der skal undersøges.

Forbered en forespørgsel såsom »Find det sted, hvor et tomt resultat får en vellykket operation til at blive rapporteret som en fejl.« Indeksér læsbare kildekodeafsnit med deres filstier og relevante kommentarer. Bevar funktionens omgivende betingelser, når de forklarer dens adfærd. En returneret kandidat bør føre læseren eller agenten tilbage til det kildekodeafsnit, den repræsenterer.

Semantisk genfinding kan supplere præcis identifikatorsøgning og fuldtekstsøgning. Hvis funktionsnavnet allerede er kendt, er et præcist opslag fortsat nyttigt. Hvis kun et symptom er kendt, kan vektorsøgning give kandidater, som undersøges, og søgningen forfines med endnu en forespørgsel.

Query- og document-roller

Voyages genfindingsvejledning adskiller forespørgslen fra korpusdokumentet gennem inputtyperne query/document. Ved kodesøgning bruges problem- eller opgavebeskrivelsen som query og den indekserede kildekode eller dokumentation som document. Den offentliggjorte opskrift tilføjer rollespecifikke genfindingsinstruktioner under embedding.

Hold kodens oprindelige formatering, navne og relevante dokumentation tilgængelig uden for vektoren. Ved et kildekodeafsnit skal filstien og placeringen bevares; ved en programmeringsvejledning skal overskriften bevares. Undersøg den faktiske kode og dens kaldere efter genfinding, før en ændring vælges. En kandidats relevans fastslår ikke, at den er den eneste årsag til et rapporteret problem.

Kontekst- og repræsentationsvalg

Den præcise models offentliggjorte kontekstlængde er 32.000 tokens. Dens standardembedding har 1024 dimensioner, og 256, 512 og 2048 dimensioner understøttes også gennem Matryoshka-læring. Annonceringen dokumenterer repræsentationer med 32-bit-flydende tal, 8-bit-heltal med og uden fortegn samt binære repræsentationer.

Vælg én dimension og repræsentation til samlingen, og gem dem sammen med metadataene. Vektorer med flydende tal og kvantiserede repræsentationer kræver den tilsvarende lagrings- og sammenligningshåndtering. En binær repræsentation koder vektorinformation anderledes end en liste af almindelige koordinater med flydende tal; bevar forskellen, når resultater forberedes til søgning.

Ved en lang fil skal du vælge sammenhængende afsnit, hvis kildeplaceringer kan genfindes. En funktion kan have brug for en tilstødende typedefinition eller kommentar til at forklare en betingelse, mens en hel, for stor fil kan indeholde uvedkommende materiale. Hold afsnittet afstemt med den opgave, der skal søges efter, frem for at behandle maksimal kontekst som en foretrukken stykkestørrelse.

Brug genfundet kildekode som evidens

En praktisk kodeagentarbejdsgang genfinder kandidatkode, læser filerne, følger relevante henvisninger og indsnævrer søgningen, efterhånden som undersøgelsen skrider frem. Den genfundne tekst bliver kontekst til ræsonnements- eller redigeringstrinnet. Bevar tilknytningen til den indekserede kodelagerrevision, så en kandidat undersøges ud fra den korrekte kildekode.

voyage-code-4’s udgavespecifikke bidrag er fokus på kodeagenters trin fra problem til kodegenfinding sammen med fleksible dimensioner og repræsentationer. Outputtet er en genfindingsvektor, mens diagnose, redigering og validering fortsat er separate opgaver forankret i det faktiske kodelager.