Intfloat: E5-Base-v2

E5-Base-v2 is het Engelse embeddingmodel van intfloat met twaalf lagen en een 768-dimensionale representatie. Het zet voorbereide tekst om in één numerieke vector voor informatieopvraging, semantische vergelijking of gebruik als kenmerken in een andere taak. Het Base-v2-checkpoint is onderscheiden van de Large-v2-editie met vierentwintig lagen en 1024 dimensies en van de afzonderlijk getrainde meertalige E5-modellen.

Gebruik de getrainde rolprefixen

E5 verwacht een rol aan het begin van de invoer. Voor het ophalen van passages begint een vraag met “query:” en de bron die mogelijk het antwoord bevat met “passage:”. De fabrikant beveelt aan beide kanten “query:” aan voor symmetrische taken zoals semantische gelijkenis en parafrasezoeken. Hij beveelt dat prefix ook aan wanneer de vectoren kenmerken voor clustering of classificatie worden.

Een feedbackverzameling kan bijvoorbeeld verschillende formuleringen van een verzoek om dezelfde verbetering bevatten. Codeer die records met de aanbevolen symmetrische voorbereiding en vergelijk of cluster vervolgens de resulterende vectoren. Bewaar de oorspronkelijke bewoordingen en de recordidentifier bij elke representatie, zodat een cluster als daadwerkelijke klantberichten kan worden onderzocht in plaats van als een onverklaarde groep getallen.

Bereid bij een zoekverzameling vragen en bronpassages voor met hun bijbehorende rollen. Een bruikbare zoekvraag is “query: Which setting changes the notification frequency?”. De corpuspassage behoudt de uitleg en de relevante voorwaarden. Het prefix maakt deel uit van de voorbereiding waarmee het model is getraind; de maker merkt op dat weglaten ervan de prestaties vermindert.

Pool en vergelijk de representatie

Het officiële voorbeeld berekent een gemiddelde van de tokenrepresentaties met behulp van het attention-masker, sluit padding uit en normaliseert vervolgens de resulterende vector. Een inproduct tussen genormaliseerde embeddings levert cosinusgelijkenis op. De 768 uitvoerwaarden beschrijven één tekst; ze zijn geen antwoord, klasselabel of paarsgewijze rerankerscore.

In een clusteringworkflow vormt een andere fase groepen op basis van die vectoren. In een classificatieworkflow gebruikt een andere fase ze als invoerkenmerken. Het behouden van dat onderscheid maakt het resultaat makkelijker te interpreteren: de embedding vertegenwoordigt het record, terwijl de vervolgstap een groep of label bepaalt. Gebruik consistent één model en voorbereidingsconventie voor de representaties die worden vergeleken.

Werk binnen Engels en 512 tokens

De modelkaart zegt dat deze editie alleen voor Engels werkt en lange tekst afkapt op maximaal 512 tokens. Bereid samenhangende passages binnen die lengte voor, inclusief het vereiste rolprefix. Een lange review, een rapport of een handleiding moet rond betekenisvolle secties worden verdeeld in plaats van als te grote invoer te worden ingebed waarvan het einde verloren gaat.

Bewaar een kop bij de zinnen die hij inleidt en behoud de voorwaarde of uitzondering die de betekenis van een regel verandert. Behoud bij korte records zoals feedback het volledige bericht wanneer het past. Een bronidentifier en versie bij de vector laten een latere update van de verzameling het juiste record vervangen.

Interpreteer gelijkenis voor de taak

De maker legt uit dat de relatieve volgorde van cosinusscores belangrijker is dan een absolute waarde. Een filterdrempel moet worden beoordeeld op de eigen voorbeelden van de verzameling en vectorgelijkenis is geen gekalibreerde waarschijnlijkheid van een overeenkomend label of correct antwoord. Onderzoek nabijgelegen records en bekende niet-overeenkomsten wanneer u beslist hoe de vectoren worden gebruikt.

Het bruikbare resultaat is een Engelse zoekindex, een verzameling voor semantische vergelijking of numerieke tekstkenmerken gekoppeld aan hun bronrecords. Dit Base-v2-profiel levert zijn eigen dimensies, pooling en rolvoorbereiding; de vectorvorm of taalondersteuning van een andere E5-editie stelt geen uitwisselbare representatie vast.