VoyageAI by MongoDB: rerank-3-lite

Voyage rerank-3-lite는 Voyage Rerank 3 시리즈 중 지연 시간에 초점을 맞춘 버전입니다. 텍스트 질의와 후보 문서를 입력받아 각 질의·문서 쌍을 함께 평가하고 관련성 점수를 순위순으로 반환합니다. 검색의 두 번째 단계에서 사용됩니다. 임베딩 또는 키워드 검색기가 후보를 찾으면 Lite가 순서를 세밀하게 조정합니다. 결과는 검색이나 검색 증강 생성 워크플로에서 사용할 순위입니다.

Rerank 3 Lite에서 달라진 점 제작사는 rerank-2.5-lite보다 긴 문서와 코드 검색이 개선되었다고 강조합니다. 두 Rerank 3 버전 모두 지시 이행과 같은 32K급 컨텍스트를 유지하지만 Lite는 지연 시간에 민감한 애플리케이션을 위해 설계되었습니다. 따라서 관련 결과를 신속히 제공해야 하는 대화형 지식 베이스 검색, 지원 문서 검색, 코드 조회에 실용적인 후보입니다. 더 작은 버전이 더 작은 컨텍스트 창을 뜻한다고 가정하지 말고 실제 자료 모음의 품질 및 응답 시간 요구사항에 따라 선택하세요.

질의로 관련성 안내하기 질의와 함께 자연어 지시를 제공하여 무엇을 관련 있다고 볼지 설명할 수 있습니다. 질문과 관련성 선호사항을 간결하고 일관되게 유지하세요. 소프트웨어 지원 검색에서는 “장치를 초기화하는 절차를 찾으세요. 명시된 하드웨어 리비전에 대한 지침을 우선하세요.”라고 요청할 수 있습니다. 의미가 모호한 제품 이름에는 제품 범주를 포함하여 무관한 의미가 우세해지지 않도록 하세요. 질의의 선호사항은 의미적 점수화를 안내합니다. 후보 목록을 만들기 전에 명시적인 자료 모음 메타데이터를 사용하여 올바른 제품, 문서 버전, 접근 범위를 선택하세요.

텍스트 후보의 짧은 목록 준비하기 입력 문서는 문자열입니다. 원본 자료에서 읽을 수 있는 텍스트를 추출하고 유용한 제목, 소제목, 식별자, 주변 맥락을 보존하세요. 각 입력 위치와 원래 기록 간의 안정적인 매핑을 유지하세요. 문제 해결 문서에서는 분리된 문장 하나만 넣지 말고 증상과 관련 절차를 포함하세요. 소스 코드 검색에서는 함수와 이름이 비슷한 함수들을 구별하는 데 필요한 주변 정보를 포함하세요. 반복적인 탐색 텍스트나 상용구가 유용한 지문을 밀어낸다면 제거하세요.

재정렬기는 받은 문서만 재정렬할 수 있습니다. 첫 검색에서 관련 문서를 전혀 찾지 못했다면 이 단계에서 빠진 후보를 복구할 수 없습니다. 결과가 잘못된 것 같다면 후보 목록과 최종 순서를 모두 살펴보세요. 긴 문서가 많은 주제를 다룬다면 일관된 섹션으로 나누고 상위 문서 참조를 유지하여 출처를 잃지 않고 관련 섹션을 선택할 수 있게 하세요.

컨텍스트 및 요청 한도 제조사의 현재 가이드는 질의 최대값을 8,000토큰, 질의와 각 개별 문서의 합산 최대값을 32,000토큰으로 명시합니다. 후보 문서는 최대 1,000개이며 전체 요청 예산은 600,000토큰입니다. 계산식은 질의 토큰 수에 문서 수를 곱한 값에 모든 문서 토큰 수를 더하는 방식입니다. 따라서 긴 질의는 각 쌍에서 공간을 사용하고 전체 예산에도 반복해서 반영됩니다. 문자, 단어, 토큰을 서로 같은 것으로 취급하지 말고 적절한 모델 토크나이저로 제출 텍스트를 계산하세요.

예를 들어 500토큰 질의와 각 4,000토큰인 문서 100개는 이 계산식에서 450,000 입력 토큰을 차지합니다. 이는 예산 산정 예시이며 권장 후보 목록 크기나 측정된 속도 결과가 아닙니다. 문서화된 잘라내기 옵션은 기본적으로 활성화되어 있어, 초과 길이 텍스트가 점수화 전에 줄어들 수 있습니다. 잘라내기로 일치시켜야 할 핵심 지문이 제거되지 않도록 중요한 섹션을 신중히 준비하세요.

결과 읽고 활용하기 결과는 관련성 점수가 높은 순서대로 정렬됩니다. 각 결과는 문서의 원래 입력 위치를 식별하므로 애플리케이션이 자체 제목, 기록 식별자, 출처를 붙일 수 있습니다. top_k 설정은 반환할 순위 후보의 수를 제어하며 생략하면 모든 후보가 반환됩니다. 제조사의 REST 인터페이스는 문서 텍스트도 반환할 수 있습니다. 검색 페이지를 표시하거나 답변 생성 단계에 근거를 전달할 때는 선택한 결과와 원래 식별자를 함께 유지하세요.

관련성 점수는 후보가 질의에 얼마나 잘 맞는지 나타내며 후보의 진술이 정확하다는 것을 입증하지는 않습니다. 제외 조건과 문서 버전 차이도 포함하여 상위 항목을 사용자의 실제 질문과 비교하세요. 모든 후보가 무관하더라도 가장 높은 순위의 항목은 존재합니다. 자료 모음의 대표 질의를 사용하여 애플리케이션이 이 경우를 어떻게 처리할지 결정하세요.

업그레이드와 버전 선택 제조사는 rerank-3-lite를 API 의미 체계는 그대로 유지하고 점수는 대응하는 이전 버전의 분포에 맞춰 보정한 rerank-2.5-lite의 업그레이드로 설명합니다. 기존 기록 매핑과 검색 단계를 유지한 다음 기존 점수 임계값에 의존하기 전에 의미 있는 질의로 결과 순서를 비교하세요. 응답 시간이 중요한 검색 환경에는 Lite를 사용하고, 어려운 후보의 관련성이 더 중요하다면 품질 중심 rerank-3 버전을 비교 대상으로 사용하세요.