Sentence Transformers: multi-qa-mpnet-base-dot-v1

Sentence Transformers multi-qa-mpnet-base-dot-v1는 의미 검색을 위해 질문과 지문을 768차원 벡터로 인코딩합니다. CLS 풀링과 내적 점수 계산용으로 설계된 비정규화 임베딩을 사용하며, 입력 한도는 512 워드피스입니다.

Ailoot Ultra · 임베딩 POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1

모델 소개

이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.

multi-qa-mpnet-base-dot-v1는 질문이나 질의에 맞는 텍스트 지문을 검색하도록 설계된 Sentence Transformers 모델입니다. 학습에는 약 2억 1,500만 개의 질문–답변 쌍이 사용됐습니다. 각 입력은 768차원 밀집 벡터가 되며, CLS 풀링과 내적 점수 계산이 이 정확한 에디션의 특징입니다.

질문과 후보 지문 준비하기

질의에는 필요한 정보를 쓰고, 코퍼스 항목은 읽을 수 있는 텍스트 지문으로 준비하세요. 예를 들어 배송지 변경 질문을 주소 변경, 주문 취소, 배송 추적을 각각 다루는 문단과 비교할 수 있습니다. 주소 변경 지문에는 주문이 이미 발송됐는지 같은 관련 조건을 유지하세요.

같은 모델로 질의와 지문을 인코딩하세요. 공개된 예제는 query/document 접두사 없이 직접 인코딩하고, 내적 점수로 지문을 정렬합니다. 순위 결과가 실제로 색인한 자료를 보여줄 수 있도록, 각 벡터를 원문 지문 및 문서 식별자와 연결해 두세요.

CLS 풀링과 내적 에디션

모델의 참조 방식은 CLS 풀링이라고 하는 첫 번째 토큰의 표현을 사용합니다. 기술 표에는 임베딩이 정규화되지 않는다고 명시되어 있으며, 적합한 점수 함수로 내적을 제시합니다. 컬렉션과 질의 쪽을 설정할 때 이 방식을 유지하세요.

이 벡터를 L2 정규화하면 점수 계산의 기하학적 성질이 달라집니다. 정규화된 all-mpnet-base-v2 프로필은 다른 방식을 사용하는 별도의 체크포인트입니다. MPNet 계열과 768개 성분 출력을 공유해도 이 구분은 유지됩니다. 벡터 길이만으로 선택하지 말고, 정확한 에디션과 비교 함수를 저장된 컬렉션과 함께 관리하세요.

길이 제한과 긴 지문

명시된 입력 한도는 512 워드피스이며, 더 긴 텍스트는 잘립니다. 제조사는 학습 입력이 최대 250 워드피스였고, 더 긴 텍스트에서는 성능이 낮아질 수 있다고도 설명합니다. 따라서 토크나이저가 허용하는 길이와 학습 길이에 대한 주의 사항은 서로 다른 실질적 경계를 설명합니다.

큰 도움말 문서는 특정 질문에 답하는 짧은 섹션으로 준비하세요. 제목이 주제를 식별하면 유지하고, 규칙을 올바르게 읽는 데 필요한 예외를 함께 보존하세요. 페이지 전체를 하나의 입력으로 넣으면 잘림으로 뒤쪽 자료를 잃을 수 있고, 너무 작은 조각은 유용성을 결정하는 조건을 잃을 수 있습니다.

검색과 RAG에서 순위 활용하기

밀집 벡터는 첫 검색 단계를 지원합니다. 점수가 가장 높은 후보 지문을 출처 참조와 함께 반환한 뒤, 실제 질문에 답하는지 살펴보세요. RAG 워크플로에서는 해당 지문을 원본 자료로 답변 작성 단계에 전달합니다. 검색 자체가 답변을 작성하는 것은 아닙니다.

관련 지문이 알려진 대표 질문을 사용해 결과 수를 정하고 순위를 평가하세요. 주소 수정과 현재 주소 보기처럼 어휘는 비슷하지만 의도가 다른 예시도 포함하세요. 점수는 정확성에 대한 보정된 확률이 아니라, 같은 모델과 점수 설정 아래의 후보들 사이에서 상대적으로 해석하세요.

이 체크포인트의 유용한 출력은 의미 검색을 위한 질문–지문 임베딩 공간입니다. 결과를 준비하고 활용할 때에는 비정규화 벡터, CLS 풀링, 내적 점수, 공개된 긴 입력 주의 사항을 유지해야 합니다.

Ailoot Ultra · 임베딩 POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1

sentence-transformers/multi-qa-mpnet-base-dot-v1

Sentence Transformers /sentence-transformers/multi-qa-mpnet-base-dot-v1

시작하기

허용 입력: 텍스트 · token_ids
결과: embedding

Ailoot에서 사용 가능 · 입력 및 메서드

Ailoot Ultra · 임베딩 POST /v1/embeddings

입력: text, token_ids
출력: embedding
출력 형식: json

필드	유형	요건	값과 한도	기본값
필드`model`	유형`string`	요건필수	값과 한도 sentence-transformers/multi-qa-mpnet-base-dot-v1	기본값—
필드`input`	유형`string\|string[]\|integer[]\|integer[][]`	요건필수	값과 한도 최소 항목 수: 1 조건: 비어 있지 않은 동일 형식의 배치입니다. 토큰 ID는 0 이상의 정수입니다. 입력 허용량: 최댓값: 512 · 텍스트 단위: UTF8 바이트 · 토큰 단위: 토큰 배열 요소	기본값—
필드`encoding_format`	유형`string`	요건선택 사항	값과 한도 float	기본값float
필드`dimensions`	유형`integer`	요건지원되지 않음	값과 한도 최솟값: 1	기본값—
필드`user`	유형`json_value`	요건선택 사항	값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다.	기본값—
필드`session_id`	유형`json_value`	요건선택 사항	값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다.	기본값—
필드`trace`	유형`json_value`	요건선택 사항	값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다.	기본값—
필드`provider`	유형`object`	요건선택 사항	값과 한도 조건: provider.options가 거부됨	기본값—

입력 자료 조합

text_to_embedding

메서드 매개변수와 수명 주기

매개변수	명세
매개변수`content_type`	명세application/json
매개변수`required`	명세model, input
매개변수`input_shapes`	명세string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[]
매개변수`encoding_format`	명세float
매개변수`dimensions_override`	명세false
매개변수`max_input_budget_units`	명세512
매개변수`multimodal_objects`	명세false
매개변수`material_types`	명세text, token_ids

수명 주기: synchronous_json

모든 벡터의 인덱스와 차원을 보관하세요.

모델 이름이 멀티모달이어도 이 특정 경로에서 이미지 객체를 사용할 수 있는 것은 아닙니다.

요금

요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.

빠른 모드: 미지정 빠른 모드를 선택한 경우
Flex 모드: 미지정 flex 모드를 선택한 경우
최대 추론 수준: 미지정 최대 추론 수준에 default 조정값을 적용하는 경우

Ailoot 요금

설정별 가격

설정	요금표	요금
설정토큰의 기본 단가	요금표기본 요금	요금 입력 · 입력 토큰 $0.00001 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰

Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →

요청 예제

Ailoot Ultra · 임베딩

curlPython SDK

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT

from openai import OpenAI
import os

client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)

결과 수신 및 저장

Ailoot Ultra · 임베딩

json

완료된 결과 모두 보관

반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.

모든 벡터를 인덱스와 함께 보관하세요. 벡터 수는 입력 수와 같아야 하며 차원은 일관되어야 합니다.

원래 응답을 확인해야 할 경우

임베딩 작업 엔드포인트는 추가되지 않습니다.

응답 필드

필드	유형
필드`object`	유형string
필드`model`	유형string
필드`data[].index`	유형integer
필드`data[].embedding`	유형finite float[]
필드`usage`	유형object

오류와 다음 단계

응답	조건	다음 단계
응답400 · `invalid_request_error`	조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음	다음 단계새 생성 요청 전에 표시된 필드를 수정하세요.

별칭

모델 별칭

Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1

메서드 경로 별칭

위에 표시된 메서드 경로를 사용하세요.

Sentence Transformers: multi-qa-mpnet-base-dot-v1