Thenlper: GTE-Base
Alibaba DAMO Academy GTE-base는 검색과 의미 유사도를 위해 영어 텍스트를 768차원 벡터로 임베딩합니다. 이 정확한 모델은 평균 풀링을 사용하고 최대 512토큰 시퀀스를 지원하며, 선택적 정규화를 포함한 코사인 방식 비교를 문서화합니다.
모델 소개
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
GTE-base는 Alibaba DAMO Academy가 학습한 베이스 크기의 General Text Embeddings 모델입니다. 이 영어 텍스트 인코더는 주로 BERT 프레임워크를 기반으로 하며 768차원 밀집 벡터를 생성합니다. 여러 도메인의 관련성 쌍으로 구성된 대규모 코퍼스를 학습에 사용하며, 명시된 활용에는 정보 검색, 의미적 텍스트 유사도, 임베딩 기반 텍스트 리랭킹이 포함됩니다.
영어 질의와 지문 준비하기
정보 요구와 검색할 자료 모두 읽을 수 있는 영어 텍스트를 사용하세요. 예를 들어 마모된 부품 교체에 대한 질의를 교체 기준, 검사 단계, 주문 지침을 설명하는 짧은 정비 섹션과 비교할 수 있습니다. 부품 이름과 섹션을 구별하는 조건을 유지하세요.
공개된 예제는 작업 지시를 추가하지 않고 질문과 후보 텍스트를 직접 인코딩합니다. 컬렉션과 후속 질의 전반에 준비 방식을 일관되게 유지하세요. 순위 결과가 표현된 정보를 보여줄 수 있도록 원문 지문과 식별자를 벡터 옆에 저장하세요.
평균 풀링과 비교
참조 방식은 어텐션 마스크를 사용해 모델의 토큰 표현을 평균 내어, 패딩 위치가 결과에 기여하지 않도록 합니다. 그런 다음 선택적 L2 정규화를 보여주고 정규화 벡터를 내적으로 비교합니다. 별도의 예제는 코사인 유사도를 사용합니다.
색인과 검색에 일관된 정규화 및 비교 설정을 선택하고 유지하세요. 출력에는 768개 수치 성분이 있으며, 생성된 답변은 없습니다. 후보 리랭킹 단계에서는 같은 모델로 후보 지문을 인코딩하고 질의 유사도로 순서를 정하세요. 이는 임베딩 기반 비교이며, 모델이 크로스 인코더로 모든 질의–지문 쌍을 함께 읽는다는 주장이 아닙니다.
영어 범위와 512토큰 입력
정확한 모델 카드는 이 모델을 영어 텍스트로 제한하고, 긴 입력을 최대 512토큰으로 자른다고 명시합니다. 따라서 긴 매뉴얼은 색인 전에 의미 있는 섹션으로 나눠야 합니다. 지문 해석에 필요한 세부 사항이라면 경고, 예외, 한정 조건을 그것이 수정하는 규칙과 함께 유지하세요.
정비 간격 질문에서는 간격과 운전 조건이 담긴 섹션이 숫자만 있는 조각보다 유용합니다. 제목이나 장비 정체성이 지침의 모호함을 없애면 보존하세요. 눈에 보이는 단어 수에 의존하지 말고 토크나이저 길이를 확인하세요.
점수 뒤의 원문 지문 활용하기
검색은 색인된 컬렉션에서 후보를 반환합니다. 상위 지문을 정확한 작업에 맞춰 살펴보고, RAG 답변 작성 단계로 전달할 때 출처 위치를 유지하세요. 관련 지문이 교체를 허용하지 않고 검사만 설명할 수 있습니다. 그 구분은 원본 자료에서 계속 드러나야 합니다.
GTE-base는 1024차원 벡터를 생성하는 GTE-large 및 이후의 다국어 또는 확장 컨텍스트 GTE 에디션과 구분됩니다. 공개된 모델 정체성이 영어 범위, 768개 성분 표현, 512토큰 경계를 정의합니다. 검색 컬렉션을 평가할 때에는 대표 질의 및 원본 레코드와 함께 이 정확한 프로필을 사용하세요.
Ailoot Ultra · 임베딩 POST /v1/embeddings thenlper/gte-base
thenlper/gte-base시작하기
Alibaba DAMO Academy GTE-base는 검색과 의미 유사도를 위해 영어 텍스트를 768차원 벡터로 임베딩합니다. 이 정확한 모델은 평균 풀링을 사용하고 최대 512토큰 시퀀스를 지원하며, 선택적 정규화를 포함한 코사인 방식 비교를 문서화합니다.
- 허용 입력
- 텍스트 · token_ids
- 결과
- embedding
Ailoot에서 사용 가능 · 입력 및 메서드
Ailoot Ultra · 임베딩 POST /v1/embeddings
- 입력
text,token_ids- 출력
embedding- 출력 형식
- json
| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 thenlper/gte-base | 기본값— |
필드input | 유형string|string[]|integer[]|integer[][] | 요건필수 | 값과 한도 최소 항목 수: 1 조건: 비어 있지 않은 동일 형식의 배치입니다. 토큰 ID는 0 이상의 정수입니다. 입력 허용량: 최댓값: 512 · 텍스트 단위: UTF8 바이트 · 토큰 단위: 토큰 배열 요소 | 기본값— |
필드encoding_format | 유형string | 요건선택 사항 | 값과 한도 float | 기본값float |
필드dimensions | 유형integer | 요건지원되지 않음 | 값과 한도 최솟값: 1 | 기본값— |
필드user | 유형json_value | 요건선택 사항 | 값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다. | 기본값— |
필드session_id | 유형json_value | 요건선택 사항 | 값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다. | 기본값— |
필드trace | 유형json_value | 요건선택 사항 | 값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다. | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: provider.options가 거부됨 | 기본값— |
입력 자료 조합
text_to_embedding
메서드 매개변수와 수명 주기
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, input |
매개변수input_shapes | 명세string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
매개변수encoding_format | 명세float |
매개변수dimensions_override | 명세false |
매개변수max_input_budget_units | 명세512 |
매개변수multimodal_objects | 명세false |
매개변수material_types | 명세text, token_ids |
수명 주기: synchronous_json
모든 벡터의 인덱스와 차원을 보관하세요.
모델 이름이 멀티모달이어도 이 특정 경로에서 이미지 객체를 사용할 수 있는 것은 아닙니다.
요금
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
- 빠른 모드
- 미지정 빠른 모드를 선택한 경우
- Flex 모드
- 미지정 flex 모드를 선택한 경우
- 최대 추론 수준
- 미지정 최대 추론 수준에 default 조정값을 적용하는 경우
Ailoot 요금
설정별 가격
| 설정 | 요금표 | 요금 |
|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 요금 입력 · 입력 토큰 $0.00001 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
요청 예제
Ailoot Ultra · 임베딩
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-base", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-base',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
결과 수신 및 저장
Ailoot Ultra · 임베딩
json
완료된 결과 모두 보관
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 벡터를 인덱스와 함께 보관하세요. 벡터 수는 입력 수와 같아야 하며 차원은 일관되어야 합니다.
원래 응답을 확인해야 할 경우
임베딩 작업 엔드포인트는 추가되지 않습니다.
응답 필드
| 필드 | 유형 |
|---|---|
필드object | 유형string |
필드model | 유형string |
필드data[].index | 유형integer |
필드data[].embedding | 유형finite float[] |
필드usage | 유형object |
오류와 다음 단계
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
별칭
모델 별칭
Ailoot Ultra thenlper/gte-base
메서드 경로 별칭
위에 표시된 메서드 경로를 사용하세요.
관련 호출용 ID
FAQ · Thenlper: GTE-Base
- 어떤 입력과 결과를 사용할 수 있나요?
POST /v1/embeddings·thenlper/gte-base:text,token_ids→embedding- 요청은 어떤 필드를 사용하나요?
POST /v1/embeddings·thenlper/gte-base:model,input,encoding_format,provider- 어떤 제한이 적용되나요?
POST /v1/embeddings·thenlper/gte-base:input.budget.maximum:512(UTF8 바이트);input.min_items:1