Thenlper: GTE-Large

Alibaba DAMO Academy GTE-large는 검색, 의미 유사도, 임베딩 기반 리랭킹을 위해 영어 텍스트를 1024차원 벡터로 변환합니다. 참조 방식은 평균 풀링, 선택적 정규화, 최대 512토큰의 시퀀스 길이를 사용합니다.

Ailoot Ultra · 임베딩 POST /v1/embeddings thenlper/gte-large

모델 소개

이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.

GTE-large는 Alibaba DAMO Academy가 학습한 대형 General Text Embeddings 모델입니다. 주로 BERT 프레임워크를 기반으로 하는 영어 텍스트 인코더이며, 입력마다 1024차원 밀집 표현을 제공합니다. 제조사는 여러 도메인에 걸친 관련 텍스트 쌍으로 GTE 계열을 학습하며, 검색, 의미적 텍스트 유사도, 텍스트 리랭킹을 후속 활용으로 명시합니다.

섹션 내용 표현하기

검색 질의와 비교할 영어 지문을 준비하세요. 기술 보고서 컬렉션에서는 짧은 섹션의 주제, 관찰, 관련 조건을 유지하세요. 특정 부하에서만 발생하는 진동을 설명하는 보고서는 진동에 대한 일반 진술만 남기지 말고 그 조건을 보존해야 합니다.

원본 식별자, 문서 제목, 섹션 위치를 저장된 벡터와 함께 유지하세요. 질의는 후보 섹션을 검색할 수 있고, 원본 보고서는 장비, 조건, 결론을 확인할 수 있도록 남겨둡니다. 임베딩은 지문 내용의 수치 표현을 제공합니다.

풀링, 정규화, 벡터 활용

공개된 방식은 어텐션 마스크로 패딩을 평균에서 제외하면서 토큰 표현을 평균 풀링합니다. 선택적 L2 정규화 후 정규화 벡터의 내적을 비교하는 예시도 제시합니다. Sentence Transformers 예제는 코사인 유사도를 사용합니다.

컬렉션과 질의 쪽에 같은 준비, 풀링, 비교 설정을 유지하세요. 각 표현에는 1024개 성분이 있습니다. 더 많은 성분 수는 에디션의 세부 사항이며, GTE-large 벡터를 768차원 GTE-base 표현이나 다른 1024차원 인코더와 섞을 수 있다는 뜻은 아닙니다.

리랭킹 워크플로는 질의 임베딩을 이미 검색된 후보 임베딩 집합과 비교해 레코드 순서를 바꿀 수 있습니다. 이 벡터 비교와 질의–지문 쌍을 함께 평가하는 별도 모델의 차이를 유지하세요.

입력 길이와 영어 제한

모델 카드는 이 정확한 모델을 영어 텍스트로 명시적으로 제한하고, 긴 입력을 최대 512토큰으로 자릅니다. 긴 기술 보고서는 의미적으로 연결된 섹션으로 나누고, 각 섹션이 독립적으로 이해될 만큼의 주변 맥락을 유지하세요. 문장이 앞선 한정 조건에 의존하면, 범위 안에 들어올 때 그 조건을 같은 색인 단위에 보존하세요.

토큰 경계는 눈에 보이는 단어 수와 다릅니다. 준비한 섹션의 길이를 확인하고, 의도한 검색에 필요한 세부 정보가 잘림 후 남는 부분의 바깥에 놓이지 않도록 하세요.

검색된 근거 살펴보기

보고서 검색 애플리케이션에서는 후보 섹션을 출처 위치와 함께 제시하고 실제 내용을 살펴보세요. 비슷한 관찰에도 원인이나 권고가 다를 수 있습니다. 벡터 점수는 선택한 비교 설정에서 후보 순서를 정하는 데 도움이 되지만, 보고서의 결론이 새 상황에 적용된다는 뜻은 아닙니다.

RAG에서는 선택된 섹션을 답변 작성 단계의 원본 맥락으로 사용하고 문서 연결을 유지하세요. 이 정확한 GTE-large 프로필은 1024차원과 512토큰 입력 경계를 갖춘 영어 밀집 임베딩을 제공합니다. 이후의 GTE 다국어 및 확장 컨텍스트 에디션에는 별도 모델 정체성이 있으므로, 언어 범위나 입력 설정을 이 체크포인트의 계열 이름에서 추론할 수는 없습니다.

Ailoot Ultra · 임베딩 POST /v1/embeddings thenlper/gte-large

thenlper/gte-large

Thenlper /thenlper/gte-large

시작하기

허용 입력: 텍스트 · token_ids
결과: embedding

Ailoot에서 사용 가능 · 입력 및 메서드

Ailoot Ultra · 임베딩 POST /v1/embeddings

입력: text, token_ids
출력: embedding
출력 형식: json

필드	유형	요건	값과 한도	기본값
필드`model`	유형`string`	요건필수	값과 한도 thenlper/gte-large	기본값—
필드`input`	유형`string\|string[]\|integer[]\|integer[][]`	요건필수	값과 한도 최소 항목 수: 1 조건: 비어 있지 않은 동일 형식의 배치입니다. 토큰 ID는 0 이상의 정수입니다. 입력 허용량: 최댓값: 512 · 텍스트 단위: UTF8 바이트 · 토큰 단위: 토큰 배열 요소	기본값—
필드`encoding_format`	유형`string`	요건선택 사항	값과 한도 float	기본값float
필드`dimensions`	유형`integer`	요건지원되지 않음	값과 한도 최솟값: 1	기본값—
필드`user`	유형`json_value`	요건선택 사항	값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다.	기본값—
필드`session_id`	유형`json_value`	요건선택 사항	값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다.	기본값—
필드`trace`	유형`json_value`	요건선택 사항	값과 한도 조건: 원본에서 이 JSON 메타데이터 필드를 허용하며, 정확한 업스트림 동작은 모델별로 다릅니다.	기본값—
필드`provider`	유형`object`	요건선택 사항	값과 한도 조건: provider.options가 거부됨	기본값—

입력 자료 조합

text_to_embedding

메서드 매개변수와 수명 주기

매개변수	명세
매개변수`content_type`	명세application/json
매개변수`required`	명세model, input
매개변수`input_shapes`	명세string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[]
매개변수`encoding_format`	명세float
매개변수`dimensions_override`	명세false
매개변수`max_input_budget_units`	명세512
매개변수`multimodal_objects`	명세false
매개변수`material_types`	명세text, token_ids

수명 주기: synchronous_json

모든 벡터의 인덱스와 차원을 보관하세요.

모델 이름이 멀티모달이어도 이 특정 경로에서 이미지 객체를 사용할 수 있는 것은 아닙니다.

요금

요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.

빠른 모드: 미지정 빠른 모드를 선택한 경우
Flex 모드: 미지정 flex 모드를 선택한 경우
최대 추론 수준: 미지정 최대 추론 수준에 default 조정값을 적용하는 경우

Ailoot 요금

설정별 가격

설정	요금표	요금
설정토큰의 기본 단가	요금표기본 요금	요금 입력 · 입력 토큰 $0.00002 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰

Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →

요청 예제

Ailoot Ultra · 임베딩

curlPython SDK

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT

from openai import OpenAI
import os

client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)

결과 수신 및 저장

Ailoot Ultra · 임베딩

json

완료된 결과 모두 보관

반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.

모든 벡터를 인덱스와 함께 보관하세요. 벡터 수는 입력 수와 같아야 하며 차원은 일관되어야 합니다.

원래 응답을 확인해야 할 경우

임베딩 작업 엔드포인트는 추가되지 않습니다.

응답 필드

필드	유형
필드`object`	유형string
필드`model`	유형string
필드`data[].index`	유형integer
필드`data[].embedding`	유형finite float[]
필드`usage`	유형object

오류와 다음 단계

응답	조건	다음 단계
응답400 · `invalid_request_error`	조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음	다음 단계새 생성 요청 전에 표시된 필드를 수정하세요.

별칭

모델 별칭

Ailoot Ultra thenlper/gte-large

메서드 경로 별칭

위에 표시된 메서드 경로를 사용하세요.

Thenlper: GTE-Large