NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2는 검색된 자료를 질의와의 관련성에 따라 정렬하는 NVIDIA의 교차 인코더 재순위 모델입니다. 질의와 텍스트, 이미지, 또는 이 둘이 결합된 후보 문서를 보낸 뒤 반환된 점수와 원래 인덱스를 사용해 검색 결과나 검색 증강 답변에 사용할 문단을 선택하세요.
모델 소개
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Llama Nemotron Rerank VL 1B V2는 차트, 표, 혼합 미디어 페이지를 포함한 후보 텍스트 및 문서 이미지가 텍스트 질의와 얼마나 관련 있는지 평가합니다. NVIDIA는 이를 1.7B 파라미터 교차 인코더 모델로 설명합니다. 검색 작업 흐름에서는 먼저 초기 검색을 수행한 다음 선택한 후보를 재순위 모델에 보내세요. 유용한 결과는 관련성 점수와 함께 순서가 재정렬된 후보 세트이며, 애플리케이션은 이를 사용해 답변의 컨텍스트를 선택하거나 검색 결과 페이지를 구성할 수 있습니다.
application/json 본문으로 POST /v1/rerank를 사용하세요. model은 "nvidia/llama-nemotron-rerank-vl-1b-v2:free"로, query는 실제 검색 질문으로, documents는 비어 있지 않은 배열로 설정하세요. 각 후보는 텍스트 문자열 또는 text 및/또는 image가 있는 객체가 될 수 있으며, 구조화된 객체에는 두 필드 중 하나 이상이 있어야 합니다. text는 문자열입니다. image는 원격 HTTP/HTTPS URL 또는 data:image/로 시작하는 base64 data URI입니다. 결합 후보는 두 필드를 모두 제공합니다. 반환된 인덱스를 저장된 문서 ID와 연결할 수 있도록 입력 배열의 순서를 유지하세요. top_n은 반환할 최상위 문서 수를 요청하는 선택 정수이며 1 이상이어야 합니다.
예를 들어 고객센터 애플리케이션은 배송, 반품, 계정 접근에 관한 문단을 검색한 뒤 고객의 배송 질문을 기준으로 다시 순위를 매길 수 있습니다. 파일 이름이나 저장된 원본과 관계없는 검색 엔진 발췌문 대신 실제 문단 텍스트를 전달하세요. 선택한 근거를 나중에 인용하거나 열 수 있도록 애플리케이션에서 각 문단을 자체 원본 식별자에 연결해 두세요. 스캔 문서, 차트, 표, 인포그래픽에서는 문서 객체에 실제 이미지를 제공하고 내용 식별에 도움이 되면 텍스트를 추가하세요.
모델 페이지는 query와 document 각각에 대해 10,240토큰 한도를 명시합니다. 후보 목록을 준비하기 전에 더 긴 원본 자료를 범위가 정해진 문단으로 나누세요. 제목이나 제품명이 의미를 바꾸는 경우 이를 포함해 각 문단에 유용한 주변 맥락을 유지하세요. 문서의 요청은 제공한 후보에서 시작하며, 문서 컬렉션을 대신 검색하지는 않습니다.
재순위 지정은 동기식 JSON 결과를 반환합니다. 원래 index, relevance_score, text 및/또는 image를 담을 수 있는 반환 document 객체를 포함해 모든 results 항목을 읽고, 반환된 usage 및 응답 식별자도 보관하세요. index를 사용해 순위 결과를 입력 후보와 연결하세요. 관련성 점수는 이 질의의 순위 신호로 취급해야 하며 독립적으로 사실 확인된 답변으로 취급해서는 안 됩니다. 다음 단계에 여러 문단을 선택한다면 완전한 결과를 보관하세요.
이 무료 버전에는 공개 자료 또는 합성 후보 자료를 준비하세요. 문서에 명시된 사용 조건에서는 기밀 정보와 개인정보의 사용을 허용하지 않습니다. 완전한 결과 없이 요청이 끝나면 해당 시도를 확인하는 동안 원래 응답과 요청 식별자를 보관하세요. 문서의 재순위 흐름은 결과를 직접 반환하며 별도의 작업 폴링 또는 취소 작업 흐름을 제공하지 않습니다.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free시작하기
Llama Nemotron Rerank VL 1B V2는 검색된 자료를 질의와의 관련성에 따라 정렬하는 NVIDIA의 교차 인코더 재순위 모델입니다. 질의와 텍스트, 이미지, 또는 이 둘이 결합된 후보 문서를 보낸 뒤 반환된 점수와 원래 인덱스를 사용해 검색 결과나 검색 증강 답변에 사용할 문단을 선택하세요.
- 허용 입력
- 텍스트
- 결과
- ranking
Ailoot에서 사용 가능 · 입력 및 메서드
Ailoot Ultra · Rerank POST /v1/rerank
- 입력
text- 출력
ranking- 출력 형식
- JSON
| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 nvidia/llama-nemotron-rerank-vl-1b-v2:free | 기본값— |
필드query | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드documents | 유형array | 요건필수 | 값과 한도 | 기본값— |
필드top_n | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 | 기본값— |
메서드 매개변수와 수명 주기
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, query, documents |
매개변수optional | 명세top_n |
매개변수material_types | 명세text |
매개변수conditions | 명세 |
수명 주기: synchronous_json
요금
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
- 빠른 모드
- 미지정 빠른 모드를 선택한 경우
- Flex 모드
- 미지정 flex 모드를 선택한 경우
- 최대 추론 수준
- 미지정 최대 추론 수준에 default 조정값을 적용하는 경우
Ailoot 요금
설정별 가격
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 과금 수량 | 요금 |
|---|---|---|---|
| 설정기본 토큰 요금 | 요금표기본 요금 | 과금 수량— | 요금 입력 · 입력 토큰 — / 1K 토큰 출력 · 출력 토큰 — / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청당 | 요금표— | 과금 수량요청 1회 | 요금 입력 $0 요청당 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
요청 예제
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
결과 수신 및 저장
Ailoot Ultra · Rerank
JSON
완료된 결과 모두 보관
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
Retain the complete response, all actual results, original identifiers, usage and response headers.
원래 응답을 확인해야 할 경우
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
응답 필드
| 필드 | 유형 |
|---|---|
필드results | 유형array |
별칭
모델 별칭
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
메서드 경로 별칭
위에 표시된 메서드 경로를 사용하세요.
관련 호출용 ID
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- 어떤 입력과 결과를 사용할 수 있나요?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- 요청은 어떤 필드를 사용하나요?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- 어떤 제한이 적용되나요?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1