NVIDIA: Nemotron 3.5 Lightning (free)

NVIDIA Nemotron 3.5 Lightning은 총 매개변수 30B, 활성 매개변수 3B의 텍스트 추론 및 채팅 모델입니다. 하이브리드 Mamba–MoE 아키텍처는 긴 컨텍스트 분석, 코딩과 도구 기반 워크플로를 지원하며, 제조사의 채팅 템플릿에는 사고 모드와 직접 답변 모드가 문서화되어 있습니다.

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions nvidia/nemotron-3.5-lightning:free
Ailoot Ultra · Anthropic Messages POST /v1/messages nvidia/nemotron-3.5-lightning:free

모델 소개

이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.

NVIDIA Nemotron 3.5 Lightning은 추론, 대화와 전문 에이전트 워크플로를 위한 언어 모델입니다. 총 매개변수는 30B이고 활성 매개변수는 3B이며, Mamba-2, 전문가 혼합, 어텐션 레이어를 교차 배치한 하이브리드 아키텍처를 사용합니다. Multi-Token Prediction 레이어는 미래 토큰에 대한 학습 신호를 추가하고 모델에 최적화된 생성 방법을 지원합니다. 모델은 텍스트를 처리하고 설명, 코드 및 제공된 자료에 근거한 답변을 포함한 텍스트를 생성합니다.

제조사는 챗봇, 검색 증강 생성, 지시 따르기와 에이전트를 활용 분야로 설명합니다. 지식 베이스에 근거한 답변을 얻으려면 질문과 관련 대목을 고정된 출처 라벨과 함께 제공하세요. 해당 대목에 근거해 답변하고, 중요한 주장마다 어떤 대목이 이를 뒷받침하는지 밝히며, 아직 알 수 없는 내용을 명시하도록 요청하세요. 예를 들면 다음과 같습니다. “이 지원 문서들을 사용해 두 설치 방법의 차이를 설명하고, 각 방법의 사전 요구 사항, 단계와 점검 항목을 반환하세요.” 빠진 사전 요구 사항을 모델이 만들어 내도록 유도하지 말고, 누락된 상태가 드러나게 하세요.

코딩 작업에서는 관련 코드, 예상 동작과 관찰된 실패를 제공하세요. 실용적인 요청은 해당 부분에 집중한 수정과 영향을 받는 사례에 대한 설명을 요구합니다. 도구와 연결된 에이전트가 점검을 실행했다면 다음 변경을 요청하기 전에 실제 출력을 전달하세요. 모델의 학습에는 코드, 여러 단계의 도구 사용과 구조화된 출력 작업이 포함되지만, 완성된 산출물은 여전히 원래 요구 사항과 일치해야 합니다. 수정된 코드, 중요한 변경 각각의 이유, 문제가 해결되었음을 확인하는 데 필요한 관찰 결과를 요청하세요.

제조사 문서에는 기본적으로 사고가 활성화되며 채팅 템플릿에서 사고를 비활성화하는 직접 답변 모드가 있다고 명시되어 있습니다. 추론 모드는 서로 의존하는 여러 조건이 있는 작업에 유용하고, 직접 답변은 단순한 변환이나 추출에 적합할 수 있습니다. 제조사는 클라이언트 예제에서 temperature 1.0과 top-p 0.95를 권장합니다. 이를 제조사 참조 방법의 설정값으로 취급하고, 간결한 설명, 비교표 또는 답변 뒤에 근거를 제시하는 형식처럼 최종 응답 구조를 명시적으로 선택하세요.

모델은 최대 1M 토큰의 컨텍스트를 지원합니다. 공개된 BF16 배포 방법에서는 이 모델 수준의 능력과 메모리 제약으로 256K 창을 사용하는 구성을 구분합니다. 문서 구조를 보존하고 응답할 공간을 남기면서, 적용되는 작업 창에 맞게 긴 자료를 준비하세요. 긴 컨텍스트는 문서 사이의 모순, 소스 파일 사이의 의존성 또는 결론을 뒷받침하는 근거처럼 찾아야 할 관계를 프롬프트가 명시할 때 가장 유용합니다. 관련 없는 이력을 포함하거나 최종 답변이 창 전체를 차지할 수 있다고 가정하는 근거로 삼아서는 안 됩니다.

주된 초점은 영어와 프로그래밍 언어이며, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어도 명시되어 있습니다. 필요한 출력 언어를 지정하고, 철자가 중요할 때는 이름, 식별자와 인용된 원문 용어를 보존하세요. 다국어 문서 작업에서는 자료를 번역할지, 요약할지, 비교할지 명시하세요. 이러한 요청은 서로 다른 산출물을 만듭니다. 불확실한 용어를 표시하도록 요청해, 유창한 번역이 기술적 의미를 조용히 바꾸지 않게 하세요.

NVIDIA는 주로 사용자 맞춤 조정과 전체 정밀도 연구를 위한 BF16 참조 릴리스와, 최적화된 추론 방법을 제공하는 별도의 NVFP4 릴리스를 공개합니다. 배포 지침을 비교할 때 이 구분이 중요합니다. 한 릴리스의 하드웨어 구성이나 처리량 결과가 다른 릴리스도 자동으로 설명하지는 않습니다. 모델 이름은 Lightning 제품군을 식별하지만, 구체적인 체크포인트와 서빙 구성이 적용할 방법을 결정합니다. 모델 수준의 기능을 특정 실행 방법에 따른 성능 및 메모리 가정과 구분하세요.

도구 기반 작업에서는 명확한 함수 설명을 제공하고, 실행한 각 단계의 실제 결과를 반환하세요. 제안된 작업은 주변 애플리케이션이 이를 수행하고 일어난 일을 기록한 뒤에야 사용할 수 있는 근거가 됩니다. 최종 답변에서 원자료의 관찰 내용, 도출한 결론과 미완료 점검을 구분하도록 요청하세요. 계산, 명령 또는 검색된 대목이 계획한 결과와 충돌한다면, 검증되지 않은 가정을 매끄럽게 요약하는 대신 그 충돌을 활용해 결론을 수정하세요.

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions nvidia/nemotron-3.5-lightning:free

nvidia/nemotron-3.5-lightning:free

NVIDIA /nvidia/nemotron-3.5-lightning:free

시작하기

허용 입력: 텍스트
결과: 텍스트

Ailoot에서 사용 가능 · 입력 및 메서드

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions

입력: text
출력: text
컨텍스트: 1,000,000 tokens
최대 출력: 65,536 tokens
출력 형식: JSON

필드	유형	요건	값과 한도	기본값
필드`model`	유형`string`	요건필수	값과 한도 nvidia/nemotron-3.5-lightning:free	기본값—
필드`messages`	유형`array`	요건필수	값과 한도	기본값—
필드`stream`	유형`boolean`	요건선택 사항	값과 한도 false	기본값false
필드`max_tokens`	유형`integer`	요건선택 사항	값과 한도 최솟값: 1 최댓값: 65,536	기본값—
필드`max_completion_tokens`	유형`integer`	요건선택 사항	값과 한도 최솟값: 1 최댓값: 65,536	기본값—
필드`n`	유형`integer`	요건선택 사항	값과 한도 최솟값: 1 최댓값: 128	기본값—
필드`temperature`	유형`number`	요건선택 사항	값과 한도	기본값—
필드`top_p`	유형`number`	요건선택 사항	값과 한도	기본값—
필드`seed`	유형`integer`	요건선택 사항	값과 한도	기본값—
필드`stop`	유형	요건선택 사항	값과 한도	기본값—
필드`frequency_penalty`	유형`number`	요건선택 사항	값과 한도	기본값—
필드`presence_penalty`	유형`number`	요건선택 사항	값과 한도	기본값—
필드`user`	유형`string`	요건선택 사항	값과 한도	기본값—

메서드 매개변수와 수명 주기

매개변수	명세
매개변수`content_type`	명세application/json
매개변수`required`	명세model, messages
매개변수`optional`	명세stream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user
매개변수`material_types`	명세text
매개변수`conditions`	명세Use literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes.

수명 주기: synchronous_json

요금

요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.

빠른 모드: 표준 요금 빠른 모드를 선택한 경우
Flex 모드: 표준 요금 flex 모드를 선택한 경우
최대 추론 수준: 표준 요금 최대 추론 수준에 default 조정값을 적용하는 경우
명시적 캐시 요금: 활성화되지 않음 명시적 캐시를 요청할 때
텍스트 전용 요율: 무료: Text input and output only. Cache, tools, media and streaming are unavailable. 텍스트 전용 입력 및 출력의 경우

Ailoot 요금

설정별 가격

설정	요금표	요금
설정기본 토큰 요금	요금표기본 요금	요금 입력 · 입력 토큰 $0 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰

Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →

요청 예제

Ailoot Ultra · OpenAI Chat

curl · 한 번만 생성하고 결과 전체 보관

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.

결과 수신 및 저장

Ailoot Ultra · OpenAI Chat

JSON

완료된 결과 모두 보관

반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.

Retain the complete response, all actual results, original identifiers, usage and response headers.

원래 응답을 확인해야 할 경우

Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.

별칭

모델 별칭

Ailoot Ultra nvidia/nemotron-3.5-lightning:free

메서드 경로 별칭

위에 표시된 메서드 경로를 사용하세요.