NVIDIA Nemotron 3.5 Lightning은 추론, 대화와 전문 에이전트 워크플로를 위한 언어 모델입니다. 총 매개변수는 30B이고 활성 매개변수는 3B이며, Mamba-2, 전문가 혼합, 어텐션 레이어를 교차 배치한 하이브리드 아키텍처를 사용합니다. Multi-Token Prediction 레이어는 미래 토큰에 대한 학습 신호를 추가하고 모델에 최적화된 생성 방법을 지원합니다. 모델은 텍스트를 처리하고 설명, 코드 및 제공된 자료에 근거한 답변을 포함한 텍스트를 생성합니다.
제조사는 챗봇, 검색 증강 생성, 지시 따르기와 에이전트를 활용 분야로 설명합니다. 지식 베이스에 근거한 답변을 얻으려면 질문과 관련 대목을 고정된 출처 라벨과 함께 제공하세요. 해당 대목에 근거해 답변하고, 중요한 주장마다 어떤 대목이 이를 뒷받침하는지 밝히며, 아직 알 수 없는 내용을 명시하도록 요청하세요. 예를 들면 다음과 같습니다. “이 지원 문서들을 사용해 두 설치 방법의 차이를 설명하고, 각 방법의 사전 요구 사항, 단계와 점검 항목을 반환하세요.” 빠진 사전 요구 사항을 모델이 만들어 내도록 유도하지 말고, 누락된 상태가 드러나게 하세요.
코딩 작업에서는 관련 코드, 예상 동작과 관찰된 실패를 제공하세요. 실용적인 요청은 해당 부분에 집중한 수정과 영향을 받는 사례에 대한 설명을 요구합니다. 도구와 연결된 에이전트가 점검을 실행했다면 다음 변경을 요청하기 전에 실제 출력을 전달하세요. 모델의 학습에는 코드, 여러 단계의 도구 사용과 구조화된 출력 작업이 포함되지만, 완성된 산출물은 여전히 원래 요구 사항과 일치해야 합니다. 수정된 코드, 중요한 변경 각각의 이유, 문제가 해결되었음을 확인하는 데 필요한 관찰 결과를 요청하세요.
제조사 문서에는 기본적으로 사고가 활성화되며 채팅 템플릿에서 사고를 비활성화하는 직접 답변 모드가 있다고 명시되어 있습니다. 추론 모드는 서로 의존하는 여러 조건이 있는 작업에 유용하고, 직접 답변은 단순한 변환이나 추출에 적합할 수 있습니다. 제조사는 클라이언트 예제에서 temperature 1.0과 top-p 0.95를 권장합니다. 이를 제조사 참조 방법의 설정값으로 취급하고, 간결한 설명, 비교표 또는 답변 뒤에 근거를 제시하는 형식처럼 최종 응답 구조를 명시적으로 선택하세요.
모델은 최대 1M 토큰의 컨텍스트를 지원합니다. 공개된 BF16 배포 방법에서는 이 모델 수준의 능력과 메모리 제약으로 256K 창을 사용하는 구성을 구분합니다. 문서 구조를 보존하고 응답할 공간을 남기면서, 적용되는 작업 창에 맞게 긴 자료를 준비하세요. 긴 컨텍스트는 문서 사이의 모순, 소스 파일 사이의 의존성 또는 결론을 뒷받침하는 근거처럼 찾아야 할 관계를 프롬프트가 명시할 때 가장 유용합니다. 관련 없는 이력을 포함하거나 최종 답변이 창 전체를 차지할 수 있다고 가정하는 근거로 삼아서는 안 됩니다.
주된 초점은 영어와 프로그래밍 언어이며, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어도 명시되어 있습니다. 필요한 출력 언어를 지정하고, 철자가 중요할 때는 이름, 식별자와 인용된 원문 용어를 보존하세요. 다국어 문서 작업에서는 자료를 번역할지, 요약할지, 비교할지 명시하세요. 이러한 요청은 서로 다른 산출물을 만듭니다. 불확실한 용어를 표시하도록 요청해, 유창한 번역이 기술적 의미를 조용히 바꾸지 않게 하세요.
NVIDIA는 주로 사용자 맞춤 조정과 전체 정밀도 연구를 위한 BF16 참조 릴리스와, 최적화된 추론 방법을 제공하는 별도의 NVFP4 릴리스를 공개합니다. 배포 지침을 비교할 때 이 구분이 중요합니다. 한 릴리스의 하드웨어 구성이나 처리량 결과가 다른 릴리스도 자동으로 설명하지는 않습니다. 모델 이름은 Lightning 제품군을 식별하지만, 구체적인 체크포인트와 서빙 구성이 적용할 방법을 결정합니다. 모델 수준의 기능을 특정 실행 방법에 따른 성능 및 메모리 가정과 구분하세요.
도구 기반 작업에서는 명확한 함수 설명을 제공하고, 실행한 각 단계의 실제 결과를 반환하세요. 제안된 작업은 주변 애플리케이션이 이를 수행하고 일어난 일을 기록한 뒤에야 사용할 수 있는 근거가 됩니다. 최종 답변에서 원자료의 관찰 내용, 도출한 결론과 미완료 점검을 구분하도록 요청하세요. 계산, 명령 또는 검색된 대목이 계획한 결과와 충돌한다면, 검증되지 않은 가정을 매끄럽게 요약하는 대신 그 충돌을 활용해 결론을 수정하세요.
", "aboutText": "NVIDIA Nemotron 3.5 Lightning은 추론, 대화와 전문 에이전트 워크플로를 위한 언어 모델입니다. 총 매개변수는 30B이고 활성 매개변수는 3B이며, Mamba-2, 전문가 혼합, 어텐션 레이어를 교차 배치한 하이브리드 아키텍처를 사용합니다. Multi-Token Prediction 레이어는 미래 토큰에 대한 학습 신호를 추가하고 모델에 최적화된 생성 방법을 지원합니다. 모델은 텍스트를 처리하고 설명, 코드 및 제공된 자료에 근거한 답변을 포함한 텍스트를 생성합니다.\n\n제조사는 챗봇, 검색 증강 생성, 지시 따르기와 에이전트를 활용 분야로 설명합니다. 지식 베이스에 근거한 답변을 얻으려면 질문과 관련 대목을 고정된 출처 라벨과 함께 제공하세요. 해당 대목에 근거해 답변하고, 중요한 주장마다 어떤 대목이 이를 뒷받침하는지 밝히며, 아직 알 수 없는 내용을 명시하도록 요청하세요. 예를 들면 다음과 같습니다. “이 지원 문서들을 사용해 두 설치 방법의 차이를 설명하고, 각 방법의 사전 요구 사항, 단계와 점검 항목을 반환하세요.” 빠진 사전 요구 사항을 모델이 만들어 내도록 유도하지 말고, 누락된 상태가 드러나게 하세요.\n\n코딩 작업에서는 관련 코드, 예상 동작과 관찰된 실패를 제공하세요. 실용적인 요청은 해당 부분에 집중한 수정과 영향을 받는 사례에 대한 설명을 요구합니다. 도구와 연결된 에이전트가 점검을 실행했다면 다음 변경을 요청하기 전에 실제 출력을 전달하세요. 모델의 학습에는 코드, 여러 단계의 도구 사용과 구조화된 출력 작업이 포함되지만, 완성된 산출물은 여전히 원래 요구 사항과 일치해야 합니다. 수정된 코드, 중요한 변경 각각의 이유, 문제가 해결되었음을 확인하는 데 필요한 관찰 결과를 요청하세요.\n\n제조사 문서에는 기본적으로 사고가 활성화되며 채팅 템플릿에서 사고를 비활성화하는 직접 답변 모드가 있다고 명시되어 있습니다. 추론 모드는 서로 의존하는 여러 조건이 있는 작업에 유용하고, 직접 답변은 단순한 변환이나 추출에 적합할 수 있습니다. 제조사는 클라이언트 예제에서 temperature 1.0과 top-p 0.95를 권장합니다. 이를 제조사 참조 방법의 설정값으로 취급하고, 간결한 설명, 비교표 또는 답변 뒤에 근거를 제시하는 형식처럼 최종 응답 구조를 명시적으로 선택하세요.\n\n모델은 최대 1M 토큰의 컨텍스트를 지원합니다. 공개된 BF16 배포 방법에서는 이 모델 수준의 능력과 메모리 제약으로 256K 창을 사용하는 구성을 구분합니다. 문서 구조를 보존하고 응답할 공간을 남기면서, 적용되는 작업 창에 맞게 긴 자료를 준비하세요. 긴 컨텍스트는 문서 사이의 모순, 소스 파일 사이의 의존성 또는 결론을 뒷받침하는 근거처럼 찾아야 할 관계를 프롬프트가 명시할 때 가장 유용합니다. 관련 없는 이력을 포함하거나 최종 답변이 창 전체를 차지할 수 있다고 가정하는 근거로 삼아서는 안 됩니다.\n\n주된 초점은 영어와 프로그래밍 언어이며, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어도 명시되어 있습니다. 필요한 출력 언어를 지정하고, 철자가 중요할 때는 이름, 식별자와 인용된 원문 용어를 보존하세요. 다국어 문서 작업에서는 자료를 번역할지, 요약할지, 비교할지 명시하세요. 이러한 요청은 서로 다른 산출물을 만듭니다. 불확실한 용어를 표시하도록 요청해, 유창한 번역이 기술적 의미를 조용히 바꾸지 않게 하세요.\n\nNVIDIA는 주로 사용자 맞춤 조정과 전체 정밀도 연구를 위한 BF16 참조 릴리스와, 최적화된 추론 방법을 제공하는 별도의 NVFP4 릴리스를 공개합니다. 배포 지침을 비교할 때 이 구분이 중요합니다. 한 릴리스의 하드웨어 구성이나 처리량 결과가 다른 릴리스도 자동으로 설명하지는 않습니다. 모델 이름은 Lightning 제품군을 식별하지만, 구체적인 체크포인트와 서빙 구성이 적용할 방법을 결정합니다. 모델 수준의 기능을 특정 실행 방법에 따른 성능 및 메모리 가정과 구분하세요.\n\n도구 기반 작업에서는 명확한 함수 설명을 제공하고, 실행한 각 단계의 실제 결과를 반환하세요. 제안된 작업은 주변 애플리케이션이 이를 수행하고 일어난 일을 기록한 뒤에야 사용할 수 있는 근거가 됩니다. 최종 답변에서 원자료의 관찰 내용, 도출한 결론과 미완료 점검을 구분하도록 요청하세요. 계산, 명령 또는 검색된 대목이 계획한 결과와 충돌한다면, 검증되지 않은 가정을 매끄럽게 요약하는 대신 그 충돌을 활용해 결론을 수정하세요.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "406fe9f208c70f9dc8705f978ed1a7972ef2043b9ae61cbdecffbdb3374c4764", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ko", "methods": [ { "html": "nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning은 총 매개변수 30B, 활성 매개변수 3B의 텍스트 추론 및 채팅 모델입니다. 하이브리드 Mamba–MoE 아키텍처는 긴 컨텍스트 분석, 코딩과 도구 기반 워크플로를 지원하며, 제조사의 채팅 템플릿에는 사고 모드와 직접 답변 모드가 문서화되어 있습니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
NVIDIA Nemotron 3.5 Lightning은 추론, 대화와 전문 에이전트 워크플로를 위한 언어 모델입니다. 총 매개변수는 30B이고 활성 매개변수는 3B이며, Mamba-2, 전문가 혼합, 어텐션 레이어를 교차 배치한 하이브리드 아키텍처를 사용합니다. Multi-Token Prediction 레이어는 미래 토큰에 대한 학습 신호를 추가하고 모델에 최적화된 생성 방법을 지원합니다. 모델은 텍스트를 처리하고 설명, 코드 및 제공된 자료에 근거한 답변을 포함한 텍스트를 생성합니다.
제조사는 챗봇, 검색 증강 생성, 지시 따르기와 에이전트를 활용 분야로 설명합니다. 지식 베이스에 근거한 답변을 얻으려면 질문과 관련 대목을 고정된 출처 라벨과 함께 제공하세요. 해당 대목에 근거해 답변하고, 중요한 주장마다 어떤 대목이 이를 뒷받침하는지 밝히며, 아직 알 수 없는 내용을 명시하도록 요청하세요. 예를 들면 다음과 같습니다. “이 지원 문서들을 사용해 두 설치 방법의 차이를 설명하고, 각 방법의 사전 요구 사항, 단계와 점검 항목을 반환하세요.” 빠진 사전 요구 사항을 모델이 만들어 내도록 유도하지 말고, 누락된 상태가 드러나게 하세요.
코딩 작업에서는 관련 코드, 예상 동작과 관찰된 실패를 제공하세요. 실용적인 요청은 해당 부분에 집중한 수정과 영향을 받는 사례에 대한 설명을 요구합니다. 도구와 연결된 에이전트가 점검을 실행했다면 다음 변경을 요청하기 전에 실제 출력을 전달하세요. 모델의 학습에는 코드, 여러 단계의 도구 사용과 구조화된 출력 작업이 포함되지만, 완성된 산출물은 여전히 원래 요구 사항과 일치해야 합니다. 수정된 코드, 중요한 변경 각각의 이유, 문제가 해결되었음을 확인하는 데 필요한 관찰 결과를 요청하세요.
제조사 문서에는 기본적으로 사고가 활성화되며 채팅 템플릿에서 사고를 비활성화하는 직접 답변 모드가 있다고 명시되어 있습니다. 추론 모드는 서로 의존하는 여러 조건이 있는 작업에 유용하고, 직접 답변은 단순한 변환이나 추출에 적합할 수 있습니다. 제조사는 클라이언트 예제에서 temperature 1.0과 top-p 0.95를 권장합니다. 이를 제조사 참조 방법의 설정값으로 취급하고, 간결한 설명, 비교표 또는 답변 뒤에 근거를 제시하는 형식처럼 최종 응답 구조를 명시적으로 선택하세요.
모델은 최대 1M 토큰의 컨텍스트를 지원합니다. 공개된 BF16 배포 방법에서는 이 모델 수준의 능력과 메모리 제약으로 256K 창을 사용하는 구성을 구분합니다. 문서 구조를 보존하고 응답할 공간을 남기면서, 적용되는 작업 창에 맞게 긴 자료를 준비하세요. 긴 컨텍스트는 문서 사이의 모순, 소스 파일 사이의 의존성 또는 결론을 뒷받침하는 근거처럼 찾아야 할 관계를 프롬프트가 명시할 때 가장 유용합니다. 관련 없는 이력을 포함하거나 최종 답변이 창 전체를 차지할 수 있다고 가정하는 근거로 삼아서는 안 됩니다.
주된 초점은 영어와 프로그래밍 언어이며, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어도 명시되어 있습니다. 필요한 출력 언어를 지정하고, 철자가 중요할 때는 이름, 식별자와 인용된 원문 용어를 보존하세요. 다국어 문서 작업에서는 자료를 번역할지, 요약할지, 비교할지 명시하세요. 이러한 요청은 서로 다른 산출물을 만듭니다. 불확실한 용어를 표시하도록 요청해, 유창한 번역이 기술적 의미를 조용히 바꾸지 않게 하세요.
NVIDIA는 주로 사용자 맞춤 조정과 전체 정밀도 연구를 위한 BF16 참조 릴리스와, 최적화된 추론 방법을 제공하는 별도의 NVFP4 릴리스를 공개합니다. 배포 지침을 비교할 때 이 구분이 중요합니다. 한 릴리스의 하드웨어 구성이나 처리량 결과가 다른 릴리스도 자동으로 설명하지는 않습니다. 모델 이름은 Lightning 제품군을 식별하지만, 구체적인 체크포인트와 서빙 구성이 적용할 방법을 결정합니다. 모델 수준의 기능을 특정 실행 방법에 따른 성능 및 메모리 가정과 구분하세요.
도구 기반 작업에서는 명확한 함수 설명을 제공하고, 실행한 각 단계의 실제 결과를 반환하세요. 제안된 작업은 주변 애플리케이션이 이를 수행하고 일어난 일을 기록한 뒤에야 사용할 수 있는 근거가 됩니다. 최종 답변에서 원자료의 관찰 내용, 도출한 결론과 미완료 점검을 구분하도록 요청하세요. 계산, 명령 또는 검색된 대목이 계획한 결과와 충돌한다면, 검증되지 않은 가정을 매끄럽게 요약하는 대신 그 충돌을 활용해 결론을 수정하세요.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 nvidia/nemotron-3.5-lightning:free | 기본값— |
필드messages | 유형array | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 false | 기본값false |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 최댓값: 65,536 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 최댓값: 65,536 | 기본값— |
필드n | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 최댓값: 128 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 | 기본값— |
필드seed | 유형integer | 요건선택 사항 | 값과 한도 | 기본값— |
필드stop | 유형 | 요건선택 사항 | 값과 한도 | 기본값— |
필드frequency_penalty | 유형number | 요건선택 사항 | 값과 한도 | 기본값— |
필드presence_penalty | 유형number | 요건선택 사항 | 값과 한도 | 기본값— |
필드user | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수optional | 명세stream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
매개변수material_types | 명세text |
매개변수conditions | 명세Use literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
수명 주기: synchronous_json
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
| 설정 | 요금표 | 요금 |
|---|---|---|
| 설정기본 토큰 요금 | 요금표기본 요금 | 요금 입력 · 입력 토큰 $0 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
위에 표시된 메서드 경로를 사용하세요.
nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning은 총 매개변수 30B, 활성 매개변수 3B의 텍스트 추론 및 채팅 모델입니다. 하이브리드 Mamba–MoE 아키텍처는 긴 컨텍스트 분석, 코딩과 도구 기반 워크플로를 지원하며, 제조사의 채팅 템플릿에는 사고 모드와 직접 답변 모드가 문서화되어 있습니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
NVIDIA Nemotron 3.5 Lightning은 추론, 대화와 전문 에이전트 워크플로를 위한 언어 모델입니다. 총 매개변수는 30B이고 활성 매개변수는 3B이며, Mamba-2, 전문가 혼합, 어텐션 레이어를 교차 배치한 하이브리드 아키텍처를 사용합니다. Multi-Token Prediction 레이어는 미래 토큰에 대한 학습 신호를 추가하고 모델에 최적화된 생성 방법을 지원합니다. 모델은 텍스트를 처리하고 설명, 코드 및 제공된 자료에 근거한 답변을 포함한 텍스트를 생성합니다.
제조사는 챗봇, 검색 증강 생성, 지시 따르기와 에이전트를 활용 분야로 설명합니다. 지식 베이스에 근거한 답변을 얻으려면 질문과 관련 대목을 고정된 출처 라벨과 함께 제공하세요. 해당 대목에 근거해 답변하고, 중요한 주장마다 어떤 대목이 이를 뒷받침하는지 밝히며, 아직 알 수 없는 내용을 명시하도록 요청하세요. 예를 들면 다음과 같습니다. “이 지원 문서들을 사용해 두 설치 방법의 차이를 설명하고, 각 방법의 사전 요구 사항, 단계와 점검 항목을 반환하세요.” 빠진 사전 요구 사항을 모델이 만들어 내도록 유도하지 말고, 누락된 상태가 드러나게 하세요.
코딩 작업에서는 관련 코드, 예상 동작과 관찰된 실패를 제공하세요. 실용적인 요청은 해당 부분에 집중한 수정과 영향을 받는 사례에 대한 설명을 요구합니다. 도구와 연결된 에이전트가 점검을 실행했다면 다음 변경을 요청하기 전에 실제 출력을 전달하세요. 모델의 학습에는 코드, 여러 단계의 도구 사용과 구조화된 출력 작업이 포함되지만, 완성된 산출물은 여전히 원래 요구 사항과 일치해야 합니다. 수정된 코드, 중요한 변경 각각의 이유, 문제가 해결되었음을 확인하는 데 필요한 관찰 결과를 요청하세요.
제조사 문서에는 기본적으로 사고가 활성화되며 채팅 템플릿에서 사고를 비활성화하는 직접 답변 모드가 있다고 명시되어 있습니다. 추론 모드는 서로 의존하는 여러 조건이 있는 작업에 유용하고, 직접 답변은 단순한 변환이나 추출에 적합할 수 있습니다. 제조사는 클라이언트 예제에서 temperature 1.0과 top-p 0.95를 권장합니다. 이를 제조사 참조 방법의 설정값으로 취급하고, 간결한 설명, 비교표 또는 답변 뒤에 근거를 제시하는 형식처럼 최종 응답 구조를 명시적으로 선택하세요.
모델은 최대 1M 토큰의 컨텍스트를 지원합니다. 공개된 BF16 배포 방법에서는 이 모델 수준의 능력과 메모리 제약으로 256K 창을 사용하는 구성을 구분합니다. 문서 구조를 보존하고 응답할 공간을 남기면서, 적용되는 작업 창에 맞게 긴 자료를 준비하세요. 긴 컨텍스트는 문서 사이의 모순, 소스 파일 사이의 의존성 또는 결론을 뒷받침하는 근거처럼 찾아야 할 관계를 프롬프트가 명시할 때 가장 유용합니다. 관련 없는 이력을 포함하거나 최종 답변이 창 전체를 차지할 수 있다고 가정하는 근거로 삼아서는 안 됩니다.
주된 초점은 영어와 프로그래밍 언어이며, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어도 명시되어 있습니다. 필요한 출력 언어를 지정하고, 철자가 중요할 때는 이름, 식별자와 인용된 원문 용어를 보존하세요. 다국어 문서 작업에서는 자료를 번역할지, 요약할지, 비교할지 명시하세요. 이러한 요청은 서로 다른 산출물을 만듭니다. 불확실한 용어를 표시하도록 요청해, 유창한 번역이 기술적 의미를 조용히 바꾸지 않게 하세요.
NVIDIA는 주로 사용자 맞춤 조정과 전체 정밀도 연구를 위한 BF16 참조 릴리스와, 최적화된 추론 방법을 제공하는 별도의 NVFP4 릴리스를 공개합니다. 배포 지침을 비교할 때 이 구분이 중요합니다. 한 릴리스의 하드웨어 구성이나 처리량 결과가 다른 릴리스도 자동으로 설명하지는 않습니다. 모델 이름은 Lightning 제품군을 식별하지만, 구체적인 체크포인트와 서빙 구성이 적용할 방법을 결정합니다. 모델 수준의 기능을 특정 실행 방법에 따른 성능 및 메모리 가정과 구분하세요.
도구 기반 작업에서는 명확한 함수 설명을 제공하고, 실행한 각 단계의 실제 결과를 반환하세요. 제안된 작업은 주변 애플리케이션이 이를 수행하고 일어난 일을 기록한 뒤에야 사용할 수 있는 근거가 됩니다. 최종 답변에서 원자료의 관찰 내용, 도출한 결론과 미완료 점검을 구분하도록 요청하세요. 계산, 명령 또는 검색된 대목이 계획한 결과와 충돌한다면, 검증되지 않은 가정을 매끄럽게 요약하는 대신 그 충돌을 활용해 결론을 수정하세요.
POST /v1/messagestexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 nvidia/nemotron-3.5-lightning:free | 기본값— |
필드messages | 유형array | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 false | 기본값false |
필드system | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 최솟값: 1 최댓값: 65,536 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 | 기본값— |
필드top_k | 유형integer | 요건선택 사항 | 값과 한도 | 기본값— |
필드stop_sequences | 유형array | 요건선택 사항 | 값과 한도 | 기본값— |
필드metadata | 유형object | 요건선택 사항 | 값과 한도 | 기본값— |
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional | 명세stream, system, temperature, top_p, top_k, stop_sequences, metadata |
매개변수material_types | 명세text |
매개변수conditions | 명세Use literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
수명 주기: synchronous_json
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
| 설정 | 요금표 | 요금 |
|---|---|---|
| 설정기본 토큰 요금 | 요금표기본 요금 | 요금 입력 · 입력 토큰 $0 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
위에 표시된 메서드 경로를 사용하세요.