Source: https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/
Canonical: https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/
Language: ko

# Nemotron 3.5 Lightning 30B A3B

[Markdown](https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/index.md) · [JSON](https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/facts.json)

## [Nemotron 3.5 Lightning 30B A3B](https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/)

Nemotron 3.5 Lightning은 장기 에이전트 과제, 프로그래밍, 문서 검색, 대화를 위한 NVIDIA 텍스트 모델입니다.

- [**Ailoot · Anthropic Messages** `POST /v1/messages` `nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/#method-0)
- [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/#method-1)
- [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-lightning`](https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/#method-2)
- [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-lightning-latest`](https://ailoot.ai/models/ko/nvidia-nemotron-3-5-lightning-30b-a3b/#method-3)

모델 소개

이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.

#### 장기 과정의 작업 모델

Nemotron 3.5 Lightning은 자율 에이전트와 여러 단계로 이어지는 작업 흐름을 위해 설계되었습니다. 대화형 도우미, 문서를 근거로 한 검색, 지시 수행에도 사용됩니다. 입력과 출력은 텍스트입니다.

#### 아키텍처와 컨텍스트

하이브리드 전문가 혼합 구조는 Mamba-2와 별도의 어텐션 층을 결합합니다. 모델의 전체 파라미터는 300억 개, 토큰당 활성 파라미터는 30억 개입니다. 컨텍스트는 최대 100만 토큰입니다.

다음 토큰 여러 개를 예측하는 층은 자신의 제안을 주 모델의 분포와 일치시키도록 추가로 학습합니다. 릴리스와 함께 추측 디코딩 방식이 제공됩니다. 이는 생성을 구성하는 데 도움이 되지만 요청의 보장된 속도를 정하지는 않습니다.

#### 다섯 단계의 학습

1. 코드, 수학, 과학, 일반 지식의 20조 개가 넘는 토큰으로 사전 학습하며, NVFP4 형식으로 준비합니다.
2. 여러 미래 토큰을 예측하는 층의 사전 학습을 이어가며, 제안을 주 모델의 분포와 일치시킵니다.
3. 지시, 도구 호출, 구조화 결과, 멀리 떨어진 구간 검색, 문서 결합을 포함한 예시 기반 학습을 수행합니다.
4. 추론, 코드, 과학, 여러 단계의 도구 과제, 대화를 위해 여러 환경에서 강화 학습합니다.
5. 공개된 버전을 이후 수치적으로 압축합니다.

마지막 단계는 개발사의 특정 릴리스를 설명하며, 실제 제공되는 요청의 계산 정밀도를 정하지는 않습니다. 외부 과정에서 모델은 작업과 텍스트 결과를 제안합니다. 도구는 애플리케이션이 실행합니다.

#### 언어와 버전

영어, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어와 프로그래밍 언어가 공식적으로 나열되어 있습니다. 사전 학습 데이터의 기준은 2025년 9월, 이후 학습의 기준은 2026년 5월까지로 명시되어 있습니다.

수치적으로 압축된 공개 릴리스의 특성은 해당 버전을 설명합니다. 모델 이름만으로 특정 실행의 계산 정밀도를 알 수는 없습니다. 100만 토큰은 전체 컨텍스트이며, 별도의 출력 길이를 약속하는 값은 아닙니다.

실제 활용 과제

### 실제 활용 과제

영어 기술 예제

```
Apply a document-grounded procedure

Use these procedure excerpts to draft the next action for case C-09. [Rule 1] Packages with a damaged seal go to inspection. [Rule 2] Only inspection-cleared packages enter stock. [Record] C-09 has a damaged seal and no inspection result. Return the current permitted step, blocked step and supporting rule labels.
```

#### 예상 결과

```
Three concise fields covering the permitted inspection step, blocked stocking and source evidence.
```

#### 결과 확인

```
Check that missing inspection clearance prevents stocking and does not become an assumed failed inspection.
```

**Ailoot · Anthropic Messages** `POST /v1/messages` `nvidia/nemotron-3.5-lightning-30b-a3b`

[`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=messages)

NVIDIA /`nvidia/nemotron-3.5-lightning-30b-a3b`

### 시작하기

Nemotron 3.5 Lightning은 장기 에이전트 과제, 프로그래밍, 문서 검색, 대화를 위한 NVIDIA 텍스트 모델입니다.

허용 입력

텍스트

결과

텍스트

### Ailoot에서 사용 가능 · 입력 및 메서드

**Ailoot · Anthropic Messages** `POST /v1/messages`

입력

`text`

출력

`text`

컨텍스트

262,144 tokens

최대 출력

32,768 tokens

출력 형식

json 또는 SSE

| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
| --- | --- | --- | --- | --- |
| 필드`model` | 유형`string` | 요건필수 | 값과 한도 nvidia/nemotron-3.5-lightning-30b-a3b | 기본값— |
| 필드`messages` | 유형`message[]` | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
| 필드`messages[].role` | 유형`string` | 요건필수 | 값과 한도 user, assistant | 기본값— |
| 필드`messages[].content` | 유형`string\|content_block[]` | 요건필수 | 값과 한도 | 기본값— |
| 필드`system` | 유형`string\|content_block[]` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`max_tokens` | 유형`integer` | 요건필수 | 값과 한도 최솟값: 1 한도 적용 대상: 선택한 모델/카드의 정확한 상한 | 기본값— |
| 필드`stream` | 유형`boolean` | 요건선택 사항 | 값과 한도 | 기본값false |
| 필드`temperature` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`top_p` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`stop_sequences` | 유형`string[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools` | 유형`tool[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools[].name` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: 도구 지정됨 | 기본값— |
| 필드`tools[].description` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tools[].input_schema` | 유형`JSON_schema` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tool_choice` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`thinking.type` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`thinking.budget_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`output_config.effort` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`metadata` | 유형`object` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`cache_control` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |

입력 자료 조합

**텍스트** · UTF8 텍스트

`messages[].content 또는 type=text 블록`

메서드 매개변수와 수명 주기

| 매개변수 | 명세 |
| --- | --- |
| 매개변수`material_types` | 명세text |
| 매개변수`required` | 명세model, messages, max\_tokens |
| 매개변수`optional_controls` | 명세null |
| 매개변수`content_type` | 명세application/json |
| 매개변수`text_file_material` | 명세실제 UTF-8 콘텐츠를 텍스트로 삽입합니다. 파일 ID/URLs에는 별도의 정확한 지원이 필요합니다 |

수명 주기: `exact retained published method`

메서드 형식과 ID는 정확합니다. 공급자의 기능 지원과 요청 수락은 별개입니다.

### 요금

#### Ailoot 메서드 요금

입력

US$0.00008 */ 1K*

출력

US$0.0002 */ 1K*

캐시 읽기

US$0.00008 */ 1K*

캐시 쓰기

US$0.00008 */ 1K*

캐시 쓰기, 5분

US$0.00008 */ 1K tokens*

Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. [금액 확보와 정산 방식 →](https://ailoot.ai/docs/ko/billing/reserve/)

### 요청 예제

#### Ailoot · Anthropic Messages

텍스트 예제Python SDKNode.js SDKPython 스트리밍

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3.5-lightning-30b-a3b", "max_tokens": 1024, "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
  -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
```

```python
import anthropic
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = anthropic.Anthropic(base_url="https://api.ailoot.ai", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
msg = client.messages.create(
    model="nvidia/nemotron-3.5-lightning-30b-a3b",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(msg.to_dict(mode="json"))
```

```js
import Anthropic from "@anthropic-ai/sdk";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new Anthropic({ baseURL: "https://api.ailoot.ai", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const msg = await client.messages.create({
  model: "nvidia/nemotron-3.5-lightning-30b-a3b",
  max_tokens: 1024,
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(msg);
```

```python
import anthropic,os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=anthropic.Anthropic(base_url="https://api.ailoot.ai",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.messages.stream(model='nvidia/nemotron-3.5-lightning-30b-a3b',max_tokens=1024,messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_message()
    save_result(final.to_dict(mode="json"),"stream-result")
```

### 결과 수신 및 저장

#### Ailoot · Anthropic Messages

json 또는 SSE

##### 완료된 결과 모두 보관

반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.

모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.

##### 원래 응답을 확인해야 할 경우

요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.

응답 필드

| 필드 | 유형 |
| --- | --- |
| 필드`id` | 유형string |
| 필드`model` | 유형string |
| 필드`content[]` | 유형text\|thinking\|tool\_use\|other content block |
| 필드`stop_reason` | 유형string\|null |
| 필드`usage` | 유형object |

오류와 다음 단계

| 응답 | 조건 | 다음 단계 |
| --- | --- | --- |
| 응답400 · `invalid_request_error` | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |

### 별칭

#### 모델 별칭

**Ailoot** [`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=messages), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest)

#### 메서드 경로 별칭

위에 표시된 메서드 경로를 사용하세요.

#### 관련 호출용 ID

[`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=messages), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest)

**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/nemotron-3.5-lightning-30b-a3b`

[`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=chat)

NVIDIA /`nvidia/nemotron-3.5-lightning-30b-a3b`

모델 ID

- `nvidia/nemotron-3.5-lightning-30b-a3b`
- `nemotron-lightning`
- `nemotron-lightning-latest`

### 시작하기

Nemotron 3.5 Lightning은 장기 에이전트 과제, 프로그래밍, 문서 검색, 대화를 위한 NVIDIA 텍스트 모델입니다.

허용 입력

텍스트

결과

텍스트

### Ailoot에서 사용 가능 · 입력 및 메서드

**Ailoot · OpenAI Chat** `POST /v1/chat/completions`

입력

`text`

출력

`text`

컨텍스트

4,096 tokens

최대 출력

1,024 tokens

출력 형식

json 또는 SSE

| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
| --- | --- | --- | --- | --- |
| 필드`model` | 유형`string` | 요건필수 | 값과 한도 nvidia/nemotron-3.5-lightning-30b-a3b | 기본값— |
| 필드`messages` | 유형`message[]` | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
| 필드`messages[].role` | 유형`string` | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
| 필드`messages[].content` | 유형`string\|content_part[]\|null` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].tool_calls` | 유형`tool_call[]` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].tool_call_id` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
| 필드`messages[].name` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].reasoning_content` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
| 필드`messages[].reasoning_details` | 유형`object\|array` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`max_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
| 필드`max_completion_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
| 필드`stream` | 유형`boolean` | 요건선택 사항 | 값과 한도 | 기본값false |
| 필드`stream_options.include_usage` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`temperature` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`top_p` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`stop` | 유형`string\|string[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools` | 유형`function_tool[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools[].type` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools[].function.name` | 유형`string` | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
| 필드`tools[].function.description` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tools[].function.parameters` | 유형`JSON_schema` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tool_choice` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`parallel_tool_calls` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`response_format` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`reasoning_effort` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`reasoning` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`service_tier` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`instructions` | 유형`string` | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
| 필드`functions` | 유형`function[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`function_call` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`prompt_cache_options` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |

입력 자료 조합

**텍스트** · UTF8 텍스트

`messages[].content`

메서드 매개변수와 수명 주기

| 매개변수 | 명세 |
| --- | --- |
| 매개변수`material_types` | 명세text |
| 매개변수`required` | 명세model, messages |
| 매개변수`optional_controls` | 명세null |
| 매개변수`content_type` | 명세application/json |
| 매개변수`text_file_material` | 명세실제 UTF-8 콘텐츠를 텍스트로 삽입합니다. 파일 ID/URLs에는 별도의 정확한 지원이 필요합니다 |

수명 주기: `exact retained published method`

메서드 형식과 ID는 정확합니다. 공급자의 기능 지원과 요청 수락은 별개입니다.

### 요금

#### Ailoot 메서드 요금

입력

US$0.00008 */ 1K*

출력

US$0.0002 */ 1K*

캐시 읽기

US$0.00008 */ 1K*

캐시 쓰기

US$0.00008 */ 1K*

캐시 쓰기, 5분

US$0.00008 */ 1K tokens*

Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. [금액 확보와 정산 방식 →](https://ailoot.ai/docs/ko/billing/reserve/)

### 요청 예제

#### Ailoot · OpenAI Chat

텍스트 예제Python SDKNode.js SDKPython 스트리밍

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3.5-lightning-30b-a3b", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
```

```python
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/nemotron-3.5-lightning-30b-a3b",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
```

```js
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/nemotron-3.5-lightning-30b-a3b",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
```

```python
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/nemotron-3.5-lightning-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")
```

### 결과 수신 및 저장

#### Ailoot · OpenAI Chat

json 또는 SSE

##### 완료된 결과 모두 보관

반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.

각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.

##### 원래 응답을 확인해야 할 경우

요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.

응답 필드

| 필드 | 유형 |
| --- | --- |
| 필드`choices[].index` | 유형integer |
| 필드`choices[].message.content` | 유형string\|null |
| 필드`choices[].message.tool_calls` | 유형tool\_call\[\] |
| 필드`choices[].message.reasoning_content` | 유형string |
| 필드`choices[].message.reasoning_details` | 유형object\|array |
| 필드`choices[].finish_reason` | 유형string\|null |
| 필드`usage` | 유형object |

오류와 다음 단계

| 응답 | 조건 | 다음 단계 |
| --- | --- | --- |
| 응답400 · `invalid_request_error` | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |

### 별칭

#### 모델 별칭

**Ailoot** [`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=chat), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning&fmt=chat), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest&fmt=chat)

#### 메서드 경로 별칭

위에 표시된 메서드 경로를 사용하세요.

#### 관련 호출용 ID

[`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=chat), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning&fmt=chat), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest&fmt=chat)

**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-lightning`

[`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning&fmt=chat)

NVIDIA /`nemotron-lightning`

모델 ID

- `nvidia/nemotron-3.5-lightning-30b-a3b`
- `nemotron-lightning`
- `nemotron-lightning-latest`

### 시작하기

Nemotron 3.5 Lightning은 장기 에이전트 과제, 프로그래밍, 문서 검색, 대화를 위한 NVIDIA 텍스트 모델입니다.

허용 입력

텍스트

결과

텍스트

### Ailoot에서 사용 가능 · 입력 및 메서드

**Ailoot · OpenAI Chat** `POST /v1/chat/completions`

입력

`text`

출력

`text`

컨텍스트

4,096 tokens

최대 출력

1,024 tokens

출력 형식

json 또는 SSE

| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
| --- | --- | --- | --- | --- |
| 필드`model` | 유형`string` | 요건필수 | 값과 한도 nemotron-lightning | 기본값— |
| 필드`messages` | 유형`message[]` | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
| 필드`messages[].role` | 유형`string` | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
| 필드`messages[].content` | 유형`string\|content_part[]\|null` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].tool_calls` | 유형`tool_call[]` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].tool_call_id` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
| 필드`messages[].name` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].reasoning_content` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
| 필드`messages[].reasoning_details` | 유형`object\|array` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`max_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
| 필드`max_completion_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
| 필드`stream` | 유형`boolean` | 요건선택 사항 | 값과 한도 | 기본값false |
| 필드`stream_options.include_usage` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`temperature` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`top_p` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`stop` | 유형`string\|string[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools` | 유형`function_tool[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools[].type` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools[].function.name` | 유형`string` | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
| 필드`tools[].function.description` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tools[].function.parameters` | 유형`JSON_schema` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tool_choice` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`parallel_tool_calls` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`response_format` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`reasoning_effort` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`reasoning` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`service_tier` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`instructions` | 유형`string` | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
| 필드`functions` | 유형`function[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`function_call` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`prompt_cache_options` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |

입력 자료 조합

**텍스트** · UTF8 텍스트

`messages[].content`

메서드 매개변수와 수명 주기

| 매개변수 | 명세 |
| --- | --- |
| 매개변수`material_types` | 명세text |
| 매개변수`required` | 명세model, messages |
| 매개변수`optional_controls` | 명세null |
| 매개변수`content_type` | 명세application/json |
| 매개변수`text_file_material` | 명세실제 UTF-8 콘텐츠를 텍스트로 삽입합니다. 파일 ID/URLs에는 별도의 정확한 지원이 필요합니다 |

수명 주기: `exact retained published method`

메서드 형식과 ID는 정확합니다. 공급자의 기능 지원과 요청 수락은 별개입니다.

### 요금

#### Ailoot 메서드 요금

입력

US$0.00008 */ 1K*

출력

US$0.0002 */ 1K*

캐시 읽기

US$0.00008 */ 1K*

캐시 쓰기

US$0.00008 */ 1K*

캐시 쓰기, 5분

US$0.00008 */ 1K tokens*

Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. [금액 확보와 정산 방식 →](https://ailoot.ai/docs/ko/billing/reserve/)

### 요청 예제

#### Ailoot · OpenAI Chat

텍스트 예제Python SDKNode.js SDKPython 스트리밍

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-lightning", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
```

```python
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-lightning",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
```

```js
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-lightning",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
```

```python
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-lightning',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")
```

### 결과 수신 및 저장

#### Ailoot · OpenAI Chat

json 또는 SSE

##### 완료된 결과 모두 보관

반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.

각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.

##### 원래 응답을 확인해야 할 경우

요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.

응답 필드

| 필드 | 유형 |
| --- | --- |
| 필드`choices[].index` | 유형integer |
| 필드`choices[].message.content` | 유형string\|null |
| 필드`choices[].message.tool_calls` | 유형tool\_call\[\] |
| 필드`choices[].message.reasoning_content` | 유형string |
| 필드`choices[].message.reasoning_details` | 유형object\|array |
| 필드`choices[].finish_reason` | 유형string\|null |
| 필드`usage` | 유형object |

오류와 다음 단계

| 응답 | 조건 | 다음 단계 |
| --- | --- | --- |
| 응답400 · `invalid_request_error` | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |

### 별칭

#### 모델 별칭

**Ailoot** [`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=chat), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning&fmt=chat), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest&fmt=chat)

#### 메서드 경로 별칭

위에 표시된 메서드 경로를 사용하세요.

#### 관련 호출용 ID

[`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=chat), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning&fmt=chat), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest&fmt=chat)

**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-lightning-latest`

[`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest&fmt=chat)

NVIDIA /`nemotron-lightning-latest`

모델 ID

- `nvidia/nemotron-3.5-lightning-30b-a3b`
- `nemotron-lightning`
- `nemotron-lightning-latest`

### 시작하기

Nemotron 3.5 Lightning은 장기 에이전트 과제, 프로그래밍, 문서 검색, 대화를 위한 NVIDIA 텍스트 모델입니다.

허용 입력

텍스트

결과

텍스트

### Ailoot에서 사용 가능 · 입력 및 메서드

**Ailoot · OpenAI Chat** `POST /v1/chat/completions`

입력

`text`

출력

`text`

컨텍스트

4,096 tokens

최대 출력

1,024 tokens

출력 형식

json 또는 SSE

| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
| --- | --- | --- | --- | --- |
| 필드`model` | 유형`string` | 요건필수 | 값과 한도 nemotron-lightning-latest | 기본값— |
| 필드`messages` | 유형`message[]` | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
| 필드`messages[].role` | 유형`string` | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
| 필드`messages[].content` | 유형`string\|content_part[]\|null` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].tool_calls` | 유형`tool_call[]` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].tool_call_id` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
| 필드`messages[].name` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`messages[].reasoning_content` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
| 필드`messages[].reasoning_details` | 유형`object\|array` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`max_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
| 필드`max_completion_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
| 필드`stream` | 유형`boolean` | 요건선택 사항 | 값과 한도 | 기본값false |
| 필드`stream_options.include_usage` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`temperature` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`top_p` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`stop` | 유형`string\|string[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools` | 유형`function_tool[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools[].type` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`tools[].function.name` | 유형`string` | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
| 필드`tools[].function.description` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tools[].function.parameters` | 유형`JSON_schema` | 요건선택 사항 | 값과 한도 | 기본값— |
| 필드`tool_choice` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`parallel_tool_calls` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`response_format` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`reasoning_effort` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`reasoning` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`service_tier` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`instructions` | 유형`string` | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
| 필드`functions` | 유형`function[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`function_call` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
| 필드`prompt_cache_options` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |

입력 자료 조합

**텍스트** · UTF8 텍스트

`messages[].content`

메서드 매개변수와 수명 주기

| 매개변수 | 명세 |
| --- | --- |
| 매개변수`material_types` | 명세text |
| 매개변수`required` | 명세model, messages |
| 매개변수`optional_controls` | 명세null |
| 매개변수`content_type` | 명세application/json |
| 매개변수`text_file_material` | 명세실제 UTF-8 콘텐츠를 텍스트로 삽입합니다. 파일 ID/URLs에는 별도의 정확한 지원이 필요합니다 |

수명 주기: `exact retained published method`

메서드 형식과 ID는 정확합니다. 공급자의 기능 지원과 요청 수락은 별개입니다.

### 요금

#### Ailoot 메서드 요금

입력

US$0.00008 */ 1K*

출력

US$0.0002 */ 1K*

캐시 읽기

US$0.00008 */ 1K*

캐시 쓰기

US$0.00008 */ 1K*

캐시 쓰기, 5분

US$0.00008 */ 1K tokens*

Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. [금액 확보와 정산 방식 →](https://ailoot.ai/docs/ko/billing/reserve/)

### 요청 예제

#### Ailoot · OpenAI Chat

텍스트 예제Python SDKNode.js SDKPython 스트리밍

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-lightning-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
```

```python
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-lightning-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
```

```js
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-lightning-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
```

```python
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-lightning-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")
```

### 결과 수신 및 저장

#### Ailoot · OpenAI Chat

json 또는 SSE

##### 완료된 결과 모두 보관

반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.

각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.

##### 원래 응답을 확인해야 할 경우

요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.

응답 필드

| 필드 | 유형 |
| --- | --- |
| 필드`choices[].index` | 유형integer |
| 필드`choices[].message.content` | 유형string\|null |
| 필드`choices[].message.tool_calls` | 유형tool\_call\[\] |
| 필드`choices[].message.reasoning_content` | 유형string |
| 필드`choices[].message.reasoning_details` | 유형object\|array |
| 필드`choices[].finish_reason` | 유형string\|null |
| 필드`usage` | 유형object |

오류와 다음 단계

| 응답 | 조건 | 다음 단계 |
| --- | --- | --- |
| 응답400 · `invalid_request_error` | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |

### 별칭

#### 모델 별칭

**Ailoot** [`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=chat), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning&fmt=chat), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest&fmt=chat)

#### 메서드 경로 별칭

위에 표시된 메서드 경로를 사용하세요.

#### 관련 호출용 ID

[`nvidia/nemotron-3.5-lightning-30b-a3b`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nvidia%2Fnemotron-3.5-lightning-30b-a3b&fmt=chat), [`nemotron-lightning`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning&fmt=chat), [`nemotron-lightning-latest`](https://ailoot.ai/models/ko/#m=nvidia%2Fnemotron-3.5-lightning-30b-a3b&route=Core&caller=nemotron-lightning-latest&fmt=chat)

FAQ · nvidia/nemotron-3.5-lightning-30b-a3b

어떤 입력과 결과를 사용할 수 있나요?

`POST /v1/messages` · `nvidia/nemotron-3.5-lightning-30b-a3b`: `text` → `text` `POST /v1/chat/completions` · `nvidia/nemotron-3.5-lightning-30b-a3b`: `text` → `text` `POST /v1/chat/completions` · `nemotron-lightning`: `text` → `text` `POST /v1/chat/completions` · `nemotron-lightning-latest`: `text` → `text`

요청은 어떤 필드를 사용하나요?

`POST /v1/messages` · `nvidia/nemotron-3.5-lightning-30b-a3b`: `model`, `messages`, `system`, `max_tokens`, `stream`, `metadata` `POST /v1/chat/completions` · `nvidia/nemotron-3.5-lightning-30b-a3b`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-lightning`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-lightning-latest`: `model`, `messages`, `stream`

어떤 제한이 적용되나요?

`POST /v1/messages` · `nvidia/nemotron-3.5-lightning-30b-a3b`: `ctx`: `262144`; `max_out`: `32768`; `messages.min_items`: `1`; `max_tokens.minimum`: `1` `POST /v1/chat/completions` · `nvidia/nemotron-3.5-lightning-30b-a3b`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-lightning`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-lightning-latest`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1`

Claude Code, OpenCode, Hermes, 자체 앱에 Ailoot를 연결하세요.

## 회사와 그 프로젝트 포트폴리오

회사와 그 프로젝트 포트폴리오: 수백만 고객, 매월 수십억 규모의 매출.

## 할인받아 토큰을 구매하세요.

정기 작업에는 구독 할인, 토큰 구매에는 최대 50% 프로모션 코드.

구독

정기 요청에 맞는 할인 요금제를 선택하세요.

최대 50% 프로모션 코드

구매할 때 코드를 넣으면 진행 중 행사에 따라 가격을 다시 계산합니다.

이력의 지출

요청마다 모델, 토큰, 금액을 저장합니다.

[구독 선택](https://ailoot.ai/docs/ko/billing/subscriptions/) · [모델 가격 보기](https://ailoot.ai/models/ko/)

## 판매하는 제품에 API를 연결하세요.

Ailoot 공식 이용 조건과 라이선스 계약으로 SaaS, 앱, 봇에 사용하세요. 재판매에는 리셀러 라이선스를 요청하세요.

상업용 앱

서비스의 유료 기능에 텍스트, 이미지, 영상, 소리 생성을 넣으세요.

리셀러 라이선스

프로젝트 설명과 접근 구조를 보내 사용·재판매의 서면 조건을 요청하세요.

사이트의 문서

연결 전에 공식 이용 조건, 라이선스 계약, 데이터 처리 정책을 읽을 수 있습니다.

[리셀러 라이선스 요청](mailto:support@ailoot.ai) · [공식 이용 조건과 라이선스 계약](https://ailoot.ai/legal/offer?lang=ko)

## Ailoot · 회사와 그 프로젝트 포트폴리오





Ailoot는 축적된 운영 경험, 폭넓은 고객 기반, 안정적인 서비스, 지속적인 KPI 관리를 바탕으로 합니다.





회사와 그 프로젝트 포트폴리오: 수백만 고객, 매월 수십억 규모의 매출.





Ailoot는 이러한 운영 경험을 고객의 제품, 에이전트, 애플리케이션, 자동화에서 AI 기능을 이용할 수 있는 API 접근에 활용합니다.