Nemotron 3.5 Lightning è il modello linguistico ibrido mixture-of-experts di NVIDIA per attività testuali con ragionamento e risposta diretta. Il profilo del produttore indica 30 miliardi di parametri totali e 3 miliardi di parametri attivi, combinando componenti Mamba e transformer con predizione di più token. La versione BF16 citata è il materiale del modello a piena precisione del produttore, separato dalle sue edizioni ottimizzate a bassa precisione.
Il produttore descrive un preaddestramento su più di ventimila miliardi di token, seguito da addestramento continuato per la predizione di più token, fine-tuning supervisionato e apprendimento per rinforzo in più ambienti. Le attività di istruzione e apprendimento per rinforzo comprendono codice, matematica, scienza, chiamata di strumenti, output strutturato e interazione su più turni. La predizione di più token è una caratteristica architetturale e di addestramento di Lightning, non un tipo di output aggiuntivo come la generazione di immagini o audio.
Il modello accetta testo e restituisce testo. Le lingue supportate dal produttore comprendono inglese, spagnolo, francese, tedesco, italiano e giapponese. Specifica la lingua di output e preserva nomi tecnici o identificatori di codice che non devono cambiare.
Il template di chat del produttore può abilitare o disabilitare il ragionamento. Un’attività di ragionamento sviluppa un’analisi intermedia prima della risposta finale, mentre un’attività diretta può richiedere la risposta senza quella traccia. Il produttore raccomanda temperature 1.0 e top-p 0.95 per il profilo di riferimento. Specifica indipendentemente l’artefatto finale richiesto: una soluzione, una modifica mirata del codice, un confronto fra fonti o un record di dati definito.
Una consegna pratica è: «Usa questi passaggi delle fonti per confrontare i requisiti e identificare la condizione da cui dipende ogni conclusione». Per la programmazione, fornisci l’implementazione pertinente, l’errore osservato e il comportamento atteso, e richiedi una patch collegata alle evidenze. Mantieni il codice proposto distinto da un risultato di validazione effettivo.
Il post-addestramento di NVIDIA comprende strumenti in più passaggi e output strutturati. Fornisci funzioni con finalità precise e schemi degli argomenti quando un’applicazione usa il modello come agente. L’applicazione esegue le operazioni selezionate e restituisce osservazioni per il passaggio successivo. Una funzione scelta o un record di argomenti generato non esegue autonomamente l’operazione.
Per un risultato strutturato, definisci il significato dei campi e le convenzioni per i valori mancanti. Verifica i valori rispetto all’input anche quando il formato è adatto a un sistema a valle. Un’attività che prosegue deve conservare le osservazioni che ne dimostrano l’avanzamento e il criterio finale che ne segna il completamento.
Il modello supporta un contesto fino a un milione di token nel profilo documentato. Il produttore mostra inoltre una configurazione più piccola da 256K per un ambiente di esecuzione con vincoli di memoria, quindi il profilo massimo e una configurazione selezionata sono diversi. Materiale sorgente, cronologia, risultati degli strumenti, ragionamento e risposta finale condividono il contesto disponibile. La formulazione della scheda sul contesto di output non stabilisce un budget aggiuntivo indipendente di un milione di token per la risposta.
Il riferimento BF16, le versioni del produttore a bassa precisione e il precedente Nemotron 3 Nano hanno proprietà di edizione separate. Usa testi autorevoli per le affermazioni sensibili alle fonti e osservazioni effettive dell’applicazione per il lavoro eseguito. Il risultato utile è una soluzione testuale verificabile, una proposta di codice o un’analisi strutturata le cui ipotesi ed evidenze a sostegno rimangono chiare.
", "aboutText": "Nemotron 3.5 Lightning è il modello linguistico ibrido mixture-of-experts di NVIDIA per attività testuali con ragionamento e risposta diretta. Il profilo del produttore indica 30 miliardi di parametri totali e 3 miliardi di parametri attivi, combinando componenti Mamba e transformer con predizione di più token. La versione BF16 citata è il materiale del modello a piena precisione del produttore, separato dalle sue edizioni ottimizzate a bassa precisione.\n\n### Addestramento e progettazione dell’edizione\n\nIl produttore descrive un preaddestramento su più di ventimila miliardi di token, seguito da addestramento continuato per la predizione di più token, fine-tuning supervisionato e apprendimento per rinforzo in più ambienti. Le attività di istruzione e apprendimento per rinforzo comprendono codice, matematica, scienza, chiamata di strumenti, output strutturato e interazione su più turni. La predizione di più token è una caratteristica architetturale e di addestramento di Lightning, non un tipo di output aggiuntivo come la generazione di immagini o audio.\n\nIl modello accetta testo e restituisce testo. Le lingue supportate dal produttore comprendono inglese, spagnolo, francese, tedesco, italiano e giapponese. Specifica la lingua di output e preserva nomi tecnici o identificatori di codice che non devono cambiare.\n\n### Ragionamento o risposta diretta\n\nIl template di chat del produttore può abilitare o disabilitare il ragionamento. Un’attività di ragionamento sviluppa un’analisi intermedia prima della risposta finale, mentre un’attività diretta può richiedere la risposta senza quella traccia. Il produttore raccomanda temperature 1.0 e top-p 0.95 per il profilo di riferimento. Specifica indipendentemente l’artefatto finale richiesto: una soluzione, una modifica mirata del codice, un confronto fra fonti o un record di dati definito.\n\nUna consegna pratica è: «Usa questi passaggi delle fonti per confrontare i requisiti e identificare la condizione da cui dipende ogni conclusione». Per la programmazione, fornisci l’implementazione pertinente, l’errore osservato e il comportamento atteso, e richiedi una patch collegata alle evidenze. Mantieni il codice proposto distinto da un risultato di validazione effettivo.\n\n### Strumenti e lavoro strutturato\n\nIl post-addestramento di NVIDIA comprende strumenti in più passaggi e output strutturati. Fornisci funzioni con finalità precise e schemi degli argomenti quando un’applicazione usa il modello come agente. L’applicazione esegue le operazioni selezionate e restituisce osservazioni per il passaggio successivo. Una funzione scelta o un record di argomenti generato non esegue autonomamente l’operazione.\n\nPer un risultato strutturato, definisci il significato dei campi e le convenzioni per i valori mancanti. Verifica i valori rispetto all’input anche quando il formato è adatto a un sistema a valle. Un’attività che prosegue deve conservare le osservazioni che ne dimostrano l’avanzamento e il criterio finale che ne segna il completamento.\n\n### Contesto e configurazione del produttore\n\nIl modello supporta un contesto fino a un milione di token nel profilo documentato. Il produttore mostra inoltre una configurazione più piccola da 256K per un ambiente di esecuzione con vincoli di memoria, quindi il profilo massimo e una configurazione selezionata sono diversi. Materiale sorgente, cronologia, risultati degli strumenti, ragionamento e risposta finale condividono il contesto disponibile. La formulazione della scheda sul contesto di output non stabilisce un budget aggiuntivo indipendente di un milione di token per la risposta.\n\nIl riferimento BF16, le versioni del produttore a bassa precisione e il precedente Nemotron 3 Nano hanno proprietà di edizione separate. Usa testi autorevoli per le affermazioni sensibili alle fonti e osservazioni effettive dell’applicazione per il lavoro eseguito. Il risultato utile è una soluzione testuale verificabile, una proposta di codice o un’analisi strutturata le cui ipotesi ed evidenze a sostegno rimangono chiare.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Calculate usable production time\n\nA machine produces 360 parts per hour while running. A shift has 90 minutes available, including 15 minutes of setup during which no parts are produced. Assume a constant rate and no other losses. Calculate the production quantity, show the unit conversion and state how many minutes are actually productive.A productive-time calculation, a rate conversion and a final quantity with units.Check that setup is subtracted before multiplying and that hours and minutes are not mixed in one rate calculation.nvidia/nemotron-3.5-lightningNemotron 3.5 Lightning è il modello testuale ibrido mixture-of-experts di NVIDIA per il ragionamento, la programmazione e le attività guidate da strumenti. Il profilo documentato del produttore 30B/A3B aggiunge predizione di più token, ragionamento configurabile e contesto fino a un milione di token, con una versione di riferimento BF16 distinta.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Nemotron 3.5 Lightning è il modello linguistico ibrido mixture-of-experts di NVIDIA per attività testuali con ragionamento e risposta diretta. Il profilo del produttore indica 30 miliardi di parametri totali e 3 miliardi di parametri attivi, combinando componenti Mamba e transformer con predizione di più token. La versione BF16 citata è il materiale del modello a piena precisione del produttore, separato dalle sue edizioni ottimizzate a bassa precisione.
Il produttore descrive un preaddestramento su più di ventimila miliardi di token, seguito da addestramento continuato per la predizione di più token, fine-tuning supervisionato e apprendimento per rinforzo in più ambienti. Le attività di istruzione e apprendimento per rinforzo comprendono codice, matematica, scienza, chiamata di strumenti, output strutturato e interazione su più turni. La predizione di più token è una caratteristica architetturale e di addestramento di Lightning, non un tipo di output aggiuntivo come la generazione di immagini o audio.
Il modello accetta testo e restituisce testo. Le lingue supportate dal produttore comprendono inglese, spagnolo, francese, tedesco, italiano e giapponese. Specifica la lingua di output e preserva nomi tecnici o identificatori di codice che non devono cambiare.
Il template di chat del produttore può abilitare o disabilitare il ragionamento. Un’attività di ragionamento sviluppa un’analisi intermedia prima della risposta finale, mentre un’attività diretta può richiedere la risposta senza quella traccia. Il produttore raccomanda temperature 1.0 e top-p 0.95 per il profilo di riferimento. Specifica indipendentemente l’artefatto finale richiesto: una soluzione, una modifica mirata del codice, un confronto fra fonti o un record di dati definito.
Una consegna pratica è: «Usa questi passaggi delle fonti per confrontare i requisiti e identificare la condizione da cui dipende ogni conclusione». Per la programmazione, fornisci l’implementazione pertinente, l’errore osservato e il comportamento atteso, e richiedi una patch collegata alle evidenze. Mantieni il codice proposto distinto da un risultato di validazione effettivo.
Il post-addestramento di NVIDIA comprende strumenti in più passaggi e output strutturati. Fornisci funzioni con finalità precise e schemi degli argomenti quando un’applicazione usa il modello come agente. L’applicazione esegue le operazioni selezionate e restituisce osservazioni per il passaggio successivo. Una funzione scelta o un record di argomenti generato non esegue autonomamente l’operazione.
Per un risultato strutturato, definisci il significato dei campi e le convenzioni per i valori mancanti. Verifica i valori rispetto all’input anche quando il formato è adatto a un sistema a valle. Un’attività che prosegue deve conservare le osservazioni che ne dimostrano l’avanzamento e il criterio finale che ne segna il completamento.
Il modello supporta un contesto fino a un milione di token nel profilo documentato. Il produttore mostra inoltre una configurazione più piccola da 256K per un ambiente di esecuzione con vincoli di memoria, quindi il profilo massimo e una configurazione selezionata sono diversi. Materiale sorgente, cronologia, risultati degli strumenti, ragionamento e risposta finale condividono il contesto disponibile. La formulazione della scheda sul contesto di output non stabilisce un budget aggiuntivo indipendente di un milione di token per la risposta.
Il riferimento BF16, le versioni del produttore a bassa precisione e il precedente Nemotron 3 Nano hanno proprietà di edizione separate. Usa testi autorevoli per le affermazioni sensibili alle fonti e osservazioni effettive dell’applicazione per il lavoro eseguito. Il risultato utile è una soluzione testuale verificabile, una proposta di codice o un’analisi strutturata le cui ipotesi ed evidenze a sostegno rimangono chiare.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti nvidia/nemotron-3.5-lightning | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00014 / 1K token Output · Token in output $0.0004 / 1K token Input · Lettura dalla cache $0.00008 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00014 / 1K token Output · Token in output $0.0004 / 1K token Input · Lettura dalla cache $0.00008 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nvidia/nemotron-3.5-lightning',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nvidia/nemotron-3.5-lightning',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra nvidia/nemotron-3.5-lightning
Usa i percorsi dei metodi indicati sopra.
nvidia/nemotron-3.5-lightningNemotron 3.5 Lightning è il modello testuale ibrido mixture-of-experts di NVIDIA per il ragionamento, la programmazione e le attività guidate da strumenti. Il profilo documentato del produttore 30B/A3B aggiunge predizione di più token, ragionamento configurabile e contesto fino a un milione di token, con una versione di riferimento BF16 distinta.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Nemotron 3.5 Lightning è il modello linguistico ibrido mixture-of-experts di NVIDIA per attività testuali con ragionamento e risposta diretta. Il profilo del produttore indica 30 miliardi di parametri totali e 3 miliardi di parametri attivi, combinando componenti Mamba e transformer con predizione di più token. La versione BF16 citata è il materiale del modello a piena precisione del produttore, separato dalle sue edizioni ottimizzate a bassa precisione.
Il produttore descrive un preaddestramento su più di ventimila miliardi di token, seguito da addestramento continuato per la predizione di più token, fine-tuning supervisionato e apprendimento per rinforzo in più ambienti. Le attività di istruzione e apprendimento per rinforzo comprendono codice, matematica, scienza, chiamata di strumenti, output strutturato e interazione su più turni. La predizione di più token è una caratteristica architetturale e di addestramento di Lightning, non un tipo di output aggiuntivo come la generazione di immagini o audio.
Il modello accetta testo e restituisce testo. Le lingue supportate dal produttore comprendono inglese, spagnolo, francese, tedesco, italiano e giapponese. Specifica la lingua di output e preserva nomi tecnici o identificatori di codice che non devono cambiare.
Il template di chat del produttore può abilitare o disabilitare il ragionamento. Un’attività di ragionamento sviluppa un’analisi intermedia prima della risposta finale, mentre un’attività diretta può richiedere la risposta senza quella traccia. Il produttore raccomanda temperature 1.0 e top-p 0.95 per il profilo di riferimento. Specifica indipendentemente l’artefatto finale richiesto: una soluzione, una modifica mirata del codice, un confronto fra fonti o un record di dati definito.
Una consegna pratica è: «Usa questi passaggi delle fonti per confrontare i requisiti e identificare la condizione da cui dipende ogni conclusione». Per la programmazione, fornisci l’implementazione pertinente, l’errore osservato e il comportamento atteso, e richiedi una patch collegata alle evidenze. Mantieni il codice proposto distinto da un risultato di validazione effettivo.
Il post-addestramento di NVIDIA comprende strumenti in più passaggi e output strutturati. Fornisci funzioni con finalità precise e schemi degli argomenti quando un’applicazione usa il modello come agente. L’applicazione esegue le operazioni selezionate e restituisce osservazioni per il passaggio successivo. Una funzione scelta o un record di argomenti generato non esegue autonomamente l’operazione.
Per un risultato strutturato, definisci il significato dei campi e le convenzioni per i valori mancanti. Verifica i valori rispetto all’input anche quando il formato è adatto a un sistema a valle. Un’attività che prosegue deve conservare le osservazioni che ne dimostrano l’avanzamento e il criterio finale che ne segna il completamento.
Il modello supporta un contesto fino a un milione di token nel profilo documentato. Il produttore mostra inoltre una configurazione più piccola da 256K per un ambiente di esecuzione con vincoli di memoria, quindi il profilo massimo e una configurazione selezionata sono diversi. Materiale sorgente, cronologia, risultati degli strumenti, ragionamento e risposta finale condividono il contesto disponibile. La formulazione della scheda sul contesto di output non stabilisce un budget aggiuntivo indipendente di un milione di token per la risposta.
Il riferimento BF16, le versioni del produttore a bassa precisione e il precedente Nemotron 3 Nano hanno proprietà di edizione separate. Usa testi autorevoli per le affermazioni sensibili alle fonti e osservazioni effettive dell’applicazione per il lavoro eseguito. Il risultato utile è una soluzione testuale verificabile, una proposta di codice o un’analisi strutturata le cui ipotesi ed evidenze a sostegno rimangono chiare.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti nvidia/nemotron-3.5-lightning | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00014 / 1K token Output · Token in output $0.0004 / 1K token Input · Lettura dalla cache $0.00008 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00014 / 1K token Output · Token in output $0.0004 / 1K token Input · Lettura dalla cache $0.00008 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "nvidia/nemotron-3.5-lightning",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3.5-lightning', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3.5-lightning', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra nvidia/nemotron-3.5-lightning
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Calculate usable production time\n\nA machine produces 360 parts per hour while running. A shift has 90 minutes available, including 15 minutes of setup during which no parts are produced. Assume a constant rate and no other losses. Calculate the production quantity, show the unit conversion and state how many minutes are actually productive.A productive-time calculation, a rate conversion and a final quantity with units.Check that setup is subtracted before multiplying and that hours and minutes are not mixed in one rate calculation.