Nemotron 3.5 Lightning är NVIDIAs hybrida mixture-of-experts-språkmodell för textuppgifter med resonemang och direkta svar. Tillverkarens profil anger totalt 30 miljarder parametrar och 3 miljarder aktiva parametrar och kombinerar Mamba- och transformerkomponenter med förutsägelse av flera token. Den refererade BF16-utgåvan är tillverkarens modellmaterial med full precision, åtskilt från de optimerade utgåvorna med låg precision.
Tillverkaren beskriver förträning på fler än tjugo biljoner token, följd av fortsatt träning för förutsägelse av flera token, övervakad finjustering och förstärkningsinlärning i flera miljöer. Instruktions- och förstärkningsinlärningsuppgifterna omfattar kod, matematik, naturvetenskap, verktygsanrop, strukturerade utdata och interaktion med flera turer. Förutsägelse av flera token är en arkitektur- och träningsegenskap hos Lightning, inte en ytterligare utdatatyp som bild- eller ljudgenerering.
Modellen tar emot text och returnerar text. De språk tillverkaren stöder omfattar engelska, spanska, franska, tyska, italienska och japanska. Ange utdataspråket och bevara tekniska namn eller kodidentifierare som inte ska ändras.
Tillverkarens chattmall kan aktivera eller inaktivera tänkande. En resonemangsuppgift utvecklar mellanliggande analys före det slutliga svaret, medan en direkt uppgift kan begära svaret utan detta spår. Tillverkaren rekommenderar temperature 1,0 och top-p 0,95 för referensprofilen. Ange det önskade slutresultatet oberoende av detta: en lösning, en avgränsad kodändring, en källjämförelse eller en definierad datapost.
En praktisk uppgiftsbeskrivning är: ”Använd dessa källstycken för att jämföra kraven och identifiera det villkor som varje slutsats beror på.” För kodning ska du tillhandahålla relevant implementation, observerat fel och förväntat beteende, och begära en patch som är knuten till underlaget. Håll föreslagen kod åtskild från ett faktiskt valideringsresultat.
NVIDIAs efterträning omfattar verktyg i flera steg och strukturerade utdata. Tillhandahåll funktioner med precisa syften och argumentscheman när en applikation använder modellen som agent. Applikationen utför valda operationer och returnerar observationer för nästa steg. En vald funktion eller genererad argumentpost genomför inte operationen på egen hand.
För ett strukturerat resultat ska du definiera fältens innebörd och regler för saknade värden. Kontrollera värden mot indata även när formatet passar ett efterföljande system. En fortsatt uppgift bör bevara de observationer som fastställer framsteg och det slutliga kriterium som markerar att den är klar.
Modellen stöder kontext på upp till en miljon token i den dokumenterade profilen. Tillverkaren visar även en mindre konfiguration med 256K token för en minnesbegränsad exekveringsmiljö, så maximal profil och vald konfiguration är olika saker. Källmaterial, historik, verktygsresultat, resonemang och slutligt svar delar på den tillgängliga kontexten. Kortets formulering om utmatningskontext fastställer inte en ytterligare, oberoende svarsbudget på en miljon token.
BF16-referensen, tillverkarens utgåvor med låg precision och den tidigare Nemotron 3 Nano har separata utgåveegenskaper. Använd auktoritativa texter för källkänsliga påståenden och faktiska observationer från applikationen för utfört arbete. Det användbara resultatet är en granskningsbar textlösning, ett kodförslag eller en strukturerad analys där antaganden och stödjande underlag förblir tydliga.
", "aboutText": "Nemotron 3.5 Lightning är NVIDIAs hybrida mixture-of-experts-språkmodell för textuppgifter med resonemang och direkta svar. Tillverkarens profil anger totalt 30 miljarder parametrar och 3 miljarder aktiva parametrar och kombinerar Mamba- och transformerkomponenter med förutsägelse av flera token. Den refererade BF16-utgåvan är tillverkarens modellmaterial med full precision, åtskilt från de optimerade utgåvorna med låg precision.\n\n### Träning och utgåvans konstruktion\n\nTillverkaren beskriver förträning på fler än tjugo biljoner token, följd av fortsatt träning för förutsägelse av flera token, övervakad finjustering och förstärkningsinlärning i flera miljöer. Instruktions- och förstärkningsinlärningsuppgifterna omfattar kod, matematik, naturvetenskap, verktygsanrop, strukturerade utdata och interaktion med flera turer. Förutsägelse av flera token är en arkitektur- och träningsegenskap hos Lightning, inte en ytterligare utdatatyp som bild- eller ljudgenerering.\n\nModellen tar emot text och returnerar text. De språk tillverkaren stöder omfattar engelska, spanska, franska, tyska, italienska och japanska. Ange utdataspråket och bevara tekniska namn eller kodidentifierare som inte ska ändras.\n\n### Resonemang eller direkt svar\n\nTillverkarens chattmall kan aktivera eller inaktivera tänkande. En resonemangsuppgift utvecklar mellanliggande analys före det slutliga svaret, medan en direkt uppgift kan begära svaret utan detta spår. Tillverkaren rekommenderar temperature 1,0 och top-p 0,95 för referensprofilen. Ange det önskade slutresultatet oberoende av detta: en lösning, en avgränsad kodändring, en källjämförelse eller en definierad datapost.\n\nEn praktisk uppgiftsbeskrivning är: ”Använd dessa källstycken för att jämföra kraven och identifiera det villkor som varje slutsats beror på.” För kodning ska du tillhandahålla relevant implementation, observerat fel och förväntat beteende, och begära en patch som är knuten till underlaget. Håll föreslagen kod åtskild från ett faktiskt valideringsresultat.\n\n### Verktyg och strukturerat arbete\n\nNVIDIAs efterträning omfattar verktyg i flera steg och strukturerade utdata. Tillhandahåll funktioner med precisa syften och argumentscheman när en applikation använder modellen som agent. Applikationen utför valda operationer och returnerar observationer för nästa steg. En vald funktion eller genererad argumentpost genomför inte operationen på egen hand.\n\nFör ett strukturerat resultat ska du definiera fältens innebörd och regler för saknade värden. Kontrollera värden mot indata även när formatet passar ett efterföljande system. En fortsatt uppgift bör bevara de observationer som fastställer framsteg och det slutliga kriterium som markerar att den är klar.\n\n### Kontext och tillverkarens konfiguration\n\nModellen stöder kontext på upp till en miljon token i den dokumenterade profilen. Tillverkaren visar även en mindre konfiguration med 256K token för en minnesbegränsad exekveringsmiljö, så maximal profil och vald konfiguration är olika saker. Källmaterial, historik, verktygsresultat, resonemang och slutligt svar delar på den tillgängliga kontexten. Kortets formulering om utmatningskontext fastställer inte en ytterligare, oberoende svarsbudget på en miljon token.\n\nBF16-referensen, tillverkarens utgåvor med låg precision och den tidigare Nemotron 3 Nano har separata utgåveegenskaper. Använd auktoritativa texter för källkänsliga påståenden och faktiska observationer från applikationen för utfört arbete. Det användbara resultatet är en granskningsbar textlösning, ett kodförslag eller en strukturerad analys där antaganden och stödjande underlag förblir tydliga.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Calculate usable production time\n\nA machine produces 360 parts per hour while running. A shift has 90 minutes available, including 15 minutes of setup during which no parts are produced. Assume a constant rate and no other losses. Calculate the production quantity, show the unit conversion and state how many minutes are actually productive.A productive-time calculation, a rate conversion and a final quantity with units.Check that setup is subtracted before multiplying and that hours and minutes are not mixed in one rate calculation.nvidia/nemotron-3.5-lightningNemotron 3.5 Lightning är NVIDIAs hybrida mixture-of-experts-textmodell för resonemang, kodning och verktygsstyrda uppgifter. Tillverkarens dokumenterade 30B/A3B-profil tillför förutsägelse av flera token, konfigurerbart tänkande och kontext på upp till en miljon token, med en separat BF16-referensutgåva.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Nemotron 3.5 Lightning är NVIDIAs hybrida mixture-of-experts-språkmodell för textuppgifter med resonemang och direkta svar. Tillverkarens profil anger totalt 30 miljarder parametrar och 3 miljarder aktiva parametrar och kombinerar Mamba- och transformerkomponenter med förutsägelse av flera token. Den refererade BF16-utgåvan är tillverkarens modellmaterial med full precision, åtskilt från de optimerade utgåvorna med låg precision.
Tillverkaren beskriver förträning på fler än tjugo biljoner token, följd av fortsatt träning för förutsägelse av flera token, övervakad finjustering och förstärkningsinlärning i flera miljöer. Instruktions- och förstärkningsinlärningsuppgifterna omfattar kod, matematik, naturvetenskap, verktygsanrop, strukturerade utdata och interaktion med flera turer. Förutsägelse av flera token är en arkitektur- och träningsegenskap hos Lightning, inte en ytterligare utdatatyp som bild- eller ljudgenerering.
Modellen tar emot text och returnerar text. De språk tillverkaren stöder omfattar engelska, spanska, franska, tyska, italienska och japanska. Ange utdataspråket och bevara tekniska namn eller kodidentifierare som inte ska ändras.
Tillverkarens chattmall kan aktivera eller inaktivera tänkande. En resonemangsuppgift utvecklar mellanliggande analys före det slutliga svaret, medan en direkt uppgift kan begära svaret utan detta spår. Tillverkaren rekommenderar temperature 1,0 och top-p 0,95 för referensprofilen. Ange det önskade slutresultatet oberoende av detta: en lösning, en avgränsad kodändring, en källjämförelse eller en definierad datapost.
En praktisk uppgiftsbeskrivning är: ”Använd dessa källstycken för att jämföra kraven och identifiera det villkor som varje slutsats beror på.” För kodning ska du tillhandahålla relevant implementation, observerat fel och förväntat beteende, och begära en patch som är knuten till underlaget. Håll föreslagen kod åtskild från ett faktiskt valideringsresultat.
NVIDIAs efterträning omfattar verktyg i flera steg och strukturerade utdata. Tillhandahåll funktioner med precisa syften och argumentscheman när en applikation använder modellen som agent. Applikationen utför valda operationer och returnerar observationer för nästa steg. En vald funktion eller genererad argumentpost genomför inte operationen på egen hand.
För ett strukturerat resultat ska du definiera fältens innebörd och regler för saknade värden. Kontrollera värden mot indata även när formatet passar ett efterföljande system. En fortsatt uppgift bör bevara de observationer som fastställer framsteg och det slutliga kriterium som markerar att den är klar.
Modellen stöder kontext på upp till en miljon token i den dokumenterade profilen. Tillverkaren visar även en mindre konfiguration med 256K token för en minnesbegränsad exekveringsmiljö, så maximal profil och vald konfiguration är olika saker. Källmaterial, historik, verktygsresultat, resonemang och slutligt svar delar på den tillgängliga kontexten. Kortets formulering om utmatningskontext fastställer inte en ytterligare, oberoende svarsbudget på en miljon token.
BF16-referensen, tillverkarens utgåvor med låg precision och den tidigare Nemotron 3 Nano har separata utgåveegenskaper. Använd auktoritativa texter för källkänsliga påståenden och faktiska observationer från applikationen för utfört arbete. Det användbara resultatet är en granskningsbar textlösning, ett kodförslag eller en strukturerad analys där antaganden och stödjande underlag förblir tydliga.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nvidia/nemotron-3.5-lightning | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00014 / 1K token Utdata · Utdatatoken $0.0004 / 1K token Indata · Cacheläsning $0.00008 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00014 / 1K token Utdata · Utdatatoken $0.0004 / 1K token Indata · Cacheläsning $0.00008 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nvidia/nemotron-3.5-lightning',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nvidia/nemotron-3.5-lightning',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nvidia/nemotron-3.5-lightning
Använd metodsökvägarna som visas ovan.
nvidia/nemotron-3.5-lightningNemotron 3.5 Lightning är NVIDIAs hybrida mixture-of-experts-textmodell för resonemang, kodning och verktygsstyrda uppgifter. Tillverkarens dokumenterade 30B/A3B-profil tillför förutsägelse av flera token, konfigurerbart tänkande och kontext på upp till en miljon token, med en separat BF16-referensutgåva.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Nemotron 3.5 Lightning är NVIDIAs hybrida mixture-of-experts-språkmodell för textuppgifter med resonemang och direkta svar. Tillverkarens profil anger totalt 30 miljarder parametrar och 3 miljarder aktiva parametrar och kombinerar Mamba- och transformerkomponenter med förutsägelse av flera token. Den refererade BF16-utgåvan är tillverkarens modellmaterial med full precision, åtskilt från de optimerade utgåvorna med låg precision.
Tillverkaren beskriver förträning på fler än tjugo biljoner token, följd av fortsatt träning för förutsägelse av flera token, övervakad finjustering och förstärkningsinlärning i flera miljöer. Instruktions- och förstärkningsinlärningsuppgifterna omfattar kod, matematik, naturvetenskap, verktygsanrop, strukturerade utdata och interaktion med flera turer. Förutsägelse av flera token är en arkitektur- och träningsegenskap hos Lightning, inte en ytterligare utdatatyp som bild- eller ljudgenerering.
Modellen tar emot text och returnerar text. De språk tillverkaren stöder omfattar engelska, spanska, franska, tyska, italienska och japanska. Ange utdataspråket och bevara tekniska namn eller kodidentifierare som inte ska ändras.
Tillverkarens chattmall kan aktivera eller inaktivera tänkande. En resonemangsuppgift utvecklar mellanliggande analys före det slutliga svaret, medan en direkt uppgift kan begära svaret utan detta spår. Tillverkaren rekommenderar temperature 1,0 och top-p 0,95 för referensprofilen. Ange det önskade slutresultatet oberoende av detta: en lösning, en avgränsad kodändring, en källjämförelse eller en definierad datapost.
En praktisk uppgiftsbeskrivning är: ”Använd dessa källstycken för att jämföra kraven och identifiera det villkor som varje slutsats beror på.” För kodning ska du tillhandahålla relevant implementation, observerat fel och förväntat beteende, och begära en patch som är knuten till underlaget. Håll föreslagen kod åtskild från ett faktiskt valideringsresultat.
NVIDIAs efterträning omfattar verktyg i flera steg och strukturerade utdata. Tillhandahåll funktioner med precisa syften och argumentscheman när en applikation använder modellen som agent. Applikationen utför valda operationer och returnerar observationer för nästa steg. En vald funktion eller genererad argumentpost genomför inte operationen på egen hand.
För ett strukturerat resultat ska du definiera fältens innebörd och regler för saknade värden. Kontrollera värden mot indata även när formatet passar ett efterföljande system. En fortsatt uppgift bör bevara de observationer som fastställer framsteg och det slutliga kriterium som markerar att den är klar.
Modellen stöder kontext på upp till en miljon token i den dokumenterade profilen. Tillverkaren visar även en mindre konfiguration med 256K token för en minnesbegränsad exekveringsmiljö, så maximal profil och vald konfiguration är olika saker. Källmaterial, historik, verktygsresultat, resonemang och slutligt svar delar på den tillgängliga kontexten. Kortets formulering om utmatningskontext fastställer inte en ytterligare, oberoende svarsbudget på en miljon token.
BF16-referensen, tillverkarens utgåvor med låg precision och den tidigare Nemotron 3 Nano har separata utgåveegenskaper. Använd auktoritativa texter för källkänsliga påståenden och faktiska observationer från applikationen för utfört arbete. Det användbara resultatet är en granskningsbar textlösning, ett kodförslag eller en strukturerad analys där antaganden och stödjande underlag förblir tydliga.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nvidia/nemotron-3.5-lightning | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00014 / 1K token Utdata · Utdatatoken $0.0004 / 1K token Indata · Cacheläsning $0.00008 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00014 / 1K token Utdata · Utdatatoken $0.0004 / 1K token Indata · Cacheläsning $0.00008 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "nvidia/nemotron-3.5-lightning",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3.5-lightning', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3.5-lightning', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nvidia/nemotron-3.5-lightning
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Calculate usable production time\n\nA machine produces 360 parts per hour while running. A shift has 90 minutes available, including 15 minutes of setup during which no parts are produced. Assume a constant rate and no other losses. Calculate the production quantity, show the unit conversion and state how many minutes are actually productive.A productive-time calculation, a rate conversion and a final quantity with units.Check that setup is subtracted before multiplying and that hours and minutes are not mixed in one rate calculation.