Nemotron 3 Nano 30B A3B er NVIDIAs hybride mixture-of-experts-tekstmodel, udviklet som én profil til opgaver med og uden ræsonnement. Den modtager tekst og genererer tekst, normalt med et ræsonnementsspor før det endelige svar. Producentens chatskabelon kan deaktivere dette spor for at give direkte svar, med en mulig afvejning på sværere prompts, som har gavn af analyse.
Producentens arkitektur er en Mamba-2/transformer-hybrid med cirka tredive milliarder parametre i alt. Konstruktionen har tooghalvtreds lag: treogtyve Mamba-2-lag, treogtyve ekspertlag og seks attention-lag. Hvert ekspertlag har 128 routede eksperter og én fælles ekspert og aktiverer seks routede eksperter pr. token.
NVIDIA beskriver træning på femogtyve billioner tokens efterfulgt af superviseret finjustering og forstærkningslæring i flere miljøer. Områderne for eftertræningen omfatter kode, matematik, videnskab, instruktioner, strukturerede outputs, værktøjer i flere trin og samtaler med flere ture. Det er egenskaber ved den oprindelige Nano, adskilt fra den senere 3.5 Lightning-udgivelse med forudsigelse af flere tokens.
Til matematik skal du angive hele opgavebetingelsen og formatet for det endelige resultat. Til kode skal du levere den relevante funktion, repræsentativt input, den observerede fejl og den krævede adfærd. En nyttig opgavebeskrivelse er: “Følg dette input gennem implementeringen, identificér den første forkerte betingelse, og returnér en målrettet rettelse med en underbyggende forklaring.” En rutinemæssig udtrækning kan i stedet bede om kun de definerede felter.
Producenten angiver engelsk, spansk, fransk, tysk, japansk og italiensk. Angiv svarets sprog, og bevar den krævede terminologi. Bed om det endelige resultat adskilt fra det mellemliggende ræsonnement, så resultatet forbliver anvendeligt som forklaring, kode eller struktureret post.
NVIDIA demonstrerer en referenceklient, der først henter ræsonnementsindhold, lukker et uafsluttet spor og derefter bruger det resterende genereringsbudget til det endelige svar. Det er en procedure i producentens klient og ikke en præcis native afskæringsgrænse, som modelnavnet indebærer. Vælg et svarbudget, der giver plads til det endelige svar, frem for at bruge al tilgængelig plads på analyse.
Producentprofilen omfatter træning i værktøjsbrug og strukturerede outputs. En applikation leverer funktionsdefinitioner, udfører de valgte handlinger og returnerer observationerne. Hold disse resultater knyttet til deres kald. Et kildeunderbygget svar kan bruge det faktisk hentede materiale eller den faktiske beregning, mens en koderevision bør bruge observeret feedback fra valideringen.
Modelkortet angiver en maksimal input- og outputprofil på én million tokens til modellens design med lang kontekst. Disse tal skal anvendes sammen med den valgte eksekveringskonfiguration og det fælles kontekstbudget; prompt, historik, ræsonnement og svar optager stadig plads tilsammen. Et langt vindue gør ikke en ustruktureret samling kilder til en tydelig opgave.
Organisér dokumenter efter kilde og kode efter relevante afgrænsninger, og angiv, hvad der afslutter opgaven. Kontrollér værdier mod materialet og kode i den tilsigtede applikation. Det nyttige slutprodukt er et tekstresultat med angivelse af underbyggende materiale og uafklarede oplysninger, som fastholder den præcise Nano-udgave frem for at låne senere Nemotron-funktioner eller antagelser om numerisk præcision.
", "aboutText": "Nemotron 3 Nano 30B A3B er NVIDIAs hybride mixture-of-experts-tekstmodel, udviklet som én profil til opgaver med og uden ræsonnement. Den modtager tekst og genererer tekst, normalt med et ræsonnementsspor før det endelige svar. Producentens chatskabelon kan deaktivere dette spor for at give direkte svar, med en mulig afvejning på sværere prompts, som har gavn af analyse.\n\n### Arkitektur og træning\n\nProducentens arkitektur er en Mamba-2/transformer-hybrid med cirka tredive milliarder parametre i alt. Konstruktionen har tooghalvtreds lag: treogtyve Mamba-2-lag, treogtyve ekspertlag og seks attention-lag. Hvert ekspertlag har 128 routede eksperter og én fælles ekspert og aktiverer seks routede eksperter pr. token.\n\nNVIDIA beskriver træning på femogtyve billioner tokens efterfulgt af superviseret finjustering og forstærkningslæring i flere miljøer. Områderne for eftertræningen omfatter kode, matematik, videnskab, instruktioner, strukturerede outputs, værktøjer i flere trin og samtaler med flere ture. Det er egenskaber ved den oprindelige Nano, adskilt fra den senere 3.5 Lightning-udgivelse med forudsigelse af flere tokens.\n\n### Forbered en opgave med ræsonnement eller direkte svar\n\nTil matematik skal du angive hele opgavebetingelsen og formatet for det endelige resultat. Til kode skal du levere den relevante funktion, repræsentativt input, den observerede fejl og den krævede adfærd. En nyttig opgavebeskrivelse er: “Følg dette input gennem implementeringen, identificér den første forkerte betingelse, og returnér en målrettet rettelse med en underbyggende forklaring.” En rutinemæssig udtrækning kan i stedet bede om kun de definerede felter.\n\nProducenten angiver engelsk, spansk, fransk, tysk, japansk og italiensk. Angiv svarets sprog, og bevar den krævede terminologi. Bed om det endelige resultat adskilt fra det mellemliggende ræsonnement, så resultatet forbliver anvendeligt som forklaring, kode eller struktureret post.\n\n### Reference for ræsonnementsbudget\n\nNVIDIA demonstrerer en referenceklient, der først henter ræsonnementsindhold, lukker et uafsluttet spor og derefter bruger det resterende genereringsbudget til det endelige svar. Det er en procedure i producentens klient og ikke en præcis native afskæringsgrænse, som modelnavnet indebærer. Vælg et svarbudget, der giver plads til det endelige svar, frem for at bruge al tilgængelig plads på analyse.\n\n### Værktøjer og lang kontekst\n\nProducentprofilen omfatter træning i værktøjsbrug og strukturerede outputs. En applikation leverer funktionsdefinitioner, udfører de valgte handlinger og returnerer observationerne. Hold disse resultater knyttet til deres kald. Et kildeunderbygget svar kan bruge det faktisk hentede materiale eller den faktiske beregning, mens en koderevision bør bruge observeret feedback fra valideringen.\n\nModelkortet angiver en maksimal input- og outputprofil på én million tokens til modellens design med lang kontekst. Disse tal skal anvendes sammen med den valgte eksekveringskonfiguration og det fælles kontekstbudget; prompt, historik, ræsonnement og svar optager stadig plads tilsammen. Et langt vindue gør ikke en ustruktureret samling kilder til en tydelig opgave.\n\nOrganisér dokumenter efter kilde og kode efter relevante afgrænsninger, og angiv, hvad der afslutter opgaven. Kontrollér værdier mod materialet og kode i den tilsigtede applikation. Det nyttige slutprodukt er et tekstresultat med angivelse af underbyggende materiale og uafklarede oplysninger, som fastholder den præcise Nano-udgave frem for at låne senere Nemotron-funktioner eller antagelser om numerisk præcision.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Trace an inclusive-range defect\n\nTrace this Python code for start=2 and end=4: values = []\nfor n in range(start, end):\n values.append(n)\n The caller expects both endpoints included. Explain the first mismatch and propose a focused correction preserving ascending integer inputs. Include tests for 2 through 4 and equal endpoints, and state how descending inputs should be handled.A short trace, an inclusive-range correction, two tests and an explicit descending-input assumption.The equal-endpoint test yields one included value, and the changed bound does not omit end.nvidia/nemotron-3-nano-30b-a3bNemotron 3 Nano er NVIDIAs hybride Mamba-2/transformer-tekstmodel til ræsonnement og direkte svar. Producentprofilen på cirka 30B understøtter spørgsmål med lang kontekst, programmering, strukturerede opgaver og værktøjer med konfigurerbar tænkning og en referencemetode til at styre ræsonnementets længde.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Nemotron 3 Nano 30B A3B er NVIDIAs hybride mixture-of-experts-tekstmodel, udviklet som én profil til opgaver med og uden ræsonnement. Den modtager tekst og genererer tekst, normalt med et ræsonnementsspor før det endelige svar. Producentens chatskabelon kan deaktivere dette spor for at give direkte svar, med en mulig afvejning på sværere prompts, som har gavn af analyse.
Producentens arkitektur er en Mamba-2/transformer-hybrid med cirka tredive milliarder parametre i alt. Konstruktionen har tooghalvtreds lag: treogtyve Mamba-2-lag, treogtyve ekspertlag og seks attention-lag. Hvert ekspertlag har 128 routede eksperter og én fælles ekspert og aktiverer seks routede eksperter pr. token.
NVIDIA beskriver træning på femogtyve billioner tokens efterfulgt af superviseret finjustering og forstærkningslæring i flere miljøer. Områderne for eftertræningen omfatter kode, matematik, videnskab, instruktioner, strukturerede outputs, værktøjer i flere trin og samtaler med flere ture. Det er egenskaber ved den oprindelige Nano, adskilt fra den senere 3.5 Lightning-udgivelse med forudsigelse af flere tokens.
Til matematik skal du angive hele opgavebetingelsen og formatet for det endelige resultat. Til kode skal du levere den relevante funktion, repræsentativt input, den observerede fejl og den krævede adfærd. En nyttig opgavebeskrivelse er: “Følg dette input gennem implementeringen, identificér den første forkerte betingelse, og returnér en målrettet rettelse med en underbyggende forklaring.” En rutinemæssig udtrækning kan i stedet bede om kun de definerede felter.
Producenten angiver engelsk, spansk, fransk, tysk, japansk og italiensk. Angiv svarets sprog, og bevar den krævede terminologi. Bed om det endelige resultat adskilt fra det mellemliggende ræsonnement, så resultatet forbliver anvendeligt som forklaring, kode eller struktureret post.
NVIDIA demonstrerer en referenceklient, der først henter ræsonnementsindhold, lukker et uafsluttet spor og derefter bruger det resterende genereringsbudget til det endelige svar. Det er en procedure i producentens klient og ikke en præcis native afskæringsgrænse, som modelnavnet indebærer. Vælg et svarbudget, der giver plads til det endelige svar, frem for at bruge al tilgængelig plads på analyse.
Producentprofilen omfatter træning i værktøjsbrug og strukturerede outputs. En applikation leverer funktionsdefinitioner, udfører de valgte handlinger og returnerer observationerne. Hold disse resultater knyttet til deres kald. Et kildeunderbygget svar kan bruge det faktisk hentede materiale eller den faktiske beregning, mens en koderevision bør bruge observeret feedback fra valideringen.
Modelkortet angiver en maksimal input- og outputprofil på én million tokens til modellens design med lang kontekst. Disse tal skal anvendes sammen med den valgte eksekveringskonfiguration og det fælles kontekstbudget; prompt, historik, ræsonnement og svar optager stadig plads tilsammen. Et langt vindue gør ikke en ustruktureret samling kilder til en tydelig opgave.
Organisér dokumenter efter kilde og kode efter relevante afgrænsninger, og angiv, hvad der afslutter opgaven. Kontrollér værdier mod materialet og kode i den tilsigtede applikation. Det nyttige slutprodukt er et tekstresultat med angivelse af underbyggende materiale og uafklarede oplysninger, som fastholder den præcise Nano-udgave frem for at låne senere Nemotron-funktioner eller antagelser om numerisk præcision.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser nvidia/nemotron-3-nano-30b-a3b | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0001 / 1K tokens Output · Outputtokens $0.0004 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0001 / 1K tokens Output · Outputtokens $0.0004 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3-nano-30b-a3b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nvidia/nemotron-3-nano-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nvidia/nemotron-3-nano-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra nvidia/nemotron-3-nano-30b-a3b
Brug metodestierne vist ovenfor.
nvidia/nemotron-3-nano-30b-a3bNemotron 3 Nano er NVIDIAs hybride Mamba-2/transformer-tekstmodel til ræsonnement og direkte svar. Producentprofilen på cirka 30B understøtter spørgsmål med lang kontekst, programmering, strukturerede opgaver og værktøjer med konfigurerbar tænkning og en referencemetode til at styre ræsonnementets længde.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Nemotron 3 Nano 30B A3B er NVIDIAs hybride mixture-of-experts-tekstmodel, udviklet som én profil til opgaver med og uden ræsonnement. Den modtager tekst og genererer tekst, normalt med et ræsonnementsspor før det endelige svar. Producentens chatskabelon kan deaktivere dette spor for at give direkte svar, med en mulig afvejning på sværere prompts, som har gavn af analyse.
Producentens arkitektur er en Mamba-2/transformer-hybrid med cirka tredive milliarder parametre i alt. Konstruktionen har tooghalvtreds lag: treogtyve Mamba-2-lag, treogtyve ekspertlag og seks attention-lag. Hvert ekspertlag har 128 routede eksperter og én fælles ekspert og aktiverer seks routede eksperter pr. token.
NVIDIA beskriver træning på femogtyve billioner tokens efterfulgt af superviseret finjustering og forstærkningslæring i flere miljøer. Områderne for eftertræningen omfatter kode, matematik, videnskab, instruktioner, strukturerede outputs, værktøjer i flere trin og samtaler med flere ture. Det er egenskaber ved den oprindelige Nano, adskilt fra den senere 3.5 Lightning-udgivelse med forudsigelse af flere tokens.
Til matematik skal du angive hele opgavebetingelsen og formatet for det endelige resultat. Til kode skal du levere den relevante funktion, repræsentativt input, den observerede fejl og den krævede adfærd. En nyttig opgavebeskrivelse er: “Følg dette input gennem implementeringen, identificér den første forkerte betingelse, og returnér en målrettet rettelse med en underbyggende forklaring.” En rutinemæssig udtrækning kan i stedet bede om kun de definerede felter.
Producenten angiver engelsk, spansk, fransk, tysk, japansk og italiensk. Angiv svarets sprog, og bevar den krævede terminologi. Bed om det endelige resultat adskilt fra det mellemliggende ræsonnement, så resultatet forbliver anvendeligt som forklaring, kode eller struktureret post.
NVIDIA demonstrerer en referenceklient, der først henter ræsonnementsindhold, lukker et uafsluttet spor og derefter bruger det resterende genereringsbudget til det endelige svar. Det er en procedure i producentens klient og ikke en præcis native afskæringsgrænse, som modelnavnet indebærer. Vælg et svarbudget, der giver plads til det endelige svar, frem for at bruge al tilgængelig plads på analyse.
Producentprofilen omfatter træning i værktøjsbrug og strukturerede outputs. En applikation leverer funktionsdefinitioner, udfører de valgte handlinger og returnerer observationerne. Hold disse resultater knyttet til deres kald. Et kildeunderbygget svar kan bruge det faktisk hentede materiale eller den faktiske beregning, mens en koderevision bør bruge observeret feedback fra valideringen.
Modelkortet angiver en maksimal input- og outputprofil på én million tokens til modellens design med lang kontekst. Disse tal skal anvendes sammen med den valgte eksekveringskonfiguration og det fælles kontekstbudget; prompt, historik, ræsonnement og svar optager stadig plads tilsammen. Et langt vindue gør ikke en ustruktureret samling kilder til en tydelig opgave.
Organisér dokumenter efter kilde og kode efter relevante afgrænsninger, og angiv, hvad der afslutter opgaven. Kontrollér værdier mod materialet og kode i den tilsigtede applikation. Det nyttige slutprodukt er et tekstresultat med angivelse af underbyggende materiale og uafklarede oplysninger, som fastholder den præcise Nano-udgave frem for at låne senere Nemotron-funktioner eller antagelser om numerisk præcision.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser nvidia/nemotron-3-nano-30b-a3b | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0001 / 1K tokens Output · Outputtokens $0.0004 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0001 / 1K tokens Output · Outputtokens $0.0004 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "nvidia/nemotron-3-nano-30b-a3b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3-nano-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3-nano-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra nvidia/nemotron-3-nano-30b-a3b
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Trace an inclusive-range defect\n\nTrace this Python code for start=2 and end=4: values = []\nfor n in range(start, end):\n values.append(n)\n The caller expects both endpoints included. Explain the first mismatch and propose a focused correction preserving ascending integer inputs. Include tests for 2 through 4 and equal endpoints, and state how descending inputs should be handled.A short trace, an inclusive-range correction, two tests and an explicit descending-input assumption.The equal-endpoint test yields one included value, and the changed bound does not omit end.