Nemotron 3 Nano 30B A3B ist NVIDIAs hybrides Mixture-of-Experts-Textmodell, das als gemeinsames Profil für Aufgaben mit und ohne vertieftes Schlussfolgern entwickelt wurde. Es nimmt Text entgegen und erzeugt Text, wobei es vor der endgültigen Antwort normalerweise einen Denkverlauf ausarbeitet. Die Chatvorlage des Herstellers kann diesen Verlauf für direkte Antworten deaktivieren. Bei schwierigeren Prompts, die von einer Analyse profitieren, kann dies mit Abstrichen verbunden sein.
Die Architektur des Herstellers ist ein Mamba-2/Transformer-Hybrid mit insgesamt rund dreißig Milliarden Parametern. Sie umfasst zweiundfünfzig Schichten: dreiundzwanzig Mamba-2-Schichten, dreiundzwanzig Expertenschichten und sechs Attention-Schichten. Jede Expertenschicht enthält 128 geroutete Experten und einen gemeinsam genutzten Experten; pro Token werden sechs geroutete Experten aktiviert.
NVIDIA beschreibt ein Training mit fünfundzwanzig Billionen Tokens, gefolgt von überwachter Feinabstimmung und Reinforcement Learning in mehreren Umgebungen. Die Bereiche des anschließenden Trainings umfassen Code, Mathematik, Naturwissenschaften, Anweisungen, strukturierte Ausgaben, mehrstufige Werkzeugnutzung und Gespräche über mehrere Dialogrunden. Dies sind Eigenschaften des ursprünglichen Nano-Modells, unabhängig von der späteren Version 3.5 Lightning mit Multi-Token Prediction.
Geben Sie bei mathematischen Aufgaben die vollständige Aufgabenstellung und das Format des Endergebnisses an. Stellen Sie bei Code die relevante Funktion, repräsentative Eingaben, den beobachteten Fehler und das erforderliche Verhalten bereit. Eine hilfreiche Aufgabenbeschreibung lautet: „Verfolge diese Eingabe durch die Implementierung, ermittle die erste fehlerhafte Bedingung und liefere eine gezielte Korrektur mit der dazugehörigen Erklärung.“ Bei einer routinemäßigen Extraktion können Sie stattdessen ausschließlich die festgelegten Felder anfordern.
Der Hersteller nennt Englisch, Spanisch, Französisch, Deutsch, Japanisch und Italienisch. Legen Sie die Antwortsprache fest und erhalten Sie die erforderliche Fachterminologie. Fordern Sie das endgültige Ergebnis getrennt vom zwischenzeitlichen Denkprozess an, damit es als Erklärung, Code oder strukturierter Datensatz nutzbar bleibt.
NVIDIA demonstriert einen Referenzclient, der zunächst Denkinhalte abruft, einen unvollständigen Denkverlauf abschließt und anschließend das verbleibende Generierungsbudget für die endgültige Antwort nutzt. Dies ist ein clientseitiges Verfahren des Herstellers; der Modellname impliziert keine exakte, native Abschaltgrenze. Wählen Sie ein Antwortbudget, das Raum für die endgültige Antwort lässt, anstatt den gesamten verfügbaren Platz mit Analyse zu füllen.
Das Herstellerprofil umfasst Training für Werkzeugnutzung und strukturierte Ausgaben. Eine Anwendung stellt Funktionsdefinitionen bereit, führt die ausgewählten Vorgänge aus und liefert deren Beobachtungen zurück. Ordnen Sie diese Ergebnisse weiterhin den jeweiligen Aufrufen zu. Eine durch Quellen belegte Antwort kann auf tatsächlich abgerufenes Material oder eine tatsächliche Berechnung zurückgreifen; eine Codeüberarbeitung sollte beobachtete Validierungsergebnisse nutzen.
Die Modellkarte nennt für das Design mit langem Kontext ein maximales Ein- und Ausgabeprofil von einer Million Tokens. Diese Angaben müssen zusammen mit der gewählten Ausführungskonfiguration und dem gemeinsam genutzten Kontextbudget betrachtet werden: Prompt, Verlauf, Denkprozess und Antwort beanspruchen weiterhin gemeinsam Platz. Ein langes Kontextfenster macht eine unstrukturierte Quellensammlung noch nicht zu einer klaren Aufgabe.
Ordnen Sie Dokumente nach Quelle und Code nach den relevanten Abgrenzungen und geben Sie an, wann der Auftrag erfüllt ist. Prüfen Sie Werte anhand des Materials und Code in seiner vorgesehenen Anwendung. Das nützliche Ergebnis ist ein Text mit erkennbaren Belegen und offenen Informationen. Behalten Sie dabei die genaue Nano-Ausgabe bei, statt ihr spätere Nemotron-Funktionen oder Annahmen zur numerischen Präzision zuzuschreiben.
", "aboutText": "Nemotron 3 Nano 30B A3B ist NVIDIAs hybrides Mixture-of-Experts-Textmodell, das als gemeinsames Profil für Aufgaben mit und ohne vertieftes Schlussfolgern entwickelt wurde. Es nimmt Text entgegen und erzeugt Text, wobei es vor der endgültigen Antwort normalerweise einen Denkverlauf ausarbeitet. Die Chatvorlage des Herstellers kann diesen Verlauf für direkte Antworten deaktivieren. Bei schwierigeren Prompts, die von einer Analyse profitieren, kann dies mit Abstrichen verbunden sein.\n\n### Architektur und Training\n\nDie Architektur des Herstellers ist ein Mamba-2/Transformer-Hybrid mit insgesamt rund dreißig Milliarden Parametern. Sie umfasst zweiundfünfzig Schichten: dreiundzwanzig Mamba-2-Schichten, dreiundzwanzig Expertenschichten und sechs Attention-Schichten. Jede Expertenschicht enthält 128 geroutete Experten und einen gemeinsam genutzten Experten; pro Token werden sechs geroutete Experten aktiviert.\n\nNVIDIA beschreibt ein Training mit fünfundzwanzig Billionen Tokens, gefolgt von überwachter Feinabstimmung und Reinforcement Learning in mehreren Umgebungen. Die Bereiche des anschließenden Trainings umfassen Code, Mathematik, Naturwissenschaften, Anweisungen, strukturierte Ausgaben, mehrstufige Werkzeugnutzung und Gespräche über mehrere Dialogrunden. Dies sind Eigenschaften des ursprünglichen Nano-Modells, unabhängig von der späteren Version 3.5 Lightning mit Multi-Token Prediction.\n\n### Eine Aufgabe mit Denkprozess oder direkter Antwort vorbereiten\n\nGeben Sie bei mathematischen Aufgaben die vollständige Aufgabenstellung und das Format des Endergebnisses an. Stellen Sie bei Code die relevante Funktion, repräsentative Eingaben, den beobachteten Fehler und das erforderliche Verhalten bereit. Eine hilfreiche Aufgabenbeschreibung lautet: „Verfolge diese Eingabe durch die Implementierung, ermittle die erste fehlerhafte Bedingung und liefere eine gezielte Korrektur mit der dazugehörigen Erklärung.“ Bei einer routinemäßigen Extraktion können Sie stattdessen ausschließlich die festgelegten Felder anfordern.\n\nDer Hersteller nennt Englisch, Spanisch, Französisch, Deutsch, Japanisch und Italienisch. Legen Sie die Antwortsprache fest und erhalten Sie die erforderliche Fachterminologie. Fordern Sie das endgültige Ergebnis getrennt vom zwischenzeitlichen Denkprozess an, damit es als Erklärung, Code oder strukturierter Datensatz nutzbar bleibt.\n\n### Referenz für das Denkbudget\n\nNVIDIA demonstriert einen Referenzclient, der zunächst Denkinhalte abruft, einen unvollständigen Denkverlauf abschließt und anschließend das verbleibende Generierungsbudget für die endgültige Antwort nutzt. Dies ist ein clientseitiges Verfahren des Herstellers; der Modellname impliziert keine exakte, native Abschaltgrenze. Wählen Sie ein Antwortbudget, das Raum für die endgültige Antwort lässt, anstatt den gesamten verfügbaren Platz mit Analyse zu füllen.\n\n### Werkzeuge und langer Kontext\n\nDas Herstellerprofil umfasst Training für Werkzeugnutzung und strukturierte Ausgaben. Eine Anwendung stellt Funktionsdefinitionen bereit, führt die ausgewählten Vorgänge aus und liefert deren Beobachtungen zurück. Ordnen Sie diese Ergebnisse weiterhin den jeweiligen Aufrufen zu. Eine durch Quellen belegte Antwort kann auf tatsächlich abgerufenes Material oder eine tatsächliche Berechnung zurückgreifen; eine Codeüberarbeitung sollte beobachtete Validierungsergebnisse nutzen.\n\nDie Modellkarte nennt für das Design mit langem Kontext ein maximales Ein- und Ausgabeprofil von einer Million Tokens. Diese Angaben müssen zusammen mit der gewählten Ausführungskonfiguration und dem gemeinsam genutzten Kontextbudget betrachtet werden: Prompt, Verlauf, Denkprozess und Antwort beanspruchen weiterhin gemeinsam Platz. Ein langes Kontextfenster macht eine unstrukturierte Quellensammlung noch nicht zu einer klaren Aufgabe.\n\nOrdnen Sie Dokumente nach Quelle und Code nach den relevanten Abgrenzungen und geben Sie an, wann der Auftrag erfüllt ist. Prüfen Sie Werte anhand des Materials und Code in seiner vorgesehenen Anwendung. Das nützliche Ergebnis ist ein Text mit erkennbaren Belegen und offenen Informationen. Behalten Sie dabei die genaue Nano-Ausgabe bei, statt ihr spätere Nemotron-Funktionen oder Annahmen zur numerischen Präzision zuzuschreiben.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Trace an inclusive-range defect\n\nTrace this Python code for start=2 and end=4: values = []\nfor n in range(start, end):\n values.append(n)\n The caller expects both endpoints included. Explain the first mismatch and propose a focused correction preserving ascending integer inputs. Include tests for 2 through 4 and equal endpoints, and state how descending inputs should be handled.A short trace, an inclusive-range correction, two tests and an explicit descending-input assumption.The equal-endpoint test yields one included value, and the changed bound does not omit end.nvidia/nemotron-3-nano-30b-a3bNemotron 3 Nano ist NVIDIAs hybrides Mamba-2/Transformer-Textmodell für logisches Schlussfolgern und direkte Antworten. Das Herstellerprofil mit rund 30B Parametern unterstützt Fragen mit langem Kontext, Programmieraufgaben, strukturierte Aufgaben und Werkzeuge, mit konfigurierbarem Denkmodus und einem Referenzverfahren zur Steuerung der Länge des Denkprozesses.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Nemotron 3 Nano 30B A3B ist NVIDIAs hybrides Mixture-of-Experts-Textmodell, das als gemeinsames Profil für Aufgaben mit und ohne vertieftes Schlussfolgern entwickelt wurde. Es nimmt Text entgegen und erzeugt Text, wobei es vor der endgültigen Antwort normalerweise einen Denkverlauf ausarbeitet. Die Chatvorlage des Herstellers kann diesen Verlauf für direkte Antworten deaktivieren. Bei schwierigeren Prompts, die von einer Analyse profitieren, kann dies mit Abstrichen verbunden sein.
Die Architektur des Herstellers ist ein Mamba-2/Transformer-Hybrid mit insgesamt rund dreißig Milliarden Parametern. Sie umfasst zweiundfünfzig Schichten: dreiundzwanzig Mamba-2-Schichten, dreiundzwanzig Expertenschichten und sechs Attention-Schichten. Jede Expertenschicht enthält 128 geroutete Experten und einen gemeinsam genutzten Experten; pro Token werden sechs geroutete Experten aktiviert.
NVIDIA beschreibt ein Training mit fünfundzwanzig Billionen Tokens, gefolgt von überwachter Feinabstimmung und Reinforcement Learning in mehreren Umgebungen. Die Bereiche des anschließenden Trainings umfassen Code, Mathematik, Naturwissenschaften, Anweisungen, strukturierte Ausgaben, mehrstufige Werkzeugnutzung und Gespräche über mehrere Dialogrunden. Dies sind Eigenschaften des ursprünglichen Nano-Modells, unabhängig von der späteren Version 3.5 Lightning mit Multi-Token Prediction.
Geben Sie bei mathematischen Aufgaben die vollständige Aufgabenstellung und das Format des Endergebnisses an. Stellen Sie bei Code die relevante Funktion, repräsentative Eingaben, den beobachteten Fehler und das erforderliche Verhalten bereit. Eine hilfreiche Aufgabenbeschreibung lautet: „Verfolge diese Eingabe durch die Implementierung, ermittle die erste fehlerhafte Bedingung und liefere eine gezielte Korrektur mit der dazugehörigen Erklärung.“ Bei einer routinemäßigen Extraktion können Sie stattdessen ausschließlich die festgelegten Felder anfordern.
Der Hersteller nennt Englisch, Spanisch, Französisch, Deutsch, Japanisch und Italienisch. Legen Sie die Antwortsprache fest und erhalten Sie die erforderliche Fachterminologie. Fordern Sie das endgültige Ergebnis getrennt vom zwischenzeitlichen Denkprozess an, damit es als Erklärung, Code oder strukturierter Datensatz nutzbar bleibt.
NVIDIA demonstriert einen Referenzclient, der zunächst Denkinhalte abruft, einen unvollständigen Denkverlauf abschließt und anschließend das verbleibende Generierungsbudget für die endgültige Antwort nutzt. Dies ist ein clientseitiges Verfahren des Herstellers; der Modellname impliziert keine exakte, native Abschaltgrenze. Wählen Sie ein Antwortbudget, das Raum für die endgültige Antwort lässt, anstatt den gesamten verfügbaren Platz mit Analyse zu füllen.
Das Herstellerprofil umfasst Training für Werkzeugnutzung und strukturierte Ausgaben. Eine Anwendung stellt Funktionsdefinitionen bereit, führt die ausgewählten Vorgänge aus und liefert deren Beobachtungen zurück. Ordnen Sie diese Ergebnisse weiterhin den jeweiligen Aufrufen zu. Eine durch Quellen belegte Antwort kann auf tatsächlich abgerufenes Material oder eine tatsächliche Berechnung zurückgreifen; eine Codeüberarbeitung sollte beobachtete Validierungsergebnisse nutzen.
Die Modellkarte nennt für das Design mit langem Kontext ein maximales Ein- und Ausgabeprofil von einer Million Tokens. Diese Angaben müssen zusammen mit der gewählten Ausführungskonfiguration und dem gemeinsam genutzten Kontextbudget betrachtet werden: Prompt, Verlauf, Denkprozess und Antwort beanspruchen weiterhin gemeinsam Platz. Ein langes Kontextfenster macht eine unstrukturierte Quellensammlung noch nicht zu einer klaren Aufgabe.
Ordnen Sie Dokumente nach Quelle und Code nach den relevanten Abgrenzungen und geben Sie an, wann der Auftrag erfüllt ist. Prüfen Sie Werte anhand des Materials und Code in seiner vorgesehenen Anwendung. Das nützliche Ergebnis ist ein Text mit erkennbaren Belegen und offenen Informationen. Behalten Sie dabei die genaue Nano-Ausgabe bei, statt ihr spätere Nemotron-Funktionen oder Annahmen zur numerischen Präzision zuzuschreiben.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3-nano-30b-a3b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.0004 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.0004 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3-nano-30b-a3b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nvidia/nemotron-3-nano-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nvidia/nemotron-3-nano-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nvidia/nemotron-3-nano-30b-a3b
Verwenden Sie die oben angezeigten Methodenpfade.
nvidia/nemotron-3-nano-30b-a3bNemotron 3 Nano ist NVIDIAs hybrides Mamba-2/Transformer-Textmodell für logisches Schlussfolgern und direkte Antworten. Das Herstellerprofil mit rund 30B Parametern unterstützt Fragen mit langem Kontext, Programmieraufgaben, strukturierte Aufgaben und Werkzeuge, mit konfigurierbarem Denkmodus und einem Referenzverfahren zur Steuerung der Länge des Denkprozesses.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Nemotron 3 Nano 30B A3B ist NVIDIAs hybrides Mixture-of-Experts-Textmodell, das als gemeinsames Profil für Aufgaben mit und ohne vertieftes Schlussfolgern entwickelt wurde. Es nimmt Text entgegen und erzeugt Text, wobei es vor der endgültigen Antwort normalerweise einen Denkverlauf ausarbeitet. Die Chatvorlage des Herstellers kann diesen Verlauf für direkte Antworten deaktivieren. Bei schwierigeren Prompts, die von einer Analyse profitieren, kann dies mit Abstrichen verbunden sein.
Die Architektur des Herstellers ist ein Mamba-2/Transformer-Hybrid mit insgesamt rund dreißig Milliarden Parametern. Sie umfasst zweiundfünfzig Schichten: dreiundzwanzig Mamba-2-Schichten, dreiundzwanzig Expertenschichten und sechs Attention-Schichten. Jede Expertenschicht enthält 128 geroutete Experten und einen gemeinsam genutzten Experten; pro Token werden sechs geroutete Experten aktiviert.
NVIDIA beschreibt ein Training mit fünfundzwanzig Billionen Tokens, gefolgt von überwachter Feinabstimmung und Reinforcement Learning in mehreren Umgebungen. Die Bereiche des anschließenden Trainings umfassen Code, Mathematik, Naturwissenschaften, Anweisungen, strukturierte Ausgaben, mehrstufige Werkzeugnutzung und Gespräche über mehrere Dialogrunden. Dies sind Eigenschaften des ursprünglichen Nano-Modells, unabhängig von der späteren Version 3.5 Lightning mit Multi-Token Prediction.
Geben Sie bei mathematischen Aufgaben die vollständige Aufgabenstellung und das Format des Endergebnisses an. Stellen Sie bei Code die relevante Funktion, repräsentative Eingaben, den beobachteten Fehler und das erforderliche Verhalten bereit. Eine hilfreiche Aufgabenbeschreibung lautet: „Verfolge diese Eingabe durch die Implementierung, ermittle die erste fehlerhafte Bedingung und liefere eine gezielte Korrektur mit der dazugehörigen Erklärung.“ Bei einer routinemäßigen Extraktion können Sie stattdessen ausschließlich die festgelegten Felder anfordern.
Der Hersteller nennt Englisch, Spanisch, Französisch, Deutsch, Japanisch und Italienisch. Legen Sie die Antwortsprache fest und erhalten Sie die erforderliche Fachterminologie. Fordern Sie das endgültige Ergebnis getrennt vom zwischenzeitlichen Denkprozess an, damit es als Erklärung, Code oder strukturierter Datensatz nutzbar bleibt.
NVIDIA demonstriert einen Referenzclient, der zunächst Denkinhalte abruft, einen unvollständigen Denkverlauf abschließt und anschließend das verbleibende Generierungsbudget für die endgültige Antwort nutzt. Dies ist ein clientseitiges Verfahren des Herstellers; der Modellname impliziert keine exakte, native Abschaltgrenze. Wählen Sie ein Antwortbudget, das Raum für die endgültige Antwort lässt, anstatt den gesamten verfügbaren Platz mit Analyse zu füllen.
Das Herstellerprofil umfasst Training für Werkzeugnutzung und strukturierte Ausgaben. Eine Anwendung stellt Funktionsdefinitionen bereit, führt die ausgewählten Vorgänge aus und liefert deren Beobachtungen zurück. Ordnen Sie diese Ergebnisse weiterhin den jeweiligen Aufrufen zu. Eine durch Quellen belegte Antwort kann auf tatsächlich abgerufenes Material oder eine tatsächliche Berechnung zurückgreifen; eine Codeüberarbeitung sollte beobachtete Validierungsergebnisse nutzen.
Die Modellkarte nennt für das Design mit langem Kontext ein maximales Ein- und Ausgabeprofil von einer Million Tokens. Diese Angaben müssen zusammen mit der gewählten Ausführungskonfiguration und dem gemeinsam genutzten Kontextbudget betrachtet werden: Prompt, Verlauf, Denkprozess und Antwort beanspruchen weiterhin gemeinsam Platz. Ein langes Kontextfenster macht eine unstrukturierte Quellensammlung noch nicht zu einer klaren Aufgabe.
Ordnen Sie Dokumente nach Quelle und Code nach den relevanten Abgrenzungen und geben Sie an, wann der Auftrag erfüllt ist. Prüfen Sie Werte anhand des Materials und Code in seiner vorgesehenen Anwendung. Das nützliche Ergebnis ist ein Text mit erkennbaren Belegen und offenen Informationen. Behalten Sie dabei die genaue Nano-Ausgabe bei, statt ihr spätere Nemotron-Funktionen oder Annahmen zur numerischen Präzision zuzuschreiben.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3-nano-30b-a3b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.0004 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.0004 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "nvidia/nemotron-3-nano-30b-a3b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3-nano-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nvidia/nemotron-3-nano-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nvidia/nemotron-3-nano-30b-a3b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Trace an inclusive-range defect\n\nTrace this Python code for start=2 and end=4: values = []\nfor n in range(start, end):\n values.append(n)\n The caller expects both endpoints included. Explain the first mismatch and propose a focused correction preserving ascending integer inputs. Include tests for 2 through 4 and equal endpoints, and state how descending inputs should be handled.A short trace, an inclusive-range correction, two tests and an explicit descending-input assumption.The equal-endpoint test yields one included value, and the changed bound does not omit end.