NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für logisches Schlussfolgern, Gespräche und spezialisierte Agentenabläufe. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und nutzt eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Attention-Schichten miteinander verschränkt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten, die sich auf bereitgestelltes Material stützen.
Der Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage anzugeben und offenzulegen, was unbekannt bleibt. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und liefere für jede die Voraussetzungen, Schritte und Prüfungen.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zum Erfinden aufzufordern.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine zweckmäßige Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein mit Werkzeugen verbundener Agent eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierter Ausgabe; das fertige Ergebnis muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, mit denen sich die Behebung des Problems feststellen lässt.
Der Hersteller dokumentiert einen standardmäßig aktivierten Denkmodus sowie einen Modus für direkte Antworten, bei dem der Denkprozess über die Chatvorlage deaktiviert wird. Der Denkmodus ist für eine Aufgabe mit mehreren voneinander abhängigen Bedingungen hilfreich; eine direkte Antwort kann sich für einfache Umformungen oder Extraktionen eignen. In seinen Clientbeispielen empfiehlt der Hersteller temperature 1.0 und top-p 0.95. Behandeln Sie diese als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Arbeitsspeicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils geltende Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Raum für die Antwort. Langer Kontext ist besonders nützlich, wenn der Prompt die zu ermittelnde Beziehung benennt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, eine endgültige Antwort könne das gesamte Fenster belegen.
Der Schwerpunkt liegt auf Englisch und Programmiersprachen; Spanisch, Französisch, Deutsch, Italienisch und Japanisch sind ebenfalls aufgeführt. Geben Sie die erforderliche Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellenbegriffe, wenn deren Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Anfragen erzeugen unterschiedliche Ergebnisse. Lassen Sie unsichere Terminologie kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller Präzision sowie eine gesonderte NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Halten Sie Modellfähigkeiten von verfahrensspezifischen Annahmen zu Leistung und Speicher getrennt.
Stellen Sie für werkzeuggestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Ein vorgeschlagener Vorgang wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung ihn ausführt und festhält, was geschehen ist. Verlangen Sie, dass die endgültige Antwort zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und offenen Prüfungen unterscheidet. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine unbestätigte Annahme in einer ausgefeilten Zusammenfassung darzustellen.
", "aboutText": "NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für logisches Schlussfolgern, Gespräche und spezialisierte Agentenabläufe. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und nutzt eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Attention-Schichten miteinander verschränkt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten, die sich auf bereitgestelltes Material stützen.\n\nDer Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage anzugeben und offenzulegen, was unbekannt bleibt. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und liefere für jede die Voraussetzungen, Schritte und Prüfungen.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zum Erfinden aufzufordern.\n\nStellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine zweckmäßige Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein mit Werkzeugen verbundener Agent eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierter Ausgabe; das fertige Ergebnis muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, mit denen sich die Behebung des Problems feststellen lässt.\n\nDer Hersteller dokumentiert einen standardmäßig aktivierten Denkmodus sowie einen Modus für direkte Antworten, bei dem der Denkprozess über die Chatvorlage deaktiviert wird. Der Denkmodus ist für eine Aufgabe mit mehreren voneinander abhängigen Bedingungen hilfreich; eine direkte Antwort kann sich für einfache Umformungen oder Extraktionen eignen. In seinen Clientbeispielen empfiehlt der Hersteller temperature 1.0 und top-p 0.95. Behandeln Sie diese als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.\n\nDas Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Arbeitsspeicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils geltende Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Raum für die Antwort. Langer Kontext ist besonders nützlich, wenn der Prompt die zu ermittelnde Beziehung benennt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, eine endgültige Antwort könne das gesamte Fenster belegen.\n\nDer Schwerpunkt liegt auf Englisch und Programmiersprachen; Spanisch, Französisch, Deutsch, Italienisch und Japanisch sind ebenfalls aufgeführt. Geben Sie die erforderliche Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellenbegriffe, wenn deren Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Anfragen erzeugen unterschiedliche Ergebnisse. Lassen Sie unsichere Terminologie kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.\n\nNVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller Präzision sowie eine gesonderte NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Halten Sie Modellfähigkeiten von verfahrensspezifischen Annahmen zu Leistung und Speicher getrennt.\n\nStellen Sie für werkzeuggestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Ein vorgeschlagener Vorgang wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung ihn ausführt und festhält, was geschehen ist. Verlangen Sie, dass die endgültige Antwort zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und offenen Prüfungen unterscheidet. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine unbestätigte Annahme in einer ausgefeilten Zusammenfassung darzustellen.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "45797f3e2f8329211bdfa5605f682fcd1e3c27a9f309366ca2d1119e6fa658ed", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de-at", "methods": [ { "html": "nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning ist ein Textmodell für logisches Schlussfolgern und Chat mit insgesamt 30B und 3B aktiven Parametern. Seine hybride Mamba–MoE-Architektur unterstützt Analysen mit langem Kontext, Programmieraufgaben und werkzeuggestützte Abläufe. Die Chatvorlage des Herstellers dokumentiert einen Denkmodus und einen Modus für direkte Antworten.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für logisches Schlussfolgern, Gespräche und spezialisierte Agentenabläufe. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und nutzt eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Attention-Schichten miteinander verschränkt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten, die sich auf bereitgestelltes Material stützen.
Der Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage anzugeben und offenzulegen, was unbekannt bleibt. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und liefere für jede die Voraussetzungen, Schritte und Prüfungen.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zum Erfinden aufzufordern.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine zweckmäßige Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein mit Werkzeugen verbundener Agent eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierter Ausgabe; das fertige Ergebnis muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, mit denen sich die Behebung des Problems feststellen lässt.
Der Hersteller dokumentiert einen standardmäßig aktivierten Denkmodus sowie einen Modus für direkte Antworten, bei dem der Denkprozess über die Chatvorlage deaktiviert wird. Der Denkmodus ist für eine Aufgabe mit mehreren voneinander abhängigen Bedingungen hilfreich; eine direkte Antwort kann sich für einfache Umformungen oder Extraktionen eignen. In seinen Clientbeispielen empfiehlt der Hersteller temperature 1.0 und top-p 0.95. Behandeln Sie diese als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Arbeitsspeicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils geltende Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Raum für die Antwort. Langer Kontext ist besonders nützlich, wenn der Prompt die zu ermittelnde Beziehung benennt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, eine endgültige Antwort könne das gesamte Fenster belegen.
Der Schwerpunkt liegt auf Englisch und Programmiersprachen; Spanisch, Französisch, Deutsch, Italienisch und Japanisch sind ebenfalls aufgeführt. Geben Sie die erforderliche Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellenbegriffe, wenn deren Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Anfragen erzeugen unterschiedliche Ergebnisse. Lassen Sie unsichere Terminologie kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller Präzision sowie eine gesonderte NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Halten Sie Modellfähigkeiten von verfahrensspezifischen Annahmen zu Leistung und Speicher getrennt.
Stellen Sie für werkzeuggestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Ein vorgeschlagener Vorgang wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung ihn ausführt und festhält, was geschehen ist. Verlangen Sie, dass die endgültige Antwort zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und offenen Prüfungen unterscheidet. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine unbestätigte Annahme in einer ausgefeilten Zusammenfassung darzustellen.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3.5-lightning:free | Standard— |
Feldmessages | Typarray | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits false | Standardfalse |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 65 536 | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 65 536 | Standard— |
Feldn | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 128 | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldseed | Typinteger | AnforderungOptional | Werte und Limits | Standard— |
Feldstop | Typ | AnforderungOptional | Werte und Limits | Standard— |
Feldfrequency_penalty | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldpresence_penalty | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Felduser | Typstring | AnforderungOptional | Werte und Limits | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parameteroptional | Vertragstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Parametermaterial_types | Vertragtext |
Parameterconditions | VertragUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Lebenszyklus: synchronous_json
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Tokens | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0 / 1K Tokens Ausgabe · Ausgabetoken $0 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Verwenden Sie die oben angezeigten Methodenpfade.
nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning ist ein Textmodell für logisches Schlussfolgern und Chat mit insgesamt 30B und 3B aktiven Parametern. Seine hybride Mamba–MoE-Architektur unterstützt Analysen mit langem Kontext, Programmieraufgaben und werkzeuggestützte Abläufe. Die Chatvorlage des Herstellers dokumentiert einen Denkmodus und einen Modus für direkte Antworten.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für logisches Schlussfolgern, Gespräche und spezialisierte Agentenabläufe. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und nutzt eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Attention-Schichten miteinander verschränkt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten, die sich auf bereitgestelltes Material stützen.
Der Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage anzugeben und offenzulegen, was unbekannt bleibt. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und liefere für jede die Voraussetzungen, Schritte und Prüfungen.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zum Erfinden aufzufordern.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine zweckmäßige Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein mit Werkzeugen verbundener Agent eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierter Ausgabe; das fertige Ergebnis muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, mit denen sich die Behebung des Problems feststellen lässt.
Der Hersteller dokumentiert einen standardmäßig aktivierten Denkmodus sowie einen Modus für direkte Antworten, bei dem der Denkprozess über die Chatvorlage deaktiviert wird. Der Denkmodus ist für eine Aufgabe mit mehreren voneinander abhängigen Bedingungen hilfreich; eine direkte Antwort kann sich für einfache Umformungen oder Extraktionen eignen. In seinen Clientbeispielen empfiehlt der Hersteller temperature 1.0 und top-p 0.95. Behandeln Sie diese als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Arbeitsspeicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils geltende Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Raum für die Antwort. Langer Kontext ist besonders nützlich, wenn der Prompt die zu ermittelnde Beziehung benennt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, eine endgültige Antwort könne das gesamte Fenster belegen.
Der Schwerpunkt liegt auf Englisch und Programmiersprachen; Spanisch, Französisch, Deutsch, Italienisch und Japanisch sind ebenfalls aufgeführt. Geben Sie die erforderliche Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellenbegriffe, wenn deren Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Anfragen erzeugen unterschiedliche Ergebnisse. Lassen Sie unsichere Terminologie kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller Präzision sowie eine gesonderte NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Halten Sie Modellfähigkeiten von verfahrensspezifischen Annahmen zu Leistung und Speicher getrennt.
Stellen Sie für werkzeuggestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Ein vorgeschlagener Vorgang wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung ihn ausführt und festhält, was geschehen ist. Verlangen Sie, dass die endgültige Antwort zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und offenen Prüfungen unterscheidet. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine unbestätigte Annahme in einer ausgefeilten Zusammenfassung darzustellen.
POST /v1/messagestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3.5-lightning:free | Standard— |
Feldmessages | Typarray | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits false | Standardfalse |
Feldsystem | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits Minimum: 1 Maximum: 65 536 | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_k | Typinteger | AnforderungOptional | Werte und Limits | Standard— |
Feldstop_sequences | Typarray | AnforderungOptional | Werte und Limits | Standard— |
Feldmetadata | Typobject | AnforderungOptional | Werte und Limits | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional | Vertragstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Parametermaterial_types | Vertragtext |
Parameterconditions | VertragUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Lebenszyklus: synchronous_json
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Tokens | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0 / 1K Tokens Ausgabe · Ausgabetoken $0 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Verwenden Sie die oben angezeigten Methodenpfade.