NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Schlussfolgerungen, Gespräche und spezialisierte Agentenworkflows. Es hat insgesamt 30B Parameter, davon 3B aktive, und verwendet eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Aufmerksamkeitsschichten ineinander verschachtelt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage des bereitgestellten Materials.
Der Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensbasis die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Fordern Sie das Modell auf, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage zu nennen und anzugeben, was offenbleibt. Zum Beispiel: «Erklären Sie anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und geben Sie für jede die Voraussetzungen, Schritte und Prüfungen zurück.» Machen Sie eine fehlende Voraussetzung sichtbar, statt das Modell dazu einzuladen, sie zu erfinden.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Ein praktischer Auftrag verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein Agent mit Tool-Anbindung eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Tool-Nutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die erforderlich sind, um die Behebung des Problems festzustellen.
Der Hersteller dokumentiert standardmässig aktiviertes Denken und einen Direktantwortmodus, in dem das Denken über die Chatvorlage deaktiviert wird. Der Analysemodus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann zu einer einfachen Umformung oder Extraktion passen. Der Hersteller empfiehlt in seinen Clientbeispielen temperature 1.0 und top-p 0.95. Behandeln Sie dies als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschliessenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit zudem von Konfigurationen, die bei begrenztem Speicher ein 256K-Fenster verwenden. Bereiten Sie langes Material für das jeweils verfügbare Arbeitsfenster auf, bewahren Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt den gesuchten Zusammenhang festlegt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.
Englisch und Programmiersprachen bilden den Schwerpunkt; auch Spanisch, Französisch, Deutsch, Italienisch und Japanisch werden genannt. Geben Sie die geforderte Ausgabesprache an und bewahren Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Aufträge erzeugen unterschiedliche Artefakte. Fordern Sie die Kennzeichnung unsicherer Begriffe an, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller numerischer Präzision sowie eine separate NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis aus einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Trennen Sie Fähigkeiten auf Modellebene von verfahrensspezifischen Leistungs- und Speicherannahmen.
Stellen Sie für toolgestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst zu einem nutzbaren Beleg, nachdem die umgebende Anwendung sie ausgeführt und das Geschehen protokolliert hat. Fordern Sie in der endgültigen Antwort eine Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch offenen Prüfungen. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ausgefeilte Zusammenfassung einer ungeprüften Annahme zu erzeugen.
", "aboutText": "NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Schlussfolgerungen, Gespräche und spezialisierte Agentenworkflows. Es hat insgesamt 30B Parameter, davon 3B aktive, und verwendet eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Aufmerksamkeitsschichten ineinander verschachtelt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage des bereitgestellten Materials.\n\nDer Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensbasis die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Fordern Sie das Modell auf, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage zu nennen und anzugeben, was offenbleibt. Zum Beispiel: «Erklären Sie anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und geben Sie für jede die Voraussetzungen, Schritte und Prüfungen zurück.» Machen Sie eine fehlende Voraussetzung sichtbar, statt das Modell dazu einzuladen, sie zu erfinden.\n\nStellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Ein praktischer Auftrag verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein Agent mit Tool-Anbindung eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Tool-Nutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die erforderlich sind, um die Behebung des Problems festzustellen.\n\nDer Hersteller dokumentiert standardmässig aktiviertes Denken und einen Direktantwortmodus, in dem das Denken über die Chatvorlage deaktiviert wird. Der Analysemodus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann zu einer einfachen Umformung oder Extraktion passen. Der Hersteller empfiehlt in seinen Clientbeispielen temperature 1.0 und top-p 0.95. Behandeln Sie dies als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschliessenden Belegen.\n\nDas Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit zudem von Konfigurationen, die bei begrenztem Speicher ein 256K-Fenster verwenden. Bereiten Sie langes Material für das jeweils verfügbare Arbeitsfenster auf, bewahren Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt den gesuchten Zusammenhang festlegt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.\n\nEnglisch und Programmiersprachen bilden den Schwerpunkt; auch Spanisch, Französisch, Deutsch, Italienisch und Japanisch werden genannt. Geben Sie die geforderte Ausgabesprache an und bewahren Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Aufträge erzeugen unterschiedliche Artefakte. Fordern Sie die Kennzeichnung unsicherer Begriffe an, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.\n\nNVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller numerischer Präzision sowie eine separate NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis aus einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Trennen Sie Fähigkeiten auf Modellebene von verfahrensspezifischen Leistungs- und Speicherannahmen.\n\nStellen Sie für toolgestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst zu einem nutzbaren Beleg, nachdem die umgebende Anwendung sie ausgeführt und das Geschehen protokolliert hat. Fordern Sie in der endgültigen Antwort eine Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch offenen Prüfungen. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ausgefeilte Zusammenfassung einer ungeprüften Annahme zu erzeugen.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "48707e7cd48b5eaa34e6f9b1d752a419f92c4f593b9aa991a94b117cfaed82e9", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de-ch", "methods": [ { "html": "nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning ist ein Textmodell für Schlussfolgerungen und Chat mit insgesamt 30B und 3B aktiven Parametern. Seine hybride Mamba–MoE-Architektur unterstützt Analysen mit langem Kontext, Programmierung und toolgestützte Workflows; die Chatvorlage des Herstellers dokumentiert Modi mit Denken oder direkten Antworten.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Schlussfolgerungen, Gespräche und spezialisierte Agentenworkflows. Es hat insgesamt 30B Parameter, davon 3B aktive, und verwendet eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Aufmerksamkeitsschichten ineinander verschachtelt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage des bereitgestellten Materials.
Der Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensbasis die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Fordern Sie das Modell auf, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage zu nennen und anzugeben, was offenbleibt. Zum Beispiel: «Erklären Sie anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und geben Sie für jede die Voraussetzungen, Schritte und Prüfungen zurück.» Machen Sie eine fehlende Voraussetzung sichtbar, statt das Modell dazu einzuladen, sie zu erfinden.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Ein praktischer Auftrag verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein Agent mit Tool-Anbindung eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Tool-Nutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die erforderlich sind, um die Behebung des Problems festzustellen.
Der Hersteller dokumentiert standardmässig aktiviertes Denken und einen Direktantwortmodus, in dem das Denken über die Chatvorlage deaktiviert wird. Der Analysemodus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann zu einer einfachen Umformung oder Extraktion passen. Der Hersteller empfiehlt in seinen Clientbeispielen temperature 1.0 und top-p 0.95. Behandeln Sie dies als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschliessenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit zudem von Konfigurationen, die bei begrenztem Speicher ein 256K-Fenster verwenden. Bereiten Sie langes Material für das jeweils verfügbare Arbeitsfenster auf, bewahren Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt den gesuchten Zusammenhang festlegt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.
Englisch und Programmiersprachen bilden den Schwerpunkt; auch Spanisch, Französisch, Deutsch, Italienisch und Japanisch werden genannt. Geben Sie die geforderte Ausgabesprache an und bewahren Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Aufträge erzeugen unterschiedliche Artefakte. Fordern Sie die Kennzeichnung unsicherer Begriffe an, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller numerischer Präzision sowie eine separate NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis aus einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Trennen Sie Fähigkeiten auf Modellebene von verfahrensspezifischen Leistungs- und Speicherannahmen.
Stellen Sie für toolgestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst zu einem nutzbaren Beleg, nachdem die umgebende Anwendung sie ausgeführt und das Geschehen protokolliert hat. Fordern Sie in der endgültigen Antwort eine Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch offenen Prüfungen. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ausgefeilte Zusammenfassung einer ungeprüften Annahme zu erzeugen.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3.5-lightning:free | Standard— |
Feldmessages | Typarray | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits false | Standardfalse |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 65'536 | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 65'536 | Standard— |
Feldn | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 128 | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldseed | Typinteger | AnforderungOptional | Werte und Limits | Standard— |
Feldstop | Typ | AnforderungOptional | Werte und Limits | Standard— |
Feldfrequency_penalty | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldpresence_penalty | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Felduser | Typstring | AnforderungOptional | Werte und Limits | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parameteroptional | Vertragstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Parametermaterial_types | Vertragtext |
Parameterconditions | VertragUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Lebenszyklus: synchronous_json
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationToken-Basistarife | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0 / 1K Tokens Ausgabe · Ausgabetoken $0 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Verwenden Sie die oben angezeigten Methodenpfade.
nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning ist ein Textmodell für Schlussfolgerungen und Chat mit insgesamt 30B und 3B aktiven Parametern. Seine hybride Mamba–MoE-Architektur unterstützt Analysen mit langem Kontext, Programmierung und toolgestützte Workflows; die Chatvorlage des Herstellers dokumentiert Modi mit Denken oder direkten Antworten.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Schlussfolgerungen, Gespräche und spezialisierte Agentenworkflows. Es hat insgesamt 30B Parameter, davon 3B aktive, und verwendet eine hybride Architektur, die Mamba-2-, Mixture-of-Experts- und Aufmerksamkeitsschichten ineinander verschachtelt. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Tokens und unterstützen die optimierten Generierungsverfahren des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage des bereitgestellten Materials.
Der Hersteller beschreibt Anwendungen in Chatbots, Retrieval-Augmented Generation, der Befolgung von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensbasis die Frage und die relevanten Passagen mit stabilen Quellenbezeichnungen bereit. Fordern Sie das Modell auf, anhand dieser Passagen zu antworten, für jede wichtige Aussage die stützende Passage zu nennen und anzugeben, was offenbleibt. Zum Beispiel: «Erklären Sie anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und geben Sie für jede die Voraussetzungen, Schritte und Prüfungen zurück.» Machen Sie eine fehlende Voraussetzung sichtbar, statt das Modell dazu einzuladen, sie zu erfinden.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Ein praktischer Auftrag verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Wenn ein Agent mit Tool-Anbindung eine Prüfung ausführt, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Tool-Nutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch die ursprüngliche Anforderung erfüllen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die erforderlich sind, um die Behebung des Problems festzustellen.
Der Hersteller dokumentiert standardmässig aktiviertes Denken und einen Direktantwortmodus, in dem das Denken über die Chatvorlage deaktiviert wird. Der Analysemodus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann zu einer einfachen Umformung oder Extraktion passen. Der Hersteller empfiehlt in seinen Clientbeispielen temperature 1.0 und top-p 0.95. Behandeln Sie dies als Einstellungen des Herstellerverfahrens und wählen Sie die Struktur der endgültigen Antwort ausdrücklich, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschliessenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Tokens. Die veröffentlichten BF16-Bereitstellungsverfahren unterscheiden diese Modellfähigkeit zudem von Konfigurationen, die bei begrenztem Speicher ein 256K-Fenster verwenden. Bereiten Sie langes Material für das jeweils verfügbare Arbeitsfenster auf, bewahren Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt den gesuchten Zusammenhang festlegt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremden Verlauf aufzunehmen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.
Englisch und Programmiersprachen bilden den Schwerpunkt; auch Spanisch, Französisch, Deutsch, Italienisch und Japanisch werden genannt. Geben Sie die geforderte Ausgabesprache an und bewahren Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise entscheidend ist. Legen Sie bei mehrsprachiger Dokumentarbeit fest, ob die Materialien übersetzt, zusammengefasst oder verglichen werden sollen; diese Aufträge erzeugen unterschiedliche Artefakte. Fordern Sie die Kennzeichnung unsicherer Begriffe an, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzversion vor allem für Anpassungen und Forschung mit voller numerischer Präzision sowie eine separate NVFP4-Version mit optimierten Inferenzverfahren. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis aus einer Version beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Bereitstellungskonfiguration das Verfahren bestimmen. Trennen Sie Fähigkeiten auf Modellebene von verfahrensspezifischen Leistungs- und Speicherannahmen.
Stellen Sie für toolgestützte Arbeit klare Funktionsbeschreibungen bereit und geben Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst zu einem nutzbaren Beleg, nachdem die umgebende Anwendung sie ausgeführt und das Geschehen protokolliert hat. Fordern Sie in der endgültigen Antwort eine Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch offenen Prüfungen. Wenn eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis widerspricht, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ausgefeilte Zusammenfassung einer ungeprüften Annahme zu erzeugen.
POST /v1/messagestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3.5-lightning:free | Standard— |
Feldmessages | Typarray | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits false | Standardfalse |
Feldsystem | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits Minimum: 1 Maximum: 65'536 | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_k | Typinteger | AnforderungOptional | Werte und Limits | Standard— |
Feldstop_sequences | Typarray | AnforderungOptional | Werte und Limits | Standard— |
Feldmetadata | Typobject | AnforderungOptional | Werte und Limits | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional | Vertragstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Parametermaterial_types | Vertragtext |
Parameterconditions | VertragUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Lebenszyklus: synchronous_json
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationToken-Basistarife | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0 / 1K Tokens Ausgabe · Ausgabetoken $0 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Verwenden Sie die oben angezeigten Methodenpfade.