NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Reasoning, Konversation und spezialisierte Agenten-Workflows. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und verwendet eine hybride Architektur mit abwechselnden Mamba-2-, Mixture-of-Experts- und Attention-Schichten. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Token und unterstützen die optimierten Generierungsrezepte des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage bereitgestellten Materials.
Der Hersteller nennt Anwendungen in Chatbots, Retrieval-Augmented Generation, dem Befolgen von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenkennzeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, die jeweilige Grundlage jeder wichtigen Aussage anzugeben und offene Punkte zu benennen. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und gib für jede die Voraussetzungen, Schritte und Prüfungen zurück.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zu deren Erfindung einzuladen.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine praktische Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Führt ein mit Werkzeugen verbundener Agent eine Prüfung aus, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch der ursprünglichen Anforderung entsprechen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die zur Feststellung der Problemlösung erforderlich sind.
Der Hersteller dokumentiert standardmäßig aktiviertes Thinking und einen Direktantwortmodus, in dem Thinking über das Chat-Template deaktiviert wird. Der Reasoning-Modus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann sich für unkomplizierte Umwandlungen oder Extraktionen eignen. Der Hersteller empfiehlt in seinen Client-Beispielen Temperature 1.0 und top-p 0.95. Behandeln Sie diese Werte als Einstellungen des Herstellerrezepts und legen Sie die Struktur der endgültigen Antwort ausdrücklich fest, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Token. Die veröffentlichten BF16-Bereitstellungsrezepte unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Speicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils verfügbare Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt die gesuchte Beziehung vorgibt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder die Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremde Historie einzubeziehen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.
Der Schwerpunkt liegt auf Englisch und Programmiersprachen; außerdem werden Spanisch, Französisch, Deutsch, Italienisch und Japanisch aufgeführt. Geben Sie die gewünschte Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise wichtig ist. Legen Sie bei mehrsprachiger Dokumentenarbeit fest, ob das Material übersetzt, zusammengefasst oder verglichen werden soll; diese Anfragen erzeugen unterschiedliche Artefakte. Bitten Sie darum, unsichere Terminologie zu kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzausgabe vorwiegend für Anpassungen und Forschung mit voller Präzision sowie eine separate NVFP4-Ausgabe mit optimierten Inferenzrezepten. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Ausgabe beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Serving-Konfiguration das Rezept bestimmen. Halten Sie Modellfähigkeiten von rezeptabhängigen Leistungs- und Speicherannahmen getrennt.
Geben Sie für werkzeuggestützte Aufgaben klare Funktionsbeschreibungen vor und liefern Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung sie ausführt und den Ablauf protokolliert. Fordern Sie für die endgültige Antwort eine klare Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch ausstehenden Prüfungen an. Widerspricht eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ungeprüfte Annahme als ausgefeilte Zusammenfassung auszugeben.
", "aboutText": "NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Reasoning, Konversation und spezialisierte Agenten-Workflows. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und verwendet eine hybride Architektur mit abwechselnden Mamba-2-, Mixture-of-Experts- und Attention-Schichten. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Token und unterstützen die optimierten Generierungsrezepte des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage bereitgestellten Materials.\n\nDer Hersteller nennt Anwendungen in Chatbots, Retrieval-Augmented Generation, dem Befolgen von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenkennzeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, die jeweilige Grundlage jeder wichtigen Aussage anzugeben und offene Punkte zu benennen. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und gib für jede die Voraussetzungen, Schritte und Prüfungen zurück.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zu deren Erfindung einzuladen.\n\nStellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine praktische Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Führt ein mit Werkzeugen verbundener Agent eine Prüfung aus, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch der ursprünglichen Anforderung entsprechen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die zur Feststellung der Problemlösung erforderlich sind.\n\nDer Hersteller dokumentiert standardmäßig aktiviertes Thinking und einen Direktantwortmodus, in dem Thinking über das Chat-Template deaktiviert wird. Der Reasoning-Modus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann sich für unkomplizierte Umwandlungen oder Extraktionen eignen. Der Hersteller empfiehlt in seinen Client-Beispielen Temperature 1.0 und top-p 0.95. Behandeln Sie diese Werte als Einstellungen des Herstellerrezepts und legen Sie die Struktur der endgültigen Antwort ausdrücklich fest, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.\n\nDas Modell unterstützt einen Kontext von bis zu 1M Token. Die veröffentlichten BF16-Bereitstellungsrezepte unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Speicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils verfügbare Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt die gesuchte Beziehung vorgibt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder die Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremde Historie einzubeziehen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.\n\nDer Schwerpunkt liegt auf Englisch und Programmiersprachen; außerdem werden Spanisch, Französisch, Deutsch, Italienisch und Japanisch aufgeführt. Geben Sie die gewünschte Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise wichtig ist. Legen Sie bei mehrsprachiger Dokumentenarbeit fest, ob das Material übersetzt, zusammengefasst oder verglichen werden soll; diese Anfragen erzeugen unterschiedliche Artefakte. Bitten Sie darum, unsichere Terminologie zu kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.\n\nNVIDIA veröffentlicht eine BF16-Referenzausgabe vorwiegend für Anpassungen und Forschung mit voller Präzision sowie eine separate NVFP4-Ausgabe mit optimierten Inferenzrezepten. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Ausgabe beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Serving-Konfiguration das Rezept bestimmen. Halten Sie Modellfähigkeiten von rezeptabhängigen Leistungs- und Speicherannahmen getrennt.\n\nGeben Sie für werkzeuggestützte Aufgaben klare Funktionsbeschreibungen vor und liefern Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung sie ausführt und den Ablauf protokolliert. Fordern Sie für die endgültige Antwort eine klare Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch ausstehenden Prüfungen an. Widerspricht eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ungeprüfte Annahme als ausgefeilte Zusammenfassung auszugeben.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "c7aba02364baa6ae223acb82e8d042163bce7a283d363c274d18760f7c942601", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de", "methods": [ { "html": "nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning ist ein Textmodell für Reasoning und Chat mit 30B Parametern insgesamt und 3B aktiven Parametern. Seine hybride Mamba–MoE-Architektur unterstützt Analysen mit langem Kontext, Programmierung und werkzeuggestützte Workflows; Thinking- und Direktantwortmodi sind im Chat-Template des Herstellers dokumentiert.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Reasoning, Konversation und spezialisierte Agenten-Workflows. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und verwendet eine hybride Architektur mit abwechselnden Mamba-2-, Mixture-of-Experts- und Attention-Schichten. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Token und unterstützen die optimierten Generierungsrezepte des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage bereitgestellten Materials.
Der Hersteller nennt Anwendungen in Chatbots, Retrieval-Augmented Generation, dem Befolgen von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenkennzeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, die jeweilige Grundlage jeder wichtigen Aussage anzugeben und offene Punkte zu benennen. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und gib für jede die Voraussetzungen, Schritte und Prüfungen zurück.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zu deren Erfindung einzuladen.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine praktische Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Führt ein mit Werkzeugen verbundener Agent eine Prüfung aus, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch der ursprünglichen Anforderung entsprechen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die zur Feststellung der Problemlösung erforderlich sind.
Der Hersteller dokumentiert standardmäßig aktiviertes Thinking und einen Direktantwortmodus, in dem Thinking über das Chat-Template deaktiviert wird. Der Reasoning-Modus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann sich für unkomplizierte Umwandlungen oder Extraktionen eignen. Der Hersteller empfiehlt in seinen Client-Beispielen Temperature 1.0 und top-p 0.95. Behandeln Sie diese Werte als Einstellungen des Herstellerrezepts und legen Sie die Struktur der endgültigen Antwort ausdrücklich fest, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Token. Die veröffentlichten BF16-Bereitstellungsrezepte unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Speicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils verfügbare Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt die gesuchte Beziehung vorgibt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder die Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremde Historie einzubeziehen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.
Der Schwerpunkt liegt auf Englisch und Programmiersprachen; außerdem werden Spanisch, Französisch, Deutsch, Italienisch und Japanisch aufgeführt. Geben Sie die gewünschte Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise wichtig ist. Legen Sie bei mehrsprachiger Dokumentenarbeit fest, ob das Material übersetzt, zusammengefasst oder verglichen werden soll; diese Anfragen erzeugen unterschiedliche Artefakte. Bitten Sie darum, unsichere Terminologie zu kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzausgabe vorwiegend für Anpassungen und Forschung mit voller Präzision sowie eine separate NVFP4-Ausgabe mit optimierten Inferenzrezepten. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Ausgabe beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Serving-Konfiguration das Rezept bestimmen. Halten Sie Modellfähigkeiten von rezeptabhängigen Leistungs- und Speicherannahmen getrennt.
Geben Sie für werkzeuggestützte Aufgaben klare Funktionsbeschreibungen vor und liefern Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung sie ausführt und den Ablauf protokolliert. Fordern Sie für die endgültige Antwort eine klare Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch ausstehenden Prüfungen an. Widerspricht eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ungeprüfte Annahme als ausgefeilte Zusammenfassung auszugeben.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3.5-lightning:free | Standard— |
Feldmessages | Typarray | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits false | Standardfalse |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 65.536 | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 65.536 | Standard— |
Feldn | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Maximum: 128 | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldseed | Typinteger | AnforderungOptional | Werte und Limits | Standard— |
Feldstop | Typ | AnforderungOptional | Werte und Limits | Standard— |
Feldfrequency_penalty | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldpresence_penalty | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Felduser | Typstring | AnforderungOptional | Werte und Limits | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parameteroptional | Vertragstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Parametermaterial_types | Vertragtext |
Parameterconditions | VertragUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Lebenszyklus: synchronous_json
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0 / 1K Token Ausgabe · Ausgabetoken $0 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Verwenden Sie die oben angezeigten Methodenpfade.
nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning ist ein Textmodell für Reasoning und Chat mit 30B Parametern insgesamt und 3B aktiven Parametern. Seine hybride Mamba–MoE-Architektur unterstützt Analysen mit langem Kontext, Programmierung und werkzeuggestützte Workflows; Thinking- und Direktantwortmodi sind im Chat-Template des Herstellers dokumentiert.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
NVIDIA Nemotron 3.5 Lightning ist ein Sprachmodell für Reasoning, Konversation und spezialisierte Agenten-Workflows. Es hat insgesamt 30B Parameter, von denen 3B aktiv sind, und verwendet eine hybride Architektur mit abwechselnden Mamba-2-, Mixture-of-Experts- und Attention-Schichten. Multi-Token-Prediction-Schichten ergänzen Trainingssignale für zukünftige Token und unterstützen die optimierten Generierungsrezepte des Modells. Das Modell verarbeitet Text und erzeugt Text, darunter Erklärungen, Code und Antworten auf Grundlage bereitgestellten Materials.
Der Hersteller nennt Anwendungen in Chatbots, Retrieval-Augmented Generation, dem Befolgen von Anweisungen und Agenten. Stellen Sie für eine Antwort aus einer Wissensdatenbank die Frage und die relevanten Passagen mit stabilen Quellenkennzeichnungen bereit. Bitten Sie das Modell, anhand dieser Passagen zu antworten, die jeweilige Grundlage jeder wichtigen Aussage anzugeben und offene Punkte zu benennen. Zum Beispiel: „Erkläre anhand dieser Supportartikel den Unterschied zwischen den beiden Installationsmethoden und gib für jede die Voraussetzungen, Schritte und Prüfungen zurück.“ Lassen Sie eine fehlende Voraussetzung sichtbar, statt das Modell zu deren Erfindung einzuladen.
Stellen Sie für Programmieraufgaben den relevanten Code, das erwartete Verhalten und den beobachteten Fehler bereit. Eine praktische Anfrage verlangt eine gezielte Überarbeitung und eine Erklärung der betroffenen Fälle. Führt ein mit Werkzeugen verbundener Agent eine Prüfung aus, geben Sie deren tatsächliche Ausgabe zurück, bevor Sie die nächste Änderung anfordern. Das Training des Modells umfasst Code, mehrstufige Werkzeugnutzung und Aufgaben mit strukturierten Ausgaben; das fertige Artefakt muss dennoch der ursprünglichen Anforderung entsprechen. Fordern Sie den überarbeiteten Code, die Begründung jeder wesentlichen Änderung und die Beobachtungen an, die zur Feststellung der Problemlösung erforderlich sind.
Der Hersteller dokumentiert standardmäßig aktiviertes Thinking und einen Direktantwortmodus, in dem Thinking über das Chat-Template deaktiviert wird. Der Reasoning-Modus ist für Aufgaben mit mehreren voneinander abhängigen Bedingungen nützlich; eine direkte Antwort kann sich für unkomplizierte Umwandlungen oder Extraktionen eignen. Der Hersteller empfiehlt in seinen Client-Beispielen Temperature 1.0 und top-p 0.95. Behandeln Sie diese Werte als Einstellungen des Herstellerrezepts und legen Sie die Struktur der endgültigen Antwort ausdrücklich fest, etwa eine knappe Erklärung, eine Vergleichstabelle oder eine Antwort mit anschließenden Belegen.
Das Modell unterstützt einen Kontext von bis zu 1M Token. Die veröffentlichten BF16-Bereitstellungsrezepte unterscheiden diese Modellfähigkeit außerdem von Konfigurationen, die bei begrenztem Speicher ein Fenster von 256K nutzen. Bereiten Sie umfangreiches Material für das jeweils verfügbare Arbeitsfenster vor, erhalten Sie die Dokumentstruktur und lassen Sie Platz für die Antwort. Ein langer Kontext ist besonders nützlich, wenn der Prompt die gesuchte Beziehung vorgibt: Widersprüche zwischen Dokumenten, Abhängigkeiten zwischen Quelldateien oder die Belege für eine Schlussfolgerung. Er ist kein Grund, sachfremde Historie einzubeziehen oder anzunehmen, die endgültige Antwort könne das gesamte Fenster belegen.
Der Schwerpunkt liegt auf Englisch und Programmiersprachen; außerdem werden Spanisch, Französisch, Deutsch, Italienisch und Japanisch aufgeführt. Geben Sie die gewünschte Ausgabesprache an und erhalten Sie Namen, Kennungen und zitierte Quellbegriffe, wenn ihre Schreibweise wichtig ist. Legen Sie bei mehrsprachiger Dokumentenarbeit fest, ob das Material übersetzt, zusammengefasst oder verglichen werden soll; diese Anfragen erzeugen unterschiedliche Artefakte. Bitten Sie darum, unsichere Terminologie zu kennzeichnen, damit eine flüssige Übersetzung nicht unbemerkt eine technische Bedeutung verändert.
NVIDIA veröffentlicht eine BF16-Referenzausgabe vorwiegend für Anpassungen und Forschung mit voller Präzision sowie eine separate NVFP4-Ausgabe mit optimierten Inferenzrezepten. Diese Unterscheidung ist beim Vergleich von Bereitstellungshinweisen wichtig: Eine Hardwarekonfiguration oder ein Durchsatzergebnis einer Ausgabe beschreibt nicht automatisch eine andere. Der Modellname bezeichnet die Lightning-Familie, während der genaue Checkpoint und die Serving-Konfiguration das Rezept bestimmen. Halten Sie Modellfähigkeiten von rezeptabhängigen Leistungs- und Speicherannahmen getrennt.
Geben Sie für werkzeuggestützte Aufgaben klare Funktionsbeschreibungen vor und liefern Sie das tatsächliche Ergebnis jedes ausgeführten Schritts zurück. Eine vorgeschlagene Operation wird erst dann zu einem nutzbaren Beleg, wenn die umgebende Anwendung sie ausführt und den Ablauf protokolliert. Fordern Sie für die endgültige Antwort eine klare Unterscheidung zwischen Quellenbeobachtungen, abgeleiteten Schlussfolgerungen und noch ausstehenden Prüfungen an. Widerspricht eine Berechnung, ein Befehl oder eine abgerufene Passage dem geplanten Ergebnis, nutzen Sie diesen Widerspruch zur Überarbeitung der Schlussfolgerung, statt eine ungeprüfte Annahme als ausgefeilte Zusammenfassung auszugeben.
POST /v1/messagestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/nemotron-3.5-lightning:free | Standard— |
Feldmessages | Typarray | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits false | Standardfalse |
Feldsystem | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits Minimum: 1 Maximum: 65.536 | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits | Standard— |
Feldtop_k | Typinteger | AnforderungOptional | Werte und Limits | Standard— |
Feldstop_sequences | Typarray | AnforderungOptional | Werte und Limits | Standard— |
Feldmetadata | Typobject | AnforderungOptional | Werte und Limits | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional | Vertragstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Parametermaterial_types | Vertragtext |
Parameterconditions | VertragUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Lebenszyklus: synchronous_json
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0 / 1K Token Ausgabe · Ausgabetoken $0 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Verwenden Sie die oben angezeigten Methodenpfade.