NVIDIA Nemotron 3.5 Lightning is een taalmodel voor redeneren, gesprekken en gespecialiseerde agentworkflows. Het telt 30B parameters in totaal, waarvan 3B actief, en gebruikt een hybride architectuur waarin Mamba-2-, mixture-of-experts- en attention-lagen elkaar afwisselen. Multi-Token Prediction-lagen voegen trainingssignalen voor toekomstige tokens toe en ondersteunen de geoptimaliseerde generatierecepten van het model. Het model verwerkt tekst en produceert tekst, waaronder uitleg, code en antwoorden die steunen op het aangeleverde materiaal.
De fabrikant beschrijft toepassingen in chatbots, retrieval-augmented generation, het volgen van instructies en agents. Geef voor een antwoord op basis van een kennisbank de vraag en de relevante tekstfragmenten met vaste bronlabels op. Vraag het model vanuit die fragmenten te antwoorden, aan te geven welk fragment elke belangrijke bewering ondersteunt en te vermelden wat onbekend blijft. Bijvoorbeeld: “Leg op basis van deze supportartikels het verschil tussen de twee installatiemethodes uit en geef voor elke methode de vereisten, stappen en controles terug.” Houd een ontbrekende vereiste zichtbaar in plaats van het model uit te nodigen die te verzinnen.
Lever voor programmeerwerk de relevante code, het verwachte gedrag en de waargenomen fout aan. Een praktisch verzoek vraagt om een gerichte revisie en een uitleg van de betrokken gevallen. Als een agent met tools een controle uitvoert, geef dan de werkelijke uitvoer terug voordat u om de volgende wijziging vraagt. De training van het model omvat code, toolgebruik in meerdere stappen en taken met gestructureerde uitvoer, maar het voltooide resultaat moet nog altijd aan de oorspronkelijke eis voldoen. Vraag om de herziene code, de reden voor elke wezenlijke wijziging en de waarnemingen die nodig zijn om vast te stellen dat het probleem opgelost is.
De maker documenteert dat denken standaard is ingeschakeld en dat een modus voor directe antwoorden het denken via het chatsjabloon uitschakelt. Een redeneermodus is nuttig voor een taak met meerdere onderling afhankelijke voorwaarden; een direct antwoord kan passen bij eenvoudige omzetting of extractie. De fabrikant beveelt in de clientvoorbeelden temperature 1.0 en top-p 0.95 aan. Behandel die als instellingen van het recept van de maker en kies de structuur van het eindantwoord expliciet, bijvoorbeeld een beknopte uitleg, een vergelijkingstabel of een antwoord met de bijbehorende onderbouwing.
Het model ondersteunt een context tot 1M tokens. De gepubliceerde BF16-deploymentrecepten onderscheiden die modelcapaciteit ook van configuraties met een venster van 256K bij geheugenbeperkingen. Bereid lang materiaal voor op het toepasselijke werkvenster, met behoud van de documentstructuur en voldoende ruimte voor het antwoord. Een lange context is het nuttigst wanneer de prompt aangeeft welk verband moet worden gevonden: tegenstrijdigheden tussen documenten, afhankelijkheden tussen bronbestanden of de onderbouwing van een conclusie. Het is geen reden om niet-relevante geschiedenis toe te voegen of te veronderstellen dat een eindantwoord het hele venster kan innemen.
Engels en programmeertalen krijgen de meeste aandacht; ook Spaans, Frans, Duits, Italiaans en Japans worden vermeld. Geef de vereiste uitvoertaal op en behoud namen, identificaties en geciteerde brontermen wanneer hun schrijfwijze van belang is. Geef bij meertalig documentwerk aan of het materiaal moet worden vertaald, samengevat of vergeleken; die verzoeken leveren verschillende resultaten op. Vraag om onzekere terminologie te markeren, zodat een vlotte vertaling niet ongemerkt een technische betekenis verandert.
NVIDIA publiceert een BF16-referentie-uitgave die vooral bedoeld is voor aanpassing en onderzoek op volledige precisie, en een afzonderlijke NVFP4-uitgave met geoptimaliseerde inferentierecepten. Dit onderscheid is van belang bij het vergelijken van deploymentrichtlijnen: een hardwareconfiguratie of doorvoerresultaat van de ene uitgave beschrijft niet automatisch de andere. De modelnaam identificeert de Lightning-familie, terwijl het exacte checkpoint en de servingconfiguratie het recept bepalen. Houd modelcapaciteiten gescheiden van prestaties en geheugenaannames die bij een specifiek recept horen.
Geef voor werk met tools duidelijke functiebeschrijvingen op en geef het werkelijke resultaat van elke uitgevoerde stap terug. Een voorgestelde bewerking wordt pas bruikbare onderbouwing nadat de omliggende applicatie ze heeft uitgevoerd en heeft vastgelegd wat er gebeurde. Vraag het eindantwoord onderscheid te maken tussen bronwaarnemingen, afgeleide conclusies en onafgewerkte controles. Wanneer een berekening, opdracht of opgehaald tekstfragment met het geplande resultaat botst, gebruik dat verschil dan om de conclusie te herzien in plaats van een verzorgde samenvatting van een ongeverifieerde aanname te produceren.
", "aboutText": "NVIDIA Nemotron 3.5 Lightning is een taalmodel voor redeneren, gesprekken en gespecialiseerde agentworkflows. Het telt 30B parameters in totaal, waarvan 3B actief, en gebruikt een hybride architectuur waarin Mamba-2-, mixture-of-experts- en attention-lagen elkaar afwisselen. Multi-Token Prediction-lagen voegen trainingssignalen voor toekomstige tokens toe en ondersteunen de geoptimaliseerde generatierecepten van het model. Het model verwerkt tekst en produceert tekst, waaronder uitleg, code en antwoorden die steunen op het aangeleverde materiaal.\n\nDe fabrikant beschrijft toepassingen in chatbots, retrieval-augmented generation, het volgen van instructies en agents. Geef voor een antwoord op basis van een kennisbank de vraag en de relevante tekstfragmenten met vaste bronlabels op. Vraag het model vanuit die fragmenten te antwoorden, aan te geven welk fragment elke belangrijke bewering ondersteunt en te vermelden wat onbekend blijft. Bijvoorbeeld: “Leg op basis van deze supportartikels het verschil tussen de twee installatiemethodes uit en geef voor elke methode de vereisten, stappen en controles terug.” Houd een ontbrekende vereiste zichtbaar in plaats van het model uit te nodigen die te verzinnen.\n\nLever voor programmeerwerk de relevante code, het verwachte gedrag en de waargenomen fout aan. Een praktisch verzoek vraagt om een gerichte revisie en een uitleg van de betrokken gevallen. Als een agent met tools een controle uitvoert, geef dan de werkelijke uitvoer terug voordat u om de volgende wijziging vraagt. De training van het model omvat code, toolgebruik in meerdere stappen en taken met gestructureerde uitvoer, maar het voltooide resultaat moet nog altijd aan de oorspronkelijke eis voldoen. Vraag om de herziene code, de reden voor elke wezenlijke wijziging en de waarnemingen die nodig zijn om vast te stellen dat het probleem opgelost is.\n\nDe maker documenteert dat denken standaard is ingeschakeld en dat een modus voor directe antwoorden het denken via het chatsjabloon uitschakelt. Een redeneermodus is nuttig voor een taak met meerdere onderling afhankelijke voorwaarden; een direct antwoord kan passen bij eenvoudige omzetting of extractie. De fabrikant beveelt in de clientvoorbeelden temperature 1.0 en top-p 0.95 aan. Behandel die als instellingen van het recept van de maker en kies de structuur van het eindantwoord expliciet, bijvoorbeeld een beknopte uitleg, een vergelijkingstabel of een antwoord met de bijbehorende onderbouwing.\n\nHet model ondersteunt een context tot 1M tokens. De gepubliceerde BF16-deploymentrecepten onderscheiden die modelcapaciteit ook van configuraties met een venster van 256K bij geheugenbeperkingen. Bereid lang materiaal voor op het toepasselijke werkvenster, met behoud van de documentstructuur en voldoende ruimte voor het antwoord. Een lange context is het nuttigst wanneer de prompt aangeeft welk verband moet worden gevonden: tegenstrijdigheden tussen documenten, afhankelijkheden tussen bronbestanden of de onderbouwing van een conclusie. Het is geen reden om niet-relevante geschiedenis toe te voegen of te veronderstellen dat een eindantwoord het hele venster kan innemen.\n\nEngels en programmeertalen krijgen de meeste aandacht; ook Spaans, Frans, Duits, Italiaans en Japans worden vermeld. Geef de vereiste uitvoertaal op en behoud namen, identificaties en geciteerde brontermen wanneer hun schrijfwijze van belang is. Geef bij meertalig documentwerk aan of het materiaal moet worden vertaald, samengevat of vergeleken; die verzoeken leveren verschillende resultaten op. Vraag om onzekere terminologie te markeren, zodat een vlotte vertaling niet ongemerkt een technische betekenis verandert.\n\nNVIDIA publiceert een BF16-referentie-uitgave die vooral bedoeld is voor aanpassing en onderzoek op volledige precisie, en een afzonderlijke NVFP4-uitgave met geoptimaliseerde inferentierecepten. Dit onderscheid is van belang bij het vergelijken van deploymentrichtlijnen: een hardwareconfiguratie of doorvoerresultaat van de ene uitgave beschrijft niet automatisch de andere. De modelnaam identificeert de Lightning-familie, terwijl het exacte checkpoint en de servingconfiguratie het recept bepalen. Houd modelcapaciteiten gescheiden van prestaties en geheugenaannames die bij een specifiek recept horen.\n\nGeef voor werk met tools duidelijke functiebeschrijvingen op en geef het werkelijke resultaat van elke uitgevoerde stap terug. Een voorgestelde bewerking wordt pas bruikbare onderbouwing nadat de omliggende applicatie ze heeft uitgevoerd en heeft vastgelegd wat er gebeurde. Vraag het eindantwoord onderscheid te maken tussen bronwaarnemingen, afgeleide conclusies en onafgewerkte controles. Wanneer een berekening, opdracht of opgehaald tekstfragment met het geplande resultaat botst, gebruik dat verschil dan om de conclusie te herzien in plaats van een verzorgde samenvatting van een ongeverifieerde aanname te produceren.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "28ad923ff68246da0bf7f493f552a7348fee2abf3d16309a097265444884401a", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "nl-be", "methods": [ { "html": "nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning is een tekstmodel voor redeneren en chat met 30B parameters in totaal en 3B actieve parameters. De hybride Mamba–MoE-architectuur ondersteunt analyse met lange context, programmeren en workflows met tools, met denkmodi of directe antwoorden zoals gedocumenteerd in het chatsjabloon van de maker.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
NVIDIA Nemotron 3.5 Lightning is een taalmodel voor redeneren, gesprekken en gespecialiseerde agentworkflows. Het telt 30B parameters in totaal, waarvan 3B actief, en gebruikt een hybride architectuur waarin Mamba-2-, mixture-of-experts- en attention-lagen elkaar afwisselen. Multi-Token Prediction-lagen voegen trainingssignalen voor toekomstige tokens toe en ondersteunen de geoptimaliseerde generatierecepten van het model. Het model verwerkt tekst en produceert tekst, waaronder uitleg, code en antwoorden die steunen op het aangeleverde materiaal.
De fabrikant beschrijft toepassingen in chatbots, retrieval-augmented generation, het volgen van instructies en agents. Geef voor een antwoord op basis van een kennisbank de vraag en de relevante tekstfragmenten met vaste bronlabels op. Vraag het model vanuit die fragmenten te antwoorden, aan te geven welk fragment elke belangrijke bewering ondersteunt en te vermelden wat onbekend blijft. Bijvoorbeeld: “Leg op basis van deze supportartikels het verschil tussen de twee installatiemethodes uit en geef voor elke methode de vereisten, stappen en controles terug.” Houd een ontbrekende vereiste zichtbaar in plaats van het model uit te nodigen die te verzinnen.
Lever voor programmeerwerk de relevante code, het verwachte gedrag en de waargenomen fout aan. Een praktisch verzoek vraagt om een gerichte revisie en een uitleg van de betrokken gevallen. Als een agent met tools een controle uitvoert, geef dan de werkelijke uitvoer terug voordat u om de volgende wijziging vraagt. De training van het model omvat code, toolgebruik in meerdere stappen en taken met gestructureerde uitvoer, maar het voltooide resultaat moet nog altijd aan de oorspronkelijke eis voldoen. Vraag om de herziene code, de reden voor elke wezenlijke wijziging en de waarnemingen die nodig zijn om vast te stellen dat het probleem opgelost is.
De maker documenteert dat denken standaard is ingeschakeld en dat een modus voor directe antwoorden het denken via het chatsjabloon uitschakelt. Een redeneermodus is nuttig voor een taak met meerdere onderling afhankelijke voorwaarden; een direct antwoord kan passen bij eenvoudige omzetting of extractie. De fabrikant beveelt in de clientvoorbeelden temperature 1.0 en top-p 0.95 aan. Behandel die als instellingen van het recept van de maker en kies de structuur van het eindantwoord expliciet, bijvoorbeeld een beknopte uitleg, een vergelijkingstabel of een antwoord met de bijbehorende onderbouwing.
Het model ondersteunt een context tot 1M tokens. De gepubliceerde BF16-deploymentrecepten onderscheiden die modelcapaciteit ook van configuraties met een venster van 256K bij geheugenbeperkingen. Bereid lang materiaal voor op het toepasselijke werkvenster, met behoud van de documentstructuur en voldoende ruimte voor het antwoord. Een lange context is het nuttigst wanneer de prompt aangeeft welk verband moet worden gevonden: tegenstrijdigheden tussen documenten, afhankelijkheden tussen bronbestanden of de onderbouwing van een conclusie. Het is geen reden om niet-relevante geschiedenis toe te voegen of te veronderstellen dat een eindantwoord het hele venster kan innemen.
Engels en programmeertalen krijgen de meeste aandacht; ook Spaans, Frans, Duits, Italiaans en Japans worden vermeld. Geef de vereiste uitvoertaal op en behoud namen, identificaties en geciteerde brontermen wanneer hun schrijfwijze van belang is. Geef bij meertalig documentwerk aan of het materiaal moet worden vertaald, samengevat of vergeleken; die verzoeken leveren verschillende resultaten op. Vraag om onzekere terminologie te markeren, zodat een vlotte vertaling niet ongemerkt een technische betekenis verandert.
NVIDIA publiceert een BF16-referentie-uitgave die vooral bedoeld is voor aanpassing en onderzoek op volledige precisie, en een afzonderlijke NVFP4-uitgave met geoptimaliseerde inferentierecepten. Dit onderscheid is van belang bij het vergelijken van deploymentrichtlijnen: een hardwareconfiguratie of doorvoerresultaat van de ene uitgave beschrijft niet automatisch de andere. De modelnaam identificeert de Lightning-familie, terwijl het exacte checkpoint en de servingconfiguratie het recept bepalen. Houd modelcapaciteiten gescheiden van prestaties en geheugenaannames die bij een specifiek recept horen.
Geef voor werk met tools duidelijke functiebeschrijvingen op en geef het werkelijke resultaat van elke uitgevoerde stap terug. Een voorgestelde bewerking wordt pas bruikbare onderbouwing nadat de omliggende applicatie ze heeft uitgevoerd en heeft vastgelegd wat er gebeurde. Vraag het eindantwoord onderscheid te maken tussen bronwaarnemingen, afgeleide conclusies en onafgewerkte controles. Wanneer een berekening, opdracht of opgehaald tekstfragment met het geplande resultaat botst, gebruik dat verschil dan om de conclusie te herzien in plaats van een verzorgde samenvatting van een ongeverifieerde aanname te produceren.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten nvidia/nemotron-3.5-lightning:free | Standaard— |
Veldmessages | Typearray | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten false | Standaardfalse |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Maximum: 65.536 | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Maximum: 65.536 | Standaard— |
Veldn | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Maximum: 128 | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldseed | Typeinteger | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldstop | Type | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldfrequency_penalty | Typenumber | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldpresence_penalty | Typenumber | VereisteOptioneel | Waarden en limieten | Standaard— |
Velduser | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parameteroptional | Contractstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Parametermaterial_types | Contracttext |
Parameterconditions | ContractUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Levenscyclus: synchronous_json
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0 / 1K tokens Uitvoer · Uitvoertokens $0 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Gebruik de hierboven getoonde methodepaden.
nvidia/nemotron-3.5-lightning:freeNVIDIA Nemotron 3.5 Lightning is een tekstmodel voor redeneren en chat met 30B parameters in totaal en 3B actieve parameters. De hybride Mamba–MoE-architectuur ondersteunt analyse met lange context, programmeren en workflows met tools, met denkmodi of directe antwoorden zoals gedocumenteerd in het chatsjabloon van de maker.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
NVIDIA Nemotron 3.5 Lightning is een taalmodel voor redeneren, gesprekken en gespecialiseerde agentworkflows. Het telt 30B parameters in totaal, waarvan 3B actief, en gebruikt een hybride architectuur waarin Mamba-2-, mixture-of-experts- en attention-lagen elkaar afwisselen. Multi-Token Prediction-lagen voegen trainingssignalen voor toekomstige tokens toe en ondersteunen de geoptimaliseerde generatierecepten van het model. Het model verwerkt tekst en produceert tekst, waaronder uitleg, code en antwoorden die steunen op het aangeleverde materiaal.
De fabrikant beschrijft toepassingen in chatbots, retrieval-augmented generation, het volgen van instructies en agents. Geef voor een antwoord op basis van een kennisbank de vraag en de relevante tekstfragmenten met vaste bronlabels op. Vraag het model vanuit die fragmenten te antwoorden, aan te geven welk fragment elke belangrijke bewering ondersteunt en te vermelden wat onbekend blijft. Bijvoorbeeld: “Leg op basis van deze supportartikels het verschil tussen de twee installatiemethodes uit en geef voor elke methode de vereisten, stappen en controles terug.” Houd een ontbrekende vereiste zichtbaar in plaats van het model uit te nodigen die te verzinnen.
Lever voor programmeerwerk de relevante code, het verwachte gedrag en de waargenomen fout aan. Een praktisch verzoek vraagt om een gerichte revisie en een uitleg van de betrokken gevallen. Als een agent met tools een controle uitvoert, geef dan de werkelijke uitvoer terug voordat u om de volgende wijziging vraagt. De training van het model omvat code, toolgebruik in meerdere stappen en taken met gestructureerde uitvoer, maar het voltooide resultaat moet nog altijd aan de oorspronkelijke eis voldoen. Vraag om de herziene code, de reden voor elke wezenlijke wijziging en de waarnemingen die nodig zijn om vast te stellen dat het probleem opgelost is.
De maker documenteert dat denken standaard is ingeschakeld en dat een modus voor directe antwoorden het denken via het chatsjabloon uitschakelt. Een redeneermodus is nuttig voor een taak met meerdere onderling afhankelijke voorwaarden; een direct antwoord kan passen bij eenvoudige omzetting of extractie. De fabrikant beveelt in de clientvoorbeelden temperature 1.0 en top-p 0.95 aan. Behandel die als instellingen van het recept van de maker en kies de structuur van het eindantwoord expliciet, bijvoorbeeld een beknopte uitleg, een vergelijkingstabel of een antwoord met de bijbehorende onderbouwing.
Het model ondersteunt een context tot 1M tokens. De gepubliceerde BF16-deploymentrecepten onderscheiden die modelcapaciteit ook van configuraties met een venster van 256K bij geheugenbeperkingen. Bereid lang materiaal voor op het toepasselijke werkvenster, met behoud van de documentstructuur en voldoende ruimte voor het antwoord. Een lange context is het nuttigst wanneer de prompt aangeeft welk verband moet worden gevonden: tegenstrijdigheden tussen documenten, afhankelijkheden tussen bronbestanden of de onderbouwing van een conclusie. Het is geen reden om niet-relevante geschiedenis toe te voegen of te veronderstellen dat een eindantwoord het hele venster kan innemen.
Engels en programmeertalen krijgen de meeste aandacht; ook Spaans, Frans, Duits, Italiaans en Japans worden vermeld. Geef de vereiste uitvoertaal op en behoud namen, identificaties en geciteerde brontermen wanneer hun schrijfwijze van belang is. Geef bij meertalig documentwerk aan of het materiaal moet worden vertaald, samengevat of vergeleken; die verzoeken leveren verschillende resultaten op. Vraag om onzekere terminologie te markeren, zodat een vlotte vertaling niet ongemerkt een technische betekenis verandert.
NVIDIA publiceert een BF16-referentie-uitgave die vooral bedoeld is voor aanpassing en onderzoek op volledige precisie, en een afzonderlijke NVFP4-uitgave met geoptimaliseerde inferentierecepten. Dit onderscheid is van belang bij het vergelijken van deploymentrichtlijnen: een hardwareconfiguratie of doorvoerresultaat van de ene uitgave beschrijft niet automatisch de andere. De modelnaam identificeert de Lightning-familie, terwijl het exacte checkpoint en de servingconfiguratie het recept bepalen. Houd modelcapaciteiten gescheiden van prestaties en geheugenaannames die bij een specifiek recept horen.
Geef voor werk met tools duidelijke functiebeschrijvingen op en geef het werkelijke resultaat van elke uitgevoerde stap terug. Een voorgestelde bewerking wordt pas bruikbare onderbouwing nadat de omliggende applicatie ze heeft uitgevoerd en heeft vastgelegd wat er gebeurde. Vraag het eindantwoord onderscheid te maken tussen bronwaarnemingen, afgeleide conclusies en onafgewerkte controles. Wanneer een berekening, opdracht of opgehaald tekstfragment met het geplande resultaat botst, gebruik dat verschil dan om de conclusie te herzien in plaats van een verzorgde samenvatting van een ongeverifieerde aanname te produceren.
POST /v1/messagestexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten nvidia/nemotron-3.5-lightning:free | Standaard— |
Veldmessages | Typearray | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten false | Standaardfalse |
Veldsystem | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten Minimum: 1 Maximum: 65.536 | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtop_k | Typeinteger | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldstop_sequences | Typearray | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmetadata | Typeobject | VereisteOptioneel | Waarden en limieten | Standaard— |
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional | Contractstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Parametermaterial_types | Contracttext |
Parameterconditions | ContractUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Levenscyclus: synchronous_json
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0 / 1K tokens Uitvoer · Uitvoertokens $0 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
Gebruik de hierboven getoonde methodepaden.