Mistral Nemo Instruct 2407 is de op instructies afgestemde editie van het 12B-taalmodel Mistral Nemo. Het is fijnafgestemd vanuit het afzonderlijk benoemde Nemo Base 2407-checkpoint. De ontwikkelaar beschrijft training met een groot aandeel meertalig materiaal en code en een contextvenster van 128k tokens, voor geschreven instructies, gesprekken en programmeertaken.
Belangrijkste kenmerken en architectuur
De release biedt afzonderlijke voorgetrainde en op instructies afgestemde versies. Deze vermelding betreft het Instruct-checkpoint: een tekstaanvraag kan vragen om een uitleg, een herzien document, programmacode of een voorgestelde functieaanroep. De instructieafstemming wordt beschreven als een verbetering van nauwkeurige instructieopvolging, redeneren, gesprekken over meerdere beurten en codegeneratie ten opzichte van de eerdere Mistral 7B-reeks.
Het model heeft 40 Transformer-lagen met een modelbreedte van 5.120. Het gebruikt SwiGLU, 32 attention-koppen en 8 key/value-koppen in grouped-query attention, een kopdimensie van 128 en een verborgen dimensie van 14.336. Rotary embeddings gebruiken een theta-instelling van één miljoen. De vrijgegeven woordenschat heeft 2 tot de macht 17 vermeldingen, oftewel 131.072; die woordenschatgrootte staat los van de aanduiding 128k voor de taakcontext.
De aankondiging van de ontwikkelaar beschrijft ook quantization-aware training en FP8-inferentie. Dit zijn kenmerken van de release en de numerieke precisie, geen aanvullende inhoudsmodaliteiten. Behoud het exacte checkpoint en de bijpassende tokenizer in plaats van een ander 12B-model of model uit de Mistral-familie als dezelfde editie te behandelen.
Meertalige tekst en Tekken
De release legt de nadruk op Engels, Frans, Duits, Spaans, Italiaans, Portugees, Chinees, Japans, Koreaans, Arabisch en Hindi; Russisch staat daarnaast in de taalmetadata van de modelkaart. Bepaal de eindtaal, de doelgroep en de terminologie voordat je om een resultaat vraagt. Behoud bij een meertalige documenttaak namen, identificaties en eenheden en pas de omringende tekst aan.
Nemo gebruikt de Tekken-tokenizer, getraind op meer dan 100 talen en ontworpen om natuurlijke taal en broncode efficiënt te representeren. De tokenizer beïnvloedt hoeveel context het bronmateriaal inneemt; een aantal tekens is dus op zichzelf geen aantal tokens. Gebruik de bijpassende tokenizer en houd het relevante taakmateriaal bij elkaar in plaats van de context alleen te schatten op basis van de zichtbare lengte van een passage.
Instructies en code voorbereiden
Geef voor een documentuitleg de bronpassage en benoem de uit te leggen voorwaarde of term. Vraag de uitleg in de taal van de lezer, met behoud van de oorspronkelijke namen en de bronbewering die het antwoord ondersteunt. Geef voor een bewerking aan welke betekenis en voorwaarden in de herschrijving behouden moeten blijven en of het resultaat alleen de herziene passage moet bevatten of ook een uitleg.
Benoem voor een programmeertaak de taal, de invoertypen, de verwachte uitvoer en de bestaande interface. Voeg de functie of declaraties toe die de wijziging bepalen. Een nuttig resultaat kan de implementatie, de aannames en voorbeeldinvoer met verwachte uitvoer bevatten. Een afzonderlijke vraag kan het model één invoer door de aangeleverde code laten volgen, zodat de uitleg betrekking heeft op een concreet pad in plaats van op een onbepaald programma.
Bewaar in een gesprek over meerdere beurten het relevante eerdere antwoord en stel een gerichte vervolgvraag of geef nieuw materiaal dat de taak verandert. Bepaal of het volgende antwoord het eerdere resultaat moet herzien, één beslissing moet uitleggen of dezelfde bronfeiten anders moet weergeven. Zo wordt de voortzetting van het gesprek expliciet.
Functieaanroepen en sampling
De ontwikkelaar documenteert functieaanroepen met het bijpassende gespreksformaat. Het model genereert de voorgestelde handeling en argumenten; de applicatie voert de functie uit en voegt vóór de volgende generatie het resultaat aan het gesprek toe. De modelkaart vermeldt expliciet dat een ingekort codevoorbeeld niet de volledige cyclus toont, dus de ontbrekende uitvoerings- en resultaatstappen blijven noodzakelijke onderdelen van een applicatie met tools.
In dat gepubliceerde toolformaat bestaan aanroep-ID’s en bijbehorende resultaat-ID’s uit precies negen alfanumerieke tekens. Behoud bij de voorbereiding van het gesprek in het oorspronkelijke formaat de koppeling tussen de handeling en het resultaat. Een omhullende interface kan het gesprek anders weergeven; de eis van de release beschrijft het modelformaat van de ontwikkelaar en geen verzonnen universele clientidentificatie.
De ontwikkelaar beveelt een temperature van 0.3 aan en vermeldt dat Nemo lagere temperaturen gebruikt dan eerdere Mistral-modellen. De verschillende instellingen van 64, 128, 256 en 1.000 tokens in voorbeelden zijn generatiekeuzes voor die demonstraties en geen afzonderlijk gepubliceerde maximale antwoordcapaciteiten.
Inhoudelijke beperkingen
De Instruct-modelkaart beschrijft dit checkpoint als een demonstratie van fijnafstemming van het basismodel en vermeldt expliciet dat het geen moderatiemechanisme bevat. Applicaties die gemodereerd gedrag nodig hebben, moeten dat in het omringende systeem aanbieden. Dit is een eigenschap van het vrijgegeven checkpoint en geen bewering over elke dienst die een Nemo-model host.
Nemo’s hier gedocumenteerde taak is tekstgeneratie, met een eigen context van 128k en een eigen gespreksformaat. Beeldbegrip, spraaktranscriptie en hybride redeneerinstellingen uit latere Mistral-families mogen niet aan deze editie worden toegeschreven. Geef de volledige geschreven voorwaarde, het relevante bronmateriaal en het vereiste eindresultaat zodat de uitvoer bruikbaar blijft als uitleg, herziene tekst of voorgestelde implementatie.
", "aboutText": "Mistral Nemo Instruct 2407 is de op instructies afgestemde editie van het 12B-taalmodel Mistral Nemo. Het is fijnafgestemd vanuit het afzonderlijk benoemde Nemo Base 2407-checkpoint. De ontwikkelaar beschrijft training met een groot aandeel meertalig materiaal en code en een contextvenster van 128k tokens, voor geschreven instructies, gesprekken en programmeertaken.\n\nBelangrijkste kenmerken en architectuur\n\nDe release biedt afzonderlijke voorgetrainde en op instructies afgestemde versies. Deze vermelding betreft het Instruct-checkpoint: een tekstaanvraag kan vragen om een uitleg, een herzien document, programmacode of een voorgestelde functieaanroep. De instructieafstemming wordt beschreven als een verbetering van nauwkeurige instructieopvolging, redeneren, gesprekken over meerdere beurten en codegeneratie ten opzichte van de eerdere Mistral 7B-reeks.\n\nHet model heeft 40 Transformer-lagen met een modelbreedte van 5.120. Het gebruikt SwiGLU, 32 attention-koppen en 8 key/value-koppen in grouped-query attention, een kopdimensie van 128 en een verborgen dimensie van 14.336. Rotary embeddings gebruiken een theta-instelling van één miljoen. De vrijgegeven woordenschat heeft 2 tot de macht 17 vermeldingen, oftewel 131.072; die woordenschatgrootte staat los van de aanduiding 128k voor de taakcontext.\n\nDe aankondiging van de ontwikkelaar beschrijft ook quantization-aware training en FP8-inferentie. Dit zijn kenmerken van de release en de numerieke precisie, geen aanvullende inhoudsmodaliteiten. Behoud het exacte checkpoint en de bijpassende tokenizer in plaats van een ander 12B-model of model uit de Mistral-familie als dezelfde editie te behandelen.\n\nMeertalige tekst en Tekken\n\nDe release legt de nadruk op Engels, Frans, Duits, Spaans, Italiaans, Portugees, Chinees, Japans, Koreaans, Arabisch en Hindi; Russisch staat daarnaast in de taalmetadata van de modelkaart. Bepaal de eindtaal, de doelgroep en de terminologie voordat je om een resultaat vraagt. Behoud bij een meertalige documenttaak namen, identificaties en eenheden en pas de omringende tekst aan.\n\nNemo gebruikt de Tekken-tokenizer, getraind op meer dan 100 talen en ontworpen om natuurlijke taal en broncode efficiënt te representeren. De tokenizer beïnvloedt hoeveel context het bronmateriaal inneemt; een aantal tekens is dus op zichzelf geen aantal tokens. Gebruik de bijpassende tokenizer en houd het relevante taakmateriaal bij elkaar in plaats van de context alleen te schatten op basis van de zichtbare lengte van een passage.\n\nInstructies en code voorbereiden\n\nGeef voor een documentuitleg de bronpassage en benoem de uit te leggen voorwaarde of term. Vraag de uitleg in de taal van de lezer, met behoud van de oorspronkelijke namen en de bronbewering die het antwoord ondersteunt. Geef voor een bewerking aan welke betekenis en voorwaarden in de herschrijving behouden moeten blijven en of het resultaat alleen de herziene passage moet bevatten of ook een uitleg.\n\nBenoem voor een programmeertaak de taal, de invoertypen, de verwachte uitvoer en de bestaande interface. Voeg de functie of declaraties toe die de wijziging bepalen. Een nuttig resultaat kan de implementatie, de aannames en voorbeeldinvoer met verwachte uitvoer bevatten. Een afzonderlijke vraag kan het model één invoer door de aangeleverde code laten volgen, zodat de uitleg betrekking heeft op een concreet pad in plaats van op een onbepaald programma.\n\nBewaar in een gesprek over meerdere beurten het relevante eerdere antwoord en stel een gerichte vervolgvraag of geef nieuw materiaal dat de taak verandert. Bepaal of het volgende antwoord het eerdere resultaat moet herzien, één beslissing moet uitleggen of dezelfde bronfeiten anders moet weergeven. Zo wordt de voortzetting van het gesprek expliciet.\n\nFunctieaanroepen en sampling\n\nDe ontwikkelaar documenteert functieaanroepen met het bijpassende gespreksformaat. Het model genereert de voorgestelde handeling en argumenten; de applicatie voert de functie uit en voegt vóór de volgende generatie het resultaat aan het gesprek toe. De modelkaart vermeldt expliciet dat een ingekort codevoorbeeld niet de volledige cyclus toont, dus de ontbrekende uitvoerings- en resultaatstappen blijven noodzakelijke onderdelen van een applicatie met tools.\n\nIn dat gepubliceerde toolformaat bestaan aanroep-ID’s en bijbehorende resultaat-ID’s uit precies negen alfanumerieke tekens. Behoud bij de voorbereiding van het gesprek in het oorspronkelijke formaat de koppeling tussen de handeling en het resultaat. Een omhullende interface kan het gesprek anders weergeven; de eis van de release beschrijft het modelformaat van de ontwikkelaar en geen verzonnen universele clientidentificatie.\n\nDe ontwikkelaar beveelt een temperature van 0.3 aan en vermeldt dat Nemo lagere temperaturen gebruikt dan eerdere Mistral-modellen. De verschillende instellingen van 64, 128, 256 en 1.000 tokens in voorbeelden zijn generatiekeuzes voor die demonstraties en geen afzonderlijk gepubliceerde maximale antwoordcapaciteiten.\n\nInhoudelijke beperkingen\n\nDe Instruct-modelkaart beschrijft dit checkpoint als een demonstratie van fijnafstemming van het basismodel en vermeldt expliciet dat het geen moderatiemechanisme bevat. Applicaties die gemodereerd gedrag nodig hebben, moeten dat in het omringende systeem aanbieden. Dit is een eigenschap van het vrijgegeven checkpoint en geen bewering over elke dienst die een Nemo-model host.\n\nNemo’s hier gedocumenteerde taak is tekstgeneratie, met een eigen context van 128k en een eigen gespreksformaat. Beeldbegrip, spraaktranscriptie en hybride redeneerinstellingen uit latere Mistral-families mogen niet aan deze editie worden toegeschreven. Geef de volledige geschreven voorwaarde, het relevante bronmateriaal en het vereiste eindresultaat zodat de uitvoer bruikbaar blijft als uitleg, herziene tekst of voorgestelde implementatie.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.mistralai/mistral-nemoMistral Nemo Instruct 2407 is een meertalig tekstmodel met 12 miljard parameters voor nauwkeurige instructies, conversatie over meerdere beurten en code. Het heeft een door de maker opgegeven context van 128k, een Tekken-tokenizer, gedocumenteerde functieaanroepen en een eigen op instructies afgestemd checkpoint met eigen samplingrichtlijnen.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mistral Nemo Instruct 2407 is de op instructies afgestemde editie van het 12B-taalmodel Mistral Nemo. Het is fijnafgestemd vanuit het afzonderlijk benoemde Nemo Base 2407-checkpoint. De ontwikkelaar beschrijft training met een groot aandeel meertalig materiaal en code en een contextvenster van 128k tokens, voor geschreven instructies, gesprekken en programmeertaken.
Belangrijkste kenmerken en architectuur
De release biedt afzonderlijke voorgetrainde en op instructies afgestemde versies. Deze vermelding betreft het Instruct-checkpoint: een tekstaanvraag kan vragen om een uitleg, een herzien document, programmacode of een voorgestelde functieaanroep. De instructieafstemming wordt beschreven als een verbetering van nauwkeurige instructieopvolging, redeneren, gesprekken over meerdere beurten en codegeneratie ten opzichte van de eerdere Mistral 7B-reeks.
Het model heeft 40 Transformer-lagen met een modelbreedte van 5.120. Het gebruikt SwiGLU, 32 attention-koppen en 8 key/value-koppen in grouped-query attention, een kopdimensie van 128 en een verborgen dimensie van 14.336. Rotary embeddings gebruiken een theta-instelling van één miljoen. De vrijgegeven woordenschat heeft 2 tot de macht 17 vermeldingen, oftewel 131.072; die woordenschatgrootte staat los van de aanduiding 128k voor de taakcontext.
De aankondiging van de ontwikkelaar beschrijft ook quantization-aware training en FP8-inferentie. Dit zijn kenmerken van de release en de numerieke precisie, geen aanvullende inhoudsmodaliteiten. Behoud het exacte checkpoint en de bijpassende tokenizer in plaats van een ander 12B-model of model uit de Mistral-familie als dezelfde editie te behandelen.
Meertalige tekst en Tekken
De release legt de nadruk op Engels, Frans, Duits, Spaans, Italiaans, Portugees, Chinees, Japans, Koreaans, Arabisch en Hindi; Russisch staat daarnaast in de taalmetadata van de modelkaart. Bepaal de eindtaal, de doelgroep en de terminologie voordat je om een resultaat vraagt. Behoud bij een meertalige documenttaak namen, identificaties en eenheden en pas de omringende tekst aan.
Nemo gebruikt de Tekken-tokenizer, getraind op meer dan 100 talen en ontworpen om natuurlijke taal en broncode efficiënt te representeren. De tokenizer beïnvloedt hoeveel context het bronmateriaal inneemt; een aantal tekens is dus op zichzelf geen aantal tokens. Gebruik de bijpassende tokenizer en houd het relevante taakmateriaal bij elkaar in plaats van de context alleen te schatten op basis van de zichtbare lengte van een passage.
Instructies en code voorbereiden
Geef voor een documentuitleg de bronpassage en benoem de uit te leggen voorwaarde of term. Vraag de uitleg in de taal van de lezer, met behoud van de oorspronkelijke namen en de bronbewering die het antwoord ondersteunt. Geef voor een bewerking aan welke betekenis en voorwaarden in de herschrijving behouden moeten blijven en of het resultaat alleen de herziene passage moet bevatten of ook een uitleg.
Benoem voor een programmeertaak de taal, de invoertypen, de verwachte uitvoer en de bestaande interface. Voeg de functie of declaraties toe die de wijziging bepalen. Een nuttig resultaat kan de implementatie, de aannames en voorbeeldinvoer met verwachte uitvoer bevatten. Een afzonderlijke vraag kan het model één invoer door de aangeleverde code laten volgen, zodat de uitleg betrekking heeft op een concreet pad in plaats van op een onbepaald programma.
Bewaar in een gesprek over meerdere beurten het relevante eerdere antwoord en stel een gerichte vervolgvraag of geef nieuw materiaal dat de taak verandert. Bepaal of het volgende antwoord het eerdere resultaat moet herzien, één beslissing moet uitleggen of dezelfde bronfeiten anders moet weergeven. Zo wordt de voortzetting van het gesprek expliciet.
Functieaanroepen en sampling
De ontwikkelaar documenteert functieaanroepen met het bijpassende gespreksformaat. Het model genereert de voorgestelde handeling en argumenten; de applicatie voert de functie uit en voegt vóór de volgende generatie het resultaat aan het gesprek toe. De modelkaart vermeldt expliciet dat een ingekort codevoorbeeld niet de volledige cyclus toont, dus de ontbrekende uitvoerings- en resultaatstappen blijven noodzakelijke onderdelen van een applicatie met tools.
In dat gepubliceerde toolformaat bestaan aanroep-ID’s en bijbehorende resultaat-ID’s uit precies negen alfanumerieke tekens. Behoud bij de voorbereiding van het gesprek in het oorspronkelijke formaat de koppeling tussen de handeling en het resultaat. Een omhullende interface kan het gesprek anders weergeven; de eis van de release beschrijft het modelformaat van de ontwikkelaar en geen verzonnen universele clientidentificatie.
De ontwikkelaar beveelt een temperature van 0.3 aan en vermeldt dat Nemo lagere temperaturen gebruikt dan eerdere Mistral-modellen. De verschillende instellingen van 64, 128, 256 en 1.000 tokens in voorbeelden zijn generatiekeuzes voor die demonstraties en geen afzonderlijk gepubliceerde maximale antwoordcapaciteiten.
Inhoudelijke beperkingen
De Instruct-modelkaart beschrijft dit checkpoint als een demonstratie van fijnafstemming van het basismodel en vermeldt expliciet dat het geen moderatiemechanisme bevat. Applicaties die gemodereerd gedrag nodig hebben, moeten dat in het omringende systeem aanbieden. Dit is een eigenschap van het vrijgegeven checkpoint en geen bewering over elke dienst die een Nemo-model host.
Nemo’s hier gedocumenteerde taak is tekstgeneratie, met een eigen context van 128k en een eigen gespreksformaat. Beeldbegrip, spraaktranscriptie en hybride redeneerinstellingen uit latere Mistral-families mogen niet aan deze editie worden toegeschreven. Geef de volledige geschreven voorwaarde, het relevante bronmateriaal en het vereiste eindresultaat zodat de uitvoer bruikbaar blijft als uitleg, herziene tekst of voorgestelde implementatie.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten mistralai/mistral-nemo | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen $0.00003 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen $0.00003 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra mistralai/mistral-nemo
Gebruik de hierboven getoonde methodepaden.
mistralai/mistral-nemoMistral Nemo Instruct 2407 is een meertalig tekstmodel met 12 miljard parameters voor nauwkeurige instructies, conversatie over meerdere beurten en code. Het heeft een door de maker opgegeven context van 128k, een Tekken-tokenizer, gedocumenteerde functieaanroepen en een eigen op instructies afgestemd checkpoint met eigen samplingrichtlijnen.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mistral Nemo Instruct 2407 is de op instructies afgestemde editie van het 12B-taalmodel Mistral Nemo. Het is fijnafgestemd vanuit het afzonderlijk benoemde Nemo Base 2407-checkpoint. De ontwikkelaar beschrijft training met een groot aandeel meertalig materiaal en code en een contextvenster van 128k tokens, voor geschreven instructies, gesprekken en programmeertaken.
Belangrijkste kenmerken en architectuur
De release biedt afzonderlijke voorgetrainde en op instructies afgestemde versies. Deze vermelding betreft het Instruct-checkpoint: een tekstaanvraag kan vragen om een uitleg, een herzien document, programmacode of een voorgestelde functieaanroep. De instructieafstemming wordt beschreven als een verbetering van nauwkeurige instructieopvolging, redeneren, gesprekken over meerdere beurten en codegeneratie ten opzichte van de eerdere Mistral 7B-reeks.
Het model heeft 40 Transformer-lagen met een modelbreedte van 5.120. Het gebruikt SwiGLU, 32 attention-koppen en 8 key/value-koppen in grouped-query attention, een kopdimensie van 128 en een verborgen dimensie van 14.336. Rotary embeddings gebruiken een theta-instelling van één miljoen. De vrijgegeven woordenschat heeft 2 tot de macht 17 vermeldingen, oftewel 131.072; die woordenschatgrootte staat los van de aanduiding 128k voor de taakcontext.
De aankondiging van de ontwikkelaar beschrijft ook quantization-aware training en FP8-inferentie. Dit zijn kenmerken van de release en de numerieke precisie, geen aanvullende inhoudsmodaliteiten. Behoud het exacte checkpoint en de bijpassende tokenizer in plaats van een ander 12B-model of model uit de Mistral-familie als dezelfde editie te behandelen.
Meertalige tekst en Tekken
De release legt de nadruk op Engels, Frans, Duits, Spaans, Italiaans, Portugees, Chinees, Japans, Koreaans, Arabisch en Hindi; Russisch staat daarnaast in de taalmetadata van de modelkaart. Bepaal de eindtaal, de doelgroep en de terminologie voordat je om een resultaat vraagt. Behoud bij een meertalige documenttaak namen, identificaties en eenheden en pas de omringende tekst aan.
Nemo gebruikt de Tekken-tokenizer, getraind op meer dan 100 talen en ontworpen om natuurlijke taal en broncode efficiënt te representeren. De tokenizer beïnvloedt hoeveel context het bronmateriaal inneemt; een aantal tekens is dus op zichzelf geen aantal tokens. Gebruik de bijpassende tokenizer en houd het relevante taakmateriaal bij elkaar in plaats van de context alleen te schatten op basis van de zichtbare lengte van een passage.
Instructies en code voorbereiden
Geef voor een documentuitleg de bronpassage en benoem de uit te leggen voorwaarde of term. Vraag de uitleg in de taal van de lezer, met behoud van de oorspronkelijke namen en de bronbewering die het antwoord ondersteunt. Geef voor een bewerking aan welke betekenis en voorwaarden in de herschrijving behouden moeten blijven en of het resultaat alleen de herziene passage moet bevatten of ook een uitleg.
Benoem voor een programmeertaak de taal, de invoertypen, de verwachte uitvoer en de bestaande interface. Voeg de functie of declaraties toe die de wijziging bepalen. Een nuttig resultaat kan de implementatie, de aannames en voorbeeldinvoer met verwachte uitvoer bevatten. Een afzonderlijke vraag kan het model één invoer door de aangeleverde code laten volgen, zodat de uitleg betrekking heeft op een concreet pad in plaats van op een onbepaald programma.
Bewaar in een gesprek over meerdere beurten het relevante eerdere antwoord en stel een gerichte vervolgvraag of geef nieuw materiaal dat de taak verandert. Bepaal of het volgende antwoord het eerdere resultaat moet herzien, één beslissing moet uitleggen of dezelfde bronfeiten anders moet weergeven. Zo wordt de voortzetting van het gesprek expliciet.
Functieaanroepen en sampling
De ontwikkelaar documenteert functieaanroepen met het bijpassende gespreksformaat. Het model genereert de voorgestelde handeling en argumenten; de applicatie voert de functie uit en voegt vóór de volgende generatie het resultaat aan het gesprek toe. De modelkaart vermeldt expliciet dat een ingekort codevoorbeeld niet de volledige cyclus toont, dus de ontbrekende uitvoerings- en resultaatstappen blijven noodzakelijke onderdelen van een applicatie met tools.
In dat gepubliceerde toolformaat bestaan aanroep-ID’s en bijbehorende resultaat-ID’s uit precies negen alfanumerieke tekens. Behoud bij de voorbereiding van het gesprek in het oorspronkelijke formaat de koppeling tussen de handeling en het resultaat. Een omhullende interface kan het gesprek anders weergeven; de eis van de release beschrijft het modelformaat van de ontwikkelaar en geen verzonnen universele clientidentificatie.
De ontwikkelaar beveelt een temperature van 0.3 aan en vermeldt dat Nemo lagere temperaturen gebruikt dan eerdere Mistral-modellen. De verschillende instellingen van 64, 128, 256 en 1.000 tokens in voorbeelden zijn generatiekeuzes voor die demonstraties en geen afzonderlijk gepubliceerde maximale antwoordcapaciteiten.
Inhoudelijke beperkingen
De Instruct-modelkaart beschrijft dit checkpoint als een demonstratie van fijnafstemming van het basismodel en vermeldt expliciet dat het geen moderatiemechanisme bevat. Applicaties die gemodereerd gedrag nodig hebben, moeten dat in het omringende systeem aanbieden. Dit is een eigenschap van het vrijgegeven checkpoint en geen bewering over elke dienst die een Nemo-model host.
Nemo’s hier gedocumenteerde taak is tekstgeneratie, met een eigen context van 128k en een eigen gespreksformaat. Beeldbegrip, spraaktranscriptie en hybride redeneerinstellingen uit latere Mistral-families mogen niet aan deze editie worden toegeschreven. Geef de volledige geschreven voorwaarde, het relevante bronmateriaal en het vereiste eindresultaat zodat de uitvoer bruikbaar blijft als uitleg, herziene tekst of voorgestelde implementatie.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten mistralai/mistral-nemo | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen $0.00003 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen $0.00003 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "mistralai/mistral-nemo",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra mistralai/mistral-nemo
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.