Mistral Nemo Instruct 2407 är den instruktionsanpassade utgåvan av språkmodellen Mistral Nemo på 12B. Den har finjusterats från den separat namngivna kontrollpunkten Nemo Base 2407. Tillverkaren beskriver träning med en stor andel flerspråkigt material och kod samt ett kontextfönster på 128k token, med stöd för skrivna instruktioner, konversation och programmeringsuppgifter.
Viktiga egenskaper och arkitektur
Utgåvan tillhandahåller separata förtränade och instruktionsanpassade versioner. Denna post gäller Instruct-kontrollpunkten: en textförfrågan kan be om en förklaring, ett reviderat dokument, programkod eller ett föreslaget funktionsanrop. Instruktionsanpassningen beskrivs som en förbättring av exakt instruktionsföljande, resonemang, dialog över flera turer och kodgenerering jämfört med den föregående Mistral 7B-linjen.
Modellen har 40 Transformer-lager med en modellbredd på 5,120. Den använder SwiGLU, 32 uppmärksamhetshuvuden och 8 nyckel/värde-huvuden i grupperad frågeuppmärksamhet, en huvuddimension på 128 och en dold dimension på 14,336. Roterande inbäddningar använder theta-inställningen en miljon. Den publicerade vokabulären har 2 upphöjt till 17 poster, eller 131,072; den vokabulärstorleken är skild från uppgiftskontextens beteckning 128k.
Tillverkarens tillkännagivande beskriver också kvantiseringsmedveten träning och FP8-inferens. Detta är egenskaper hos utgåvan och precisionen, inte ytterligare innehållsmodaliteter. Bevara den exakta kontrollpunkten och motsvarande tokeniserare i stället för att behandla en annan 12B-modell eller modell i Mistral-familjen som samma utgåva.
Flerspråkig text och Tekken
Utgåvan betonar engelska, franska, tyska, spanska, italienska, portugisiska, kinesiska, japanska, koreanska, arabiska och hindi, medan ryska finns med i modellkortets språkmetadata. Ange slutspråk, avsedd målgrupp och terminologi innan du ber om ett resultat. För en flerspråkig dokumentuppgift behåller du namn, identifierare och enheter oförändrade och anpassar den omgivande texten.
Nemo använder tokeniseraren Tekken, tränad på fler än 100 språk och utformad för att effektivt representera naturligt språk och källkod. Tokeniseraren påverkar hur källmaterialet tar plats i kontexten; ett teckenantal är därför inte i sig ett tokenantal. Använd motsvarande tokeniserare och håll uppgiftens relevanta material samlat i stället för att uppskatta kontexten enbart från ett avsnitts synliga längd.
Förberedelse av instruktioner och kod
För en dokumentförklaring tillhandahåller du källavsnittet och identifierar villkoret eller termen som ska förklaras. Begär förklaringen på läsarens språk samtidigt som ursprungliga namn och det källpåstående som stödjer svaret behålls. För redigering anger du vilken innebörd och vilka villkor som måste överleva omskrivningen och om resultatet bara ska vara det reviderade avsnittet eller ett avsnitt med förklaring.
För en koduppgift namnger du språk, indatatyper, förväntade utdata och befintligt gränssnitt. Inkludera funktionen eller deklarationerna som avgör ändringen. Ett användbart resultat kan innehålla implementationen, dess antaganden och exempelindata med förväntade utdata. En separat fråga kan be modellen följa en indata genom den tillhandahållna koden så att förklaringen gäller en konkret väg i stället för ett ospecificerat program.
För en konversation med flera turer behåller du relevant tidigare svar och ställer en fokuserad följdfråga eller tillför nytt material som ändrar uppgiften. Definiera om nästa svar ska revidera det tidigare resultatet, förklara ett beslut eller producera en annan representation av samma källfakta. Det gör konversationens fortsättning tydlig.
Funktionsanrop och sampling
Tillverkaren dokumenterar funktionsanrop med det motsvarande konversationsformatet. Modellen genererar den föreslagna operationen och argumenten, medan applikationen kör funktionen och lägger till dess resultat i konversationen före nästa generering. Kortet noterar uttryckligen att ett förkortat kodexempel inte visar hela cykeln, så de saknade stegen för körning och resultat förblir nödvändiga delar av en verktygsstödd applikation.
I det publicerade verktygsformatet är anrops-ID:n och motsvarande resultat-ID:n exakt nio alfanumeriska tecken. Behåll kopplingen mellan operation och resultat när konversationen i ursprungsformatet förbereds. Ett omslutande gränssnitt kan representera konversationen annorlunda; utgåvans krav beskriver tillverkarens modellformatering snarare än en påhittad universell klientidentifierare.
Tillverkaren rekommenderar temperature 0.3 och noterar att Nemo använder lägre temperaturer än tidigare Mistral-modeller. De olika inställningarna på 64, 128, 256 och 1,000 token som visas i exempel är genereringsval för dessa demonstrationer, inte separat publicerade maximala svarskapaciteter.
Väsentliga begränsningar
Instruct-kortet beskriver kontrollpunkten som en demonstration av finjustering av basmodellen och anger uttryckligen att den inte innehåller någon modereringsmekanism. Applikationer som behöver modererat beteende måste tillhandahålla det i det omgivande systemet. Detta är en egenskap hos den publicerade kontrollpunkten snarare än ett påstående om varje tjänst som driftar en Nemo-modell.
Nemos dokumenterade uppgift här är textgenerering med en egen kontext på 128k och ett eget konversationsformat. Bildförståelse, taltranskription och hybrida resonemangsreglage från senare Mistral-familjer bör inte tilldelas denna utgåva. Tillhandahåll hela det skrivna villkoret, relevant källmaterial och det nödvändiga slutresultatet så att resultatet förblir användbart som förklaring, reviderad text eller föreslagen implementation.
", "aboutText": "Mistral Nemo Instruct 2407 är den instruktionsanpassade utgåvan av språkmodellen Mistral Nemo på 12B. Den har finjusterats från den separat namngivna kontrollpunkten Nemo Base 2407. Tillverkaren beskriver träning med en stor andel flerspråkigt material och kod samt ett kontextfönster på 128k token, med stöd för skrivna instruktioner, konversation och programmeringsuppgifter.\n\nViktiga egenskaper och arkitektur\n\nUtgåvan tillhandahåller separata förtränade och instruktionsanpassade versioner. Denna post gäller Instruct-kontrollpunkten: en textförfrågan kan be om en förklaring, ett reviderat dokument, programkod eller ett föreslaget funktionsanrop. Instruktionsanpassningen beskrivs som en förbättring av exakt instruktionsföljande, resonemang, dialog över flera turer och kodgenerering jämfört med den föregående Mistral 7B-linjen.\n\nModellen har 40 Transformer-lager med en modellbredd på 5,120. Den använder SwiGLU, 32 uppmärksamhetshuvuden och 8 nyckel/värde-huvuden i grupperad frågeuppmärksamhet, en huvuddimension på 128 och en dold dimension på 14,336. Roterande inbäddningar använder theta-inställningen en miljon. Den publicerade vokabulären har 2 upphöjt till 17 poster, eller 131,072; den vokabulärstorleken är skild från uppgiftskontextens beteckning 128k.\n\nTillverkarens tillkännagivande beskriver också kvantiseringsmedveten träning och FP8-inferens. Detta är egenskaper hos utgåvan och precisionen, inte ytterligare innehållsmodaliteter. Bevara den exakta kontrollpunkten och motsvarande tokeniserare i stället för att behandla en annan 12B-modell eller modell i Mistral-familjen som samma utgåva.\n\nFlerspråkig text och Tekken\n\nUtgåvan betonar engelska, franska, tyska, spanska, italienska, portugisiska, kinesiska, japanska, koreanska, arabiska och hindi, medan ryska finns med i modellkortets språkmetadata. Ange slutspråk, avsedd målgrupp och terminologi innan du ber om ett resultat. För en flerspråkig dokumentuppgift behåller du namn, identifierare och enheter oförändrade och anpassar den omgivande texten.\n\nNemo använder tokeniseraren Tekken, tränad på fler än 100 språk och utformad för att effektivt representera naturligt språk och källkod. Tokeniseraren påverkar hur källmaterialet tar plats i kontexten; ett teckenantal är därför inte i sig ett tokenantal. Använd motsvarande tokeniserare och håll uppgiftens relevanta material samlat i stället för att uppskatta kontexten enbart från ett avsnitts synliga längd.\n\nFörberedelse av instruktioner och kod\n\nFör en dokumentförklaring tillhandahåller du källavsnittet och identifierar villkoret eller termen som ska förklaras. Begär förklaringen på läsarens språk samtidigt som ursprungliga namn och det källpåstående som stödjer svaret behålls. För redigering anger du vilken innebörd och vilka villkor som måste överleva omskrivningen och om resultatet bara ska vara det reviderade avsnittet eller ett avsnitt med förklaring.\n\nFör en koduppgift namnger du språk, indatatyper, förväntade utdata och befintligt gränssnitt. Inkludera funktionen eller deklarationerna som avgör ändringen. Ett användbart resultat kan innehålla implementationen, dess antaganden och exempelindata med förväntade utdata. En separat fråga kan be modellen följa en indata genom den tillhandahållna koden så att förklaringen gäller en konkret väg i stället för ett ospecificerat program.\n\nFör en konversation med flera turer behåller du relevant tidigare svar och ställer en fokuserad följdfråga eller tillför nytt material som ändrar uppgiften. Definiera om nästa svar ska revidera det tidigare resultatet, förklara ett beslut eller producera en annan representation av samma källfakta. Det gör konversationens fortsättning tydlig.\n\nFunktionsanrop och sampling\n\nTillverkaren dokumenterar funktionsanrop med det motsvarande konversationsformatet. Modellen genererar den föreslagna operationen och argumenten, medan applikationen kör funktionen och lägger till dess resultat i konversationen före nästa generering. Kortet noterar uttryckligen att ett förkortat kodexempel inte visar hela cykeln, så de saknade stegen för körning och resultat förblir nödvändiga delar av en verktygsstödd applikation.\n\nI det publicerade verktygsformatet är anrops-ID:n och motsvarande resultat-ID:n exakt nio alfanumeriska tecken. Behåll kopplingen mellan operation och resultat när konversationen i ursprungsformatet förbereds. Ett omslutande gränssnitt kan representera konversationen annorlunda; utgåvans krav beskriver tillverkarens modellformatering snarare än en påhittad universell klientidentifierare.\n\nTillverkaren rekommenderar temperature 0.3 och noterar att Nemo använder lägre temperaturer än tidigare Mistral-modeller. De olika inställningarna på 64, 128, 256 och 1,000 token som visas i exempel är genereringsval för dessa demonstrationer, inte separat publicerade maximala svarskapaciteter.\n\nVäsentliga begränsningar\n\nInstruct-kortet beskriver kontrollpunkten som en demonstration av finjustering av basmodellen och anger uttryckligen att den inte innehåller någon modereringsmekanism. Applikationer som behöver modererat beteende måste tillhandahålla det i det omgivande systemet. Detta är en egenskap hos den publicerade kontrollpunkten snarare än ett påstående om varje tjänst som driftar en Nemo-modell.\n\nNemos dokumenterade uppgift här är textgenerering med en egen kontext på 128k och ett eget konversationsformat. Bildförståelse, taltranskription och hybrida resonemangsreglage från senare Mistral-familjer bör inte tilldelas denna utgåva. Tillhandahåll hela det skrivna villkoret, relevant källmaterial och det nödvändiga slutresultatet så att resultatet förblir användbart som förklaring, reviderad text eller föreslagen implementation.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.mistralai/mistral-nemoMistral Nemo Instruct 2407 är en flerspråkig textmodell med 12 miljarder parametrar för precisa instruktioner, samtal med flera turer och kod. Den har en kontext på 128k token enligt tillverkaren, en Tekken-tokenizer, dokumenterade funktionsanrop och en separat instruktionsanpassad modellversion med egen samplingsvägledning.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Mistral Nemo Instruct 2407 är den instruktionsanpassade utgåvan av språkmodellen Mistral Nemo på 12B. Den har finjusterats från den separat namngivna kontrollpunkten Nemo Base 2407. Tillverkaren beskriver träning med en stor andel flerspråkigt material och kod samt ett kontextfönster på 128k token, med stöd för skrivna instruktioner, konversation och programmeringsuppgifter.
Viktiga egenskaper och arkitektur
Utgåvan tillhandahåller separata förtränade och instruktionsanpassade versioner. Denna post gäller Instruct-kontrollpunkten: en textförfrågan kan be om en förklaring, ett reviderat dokument, programkod eller ett föreslaget funktionsanrop. Instruktionsanpassningen beskrivs som en förbättring av exakt instruktionsföljande, resonemang, dialog över flera turer och kodgenerering jämfört med den föregående Mistral 7B-linjen.
Modellen har 40 Transformer-lager med en modellbredd på 5,120. Den använder SwiGLU, 32 uppmärksamhetshuvuden och 8 nyckel/värde-huvuden i grupperad frågeuppmärksamhet, en huvuddimension på 128 och en dold dimension på 14,336. Roterande inbäddningar använder theta-inställningen en miljon. Den publicerade vokabulären har 2 upphöjt till 17 poster, eller 131,072; den vokabulärstorleken är skild från uppgiftskontextens beteckning 128k.
Tillverkarens tillkännagivande beskriver också kvantiseringsmedveten träning och FP8-inferens. Detta är egenskaper hos utgåvan och precisionen, inte ytterligare innehållsmodaliteter. Bevara den exakta kontrollpunkten och motsvarande tokeniserare i stället för att behandla en annan 12B-modell eller modell i Mistral-familjen som samma utgåva.
Flerspråkig text och Tekken
Utgåvan betonar engelska, franska, tyska, spanska, italienska, portugisiska, kinesiska, japanska, koreanska, arabiska och hindi, medan ryska finns med i modellkortets språkmetadata. Ange slutspråk, avsedd målgrupp och terminologi innan du ber om ett resultat. För en flerspråkig dokumentuppgift behåller du namn, identifierare och enheter oförändrade och anpassar den omgivande texten.
Nemo använder tokeniseraren Tekken, tränad på fler än 100 språk och utformad för att effektivt representera naturligt språk och källkod. Tokeniseraren påverkar hur källmaterialet tar plats i kontexten; ett teckenantal är därför inte i sig ett tokenantal. Använd motsvarande tokeniserare och håll uppgiftens relevanta material samlat i stället för att uppskatta kontexten enbart från ett avsnitts synliga längd.
Förberedelse av instruktioner och kod
För en dokumentförklaring tillhandahåller du källavsnittet och identifierar villkoret eller termen som ska förklaras. Begär förklaringen på läsarens språk samtidigt som ursprungliga namn och det källpåstående som stödjer svaret behålls. För redigering anger du vilken innebörd och vilka villkor som måste överleva omskrivningen och om resultatet bara ska vara det reviderade avsnittet eller ett avsnitt med förklaring.
För en koduppgift namnger du språk, indatatyper, förväntade utdata och befintligt gränssnitt. Inkludera funktionen eller deklarationerna som avgör ändringen. Ett användbart resultat kan innehålla implementationen, dess antaganden och exempelindata med förväntade utdata. En separat fråga kan be modellen följa en indata genom den tillhandahållna koden så att förklaringen gäller en konkret väg i stället för ett ospecificerat program.
För en konversation med flera turer behåller du relevant tidigare svar och ställer en fokuserad följdfråga eller tillför nytt material som ändrar uppgiften. Definiera om nästa svar ska revidera det tidigare resultatet, förklara ett beslut eller producera en annan representation av samma källfakta. Det gör konversationens fortsättning tydlig.
Funktionsanrop och sampling
Tillverkaren dokumenterar funktionsanrop med det motsvarande konversationsformatet. Modellen genererar den föreslagna operationen och argumenten, medan applikationen kör funktionen och lägger till dess resultat i konversationen före nästa generering. Kortet noterar uttryckligen att ett förkortat kodexempel inte visar hela cykeln, så de saknade stegen för körning och resultat förblir nödvändiga delar av en verktygsstödd applikation.
I det publicerade verktygsformatet är anrops-ID:n och motsvarande resultat-ID:n exakt nio alfanumeriska tecken. Behåll kopplingen mellan operation och resultat när konversationen i ursprungsformatet förbereds. Ett omslutande gränssnitt kan representera konversationen annorlunda; utgåvans krav beskriver tillverkarens modellformatering snarare än en påhittad universell klientidentifierare.
Tillverkaren rekommenderar temperature 0.3 och noterar att Nemo använder lägre temperaturer än tidigare Mistral-modeller. De olika inställningarna på 64, 128, 256 och 1,000 token som visas i exempel är genereringsval för dessa demonstrationer, inte separat publicerade maximala svarskapaciteter.
Väsentliga begränsningar
Instruct-kortet beskriver kontrollpunkten som en demonstration av finjustering av basmodellen och anger uttryckligen att den inte innehåller någon modereringsmekanism. Applikationer som behöver modererat beteende måste tillhandahålla det i det omgivande systemet. Detta är en egenskap hos den publicerade kontrollpunkten snarare än ett påstående om varje tjänst som driftar en Nemo-modell.
Nemos dokumenterade uppgift här är textgenerering med en egen kontext på 128k och ett eget konversationsformat. Bildförståelse, taltranskription och hybrida resonemangsreglage från senare Mistral-familjer bör inte tilldelas denna utgåva. Tillhandahåll hela det skrivna villkoret, relevant källmaterial och det nödvändiga slutresultatet så att resultatet förblir användbart som förklaring, reviderad text eller föreslagen implementation.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser mistralai/mistral-nemo | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0003 / 1K token Utdata · Utdatatoken $0.0003 / 1K token Indata · Cacheläsning $0.00003 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0003 / 1K token Utdata · Utdatatoken $0.0003 / 1K token Indata · Cacheläsning $0.00003 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra mistralai/mistral-nemo
Använd metodsökvägarna som visas ovan.
mistralai/mistral-nemoMistral Nemo Instruct 2407 är en flerspråkig textmodell med 12 miljarder parametrar för precisa instruktioner, samtal med flera turer och kod. Den har en kontext på 128k token enligt tillverkaren, en Tekken-tokenizer, dokumenterade funktionsanrop och en separat instruktionsanpassad modellversion med egen samplingsvägledning.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Mistral Nemo Instruct 2407 är den instruktionsanpassade utgåvan av språkmodellen Mistral Nemo på 12B. Den har finjusterats från den separat namngivna kontrollpunkten Nemo Base 2407. Tillverkaren beskriver träning med en stor andel flerspråkigt material och kod samt ett kontextfönster på 128k token, med stöd för skrivna instruktioner, konversation och programmeringsuppgifter.
Viktiga egenskaper och arkitektur
Utgåvan tillhandahåller separata förtränade och instruktionsanpassade versioner. Denna post gäller Instruct-kontrollpunkten: en textförfrågan kan be om en förklaring, ett reviderat dokument, programkod eller ett föreslaget funktionsanrop. Instruktionsanpassningen beskrivs som en förbättring av exakt instruktionsföljande, resonemang, dialog över flera turer och kodgenerering jämfört med den föregående Mistral 7B-linjen.
Modellen har 40 Transformer-lager med en modellbredd på 5,120. Den använder SwiGLU, 32 uppmärksamhetshuvuden och 8 nyckel/värde-huvuden i grupperad frågeuppmärksamhet, en huvuddimension på 128 och en dold dimension på 14,336. Roterande inbäddningar använder theta-inställningen en miljon. Den publicerade vokabulären har 2 upphöjt till 17 poster, eller 131,072; den vokabulärstorleken är skild från uppgiftskontextens beteckning 128k.
Tillverkarens tillkännagivande beskriver också kvantiseringsmedveten träning och FP8-inferens. Detta är egenskaper hos utgåvan och precisionen, inte ytterligare innehållsmodaliteter. Bevara den exakta kontrollpunkten och motsvarande tokeniserare i stället för att behandla en annan 12B-modell eller modell i Mistral-familjen som samma utgåva.
Flerspråkig text och Tekken
Utgåvan betonar engelska, franska, tyska, spanska, italienska, portugisiska, kinesiska, japanska, koreanska, arabiska och hindi, medan ryska finns med i modellkortets språkmetadata. Ange slutspråk, avsedd målgrupp och terminologi innan du ber om ett resultat. För en flerspråkig dokumentuppgift behåller du namn, identifierare och enheter oförändrade och anpassar den omgivande texten.
Nemo använder tokeniseraren Tekken, tränad på fler än 100 språk och utformad för att effektivt representera naturligt språk och källkod. Tokeniseraren påverkar hur källmaterialet tar plats i kontexten; ett teckenantal är därför inte i sig ett tokenantal. Använd motsvarande tokeniserare och håll uppgiftens relevanta material samlat i stället för att uppskatta kontexten enbart från ett avsnitts synliga längd.
Förberedelse av instruktioner och kod
För en dokumentförklaring tillhandahåller du källavsnittet och identifierar villkoret eller termen som ska förklaras. Begär förklaringen på läsarens språk samtidigt som ursprungliga namn och det källpåstående som stödjer svaret behålls. För redigering anger du vilken innebörd och vilka villkor som måste överleva omskrivningen och om resultatet bara ska vara det reviderade avsnittet eller ett avsnitt med förklaring.
För en koduppgift namnger du språk, indatatyper, förväntade utdata och befintligt gränssnitt. Inkludera funktionen eller deklarationerna som avgör ändringen. Ett användbart resultat kan innehålla implementationen, dess antaganden och exempelindata med förväntade utdata. En separat fråga kan be modellen följa en indata genom den tillhandahållna koden så att förklaringen gäller en konkret väg i stället för ett ospecificerat program.
För en konversation med flera turer behåller du relevant tidigare svar och ställer en fokuserad följdfråga eller tillför nytt material som ändrar uppgiften. Definiera om nästa svar ska revidera det tidigare resultatet, förklara ett beslut eller producera en annan representation av samma källfakta. Det gör konversationens fortsättning tydlig.
Funktionsanrop och sampling
Tillverkaren dokumenterar funktionsanrop med det motsvarande konversationsformatet. Modellen genererar den föreslagna operationen och argumenten, medan applikationen kör funktionen och lägger till dess resultat i konversationen före nästa generering. Kortet noterar uttryckligen att ett förkortat kodexempel inte visar hela cykeln, så de saknade stegen för körning och resultat förblir nödvändiga delar av en verktygsstödd applikation.
I det publicerade verktygsformatet är anrops-ID:n och motsvarande resultat-ID:n exakt nio alfanumeriska tecken. Behåll kopplingen mellan operation och resultat när konversationen i ursprungsformatet förbereds. Ett omslutande gränssnitt kan representera konversationen annorlunda; utgåvans krav beskriver tillverkarens modellformatering snarare än en påhittad universell klientidentifierare.
Tillverkaren rekommenderar temperature 0.3 och noterar att Nemo använder lägre temperaturer än tidigare Mistral-modeller. De olika inställningarna på 64, 128, 256 och 1,000 token som visas i exempel är genereringsval för dessa demonstrationer, inte separat publicerade maximala svarskapaciteter.
Väsentliga begränsningar
Instruct-kortet beskriver kontrollpunkten som en demonstration av finjustering av basmodellen och anger uttryckligen att den inte innehåller någon modereringsmekanism. Applikationer som behöver modererat beteende måste tillhandahålla det i det omgivande systemet. Detta är en egenskap hos den publicerade kontrollpunkten snarare än ett påstående om varje tjänst som driftar en Nemo-modell.
Nemos dokumenterade uppgift här är textgenerering med en egen kontext på 128k och ett eget konversationsformat. Bildförståelse, taltranskription och hybrida resonemangsreglage från senare Mistral-familjer bör inte tilldelas denna utgåva. Tillhandahåll hela det skrivna villkoret, relevant källmaterial och det nödvändiga slutresultatet så att resultatet förblir användbart som förklaring, reviderad text eller föreslagen implementation.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser mistralai/mistral-nemo | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0003 / 1K token Utdata · Utdatatoken $0.0003 / 1K token Indata · Cacheläsning $0.00003 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0003 / 1K token Utdata · Utdatatoken $0.0003 / 1K token Indata · Cacheläsning $0.00003 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "mistralai/mistral-nemo",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra mistralai/mistral-nemo
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.