models

Mistral: Mistral Nemo

Markdown · JSON

Mistral: Mistral Nemo

Mistral Nemo Instruct 2407 – 12 mlrd. parametrų daugiakalbis teksto modelis tikslioms instrukcijoms, kelių ėjimų pokalbiui ir kodui. Jis turi gamintojo nurodytą 128 tūkst. žetonų kontekstą, Tekken žetonizatorių, dokumentuotą funkcijų kvietimą ir atskirą pagal instrukcijas suderintą kontrolinį tašką su savomis generavimo parametrų gairėmis.

Apie modelį

Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.

Mistral Nemo Instruct 2407 – tai pagal instrukcijas suderintas 12B Mistral Nemo kalbinio modelio leidimas. Jis papildomai derintas iš atskirai pavadinto Nemo Base 2407 kontrolinio taško. Gamintojas aprašo mokymą su didele daugiakalbės ir kodo medžiagos dalimi bei 128k žetonų konteksto langą, palaikantį rašytines instrukcijas, pokalbį ir programavimo užduotis.

Pagrindinės savybės ir architektūra

Leidimas turi atskiras iš anksto apmokytą ir pagal instrukcijas suderintą versijas. Šis įrašas skirtas Instruct kontroliniam taškui: tekstine užklausa galima prašyti paaiškinimo, pataisyto dokumento, programos kodo ar siūlomo funkcijos iškvietimo. Derinimas pagal instrukcijas aprašytas kaip gerinantis tikslų instrukcijų laikymąsi, samprotavimą, kelių ėjimų dialogą ir kodo generavimą, palyginti su ankstesne Mistral 7B linija.

Modelis turi 40 Transformer sluoksnių ir 5,120 modelio plotį. Jis naudoja SwiGLU, 32 dėmesio galvutes ir 8 raktų bei reikšmių galvutes grupuotų užklausų dėmesyje, 128 galvutės matmenį ir 14,336 paslėptąjį matmenį. Sukamieji įterpiniai naudoja milijono theta nustatymą. Išleistame žodyne yra 2 pakelta 17 laipsniu įrašų, arba 131,072; šis žodyno dydis skiriasi nuo 128k užduoties konteksto žymos.

Gamintojo pristatyme taip pat aprašytas kvantizaciją įvertinantis mokymas ir FP8 inferencija. Tai leidimo ir tikslumo savybės, o ne papildomi turinio modalumai. Išsaugokite tikslų kontrolinį tašką ir jį atitinkantį žetonizatorių, užuot kitą 12B ar Mistral šeimos modelį laikę tuo pačiu leidimu.

Daugiakalbis tekstas ir Tekken

Leidimas pabrėžia anglų, prancūzų, vokiečių, ispanų, italų, portugalų, kinų, japonų, korėjiečių, arabų ir hindi kalbas, o rusų kalba įtraukta į modelio kortelės kalbų metaduomenis. Prieš prašydami rezultato nustatykite galutinę kalbą, numatomą auditoriją ir terminiją. Daugiakalbio dokumento užduotyje išsaugokite vardus, identifikatorius ir vienetus, pritaikydami aplinkinį tekstą.

Nemo naudoja Tekken žetonizatorių, apmokytą daugiau nei 100 kalbų ir sukurtą efektyviai atvaizduoti natūralią kalbą bei pradinį kodą. Žetonizatorius lemia, kaip pradinė medžiaga užima kontekstą; todėl simbolių skaičius pats savaime nėra žetonų skaičius. Naudokite atitinkamą žetonizatorių ir laikykite kartu užduočiai svarbią medžiagą, užuot vertinę kontekstą vien pagal matomą ištraukos ilgį.

Instrukcijų ir kodo parengimas

Dokumento paaiškinimui pateikite pradinę ištrauką ir nurodykite aiškintiną sąlygą ar terminą. Paprašykite paaiškinimo skaitytojo kalba, išsaugant pradinius vardus ir atsakymą pagrindžiantį šaltinio teiginį. Redagavimui nurodykite, kuri prasmė ir sąlygos turi išlikti perrašant ir ar rezultatą turi sudaryti tik pataisyta ištrauka, ar ištrauka su paaiškinimu.

Programavimo užduočiai įvardykite kalbą, įvesties tipus, numatomą išvestį ir esamą sąsają. Įtraukite funkciją ar deklaracijas, lemiančias pakeitimą. Naudingas rezultatas gali apimti realizaciją, jos prielaidas ir įvesties pavyzdžius su laukiamomis išvestimis. Atskiru klausimu galima paprašyti modelio atsekti vieną įvestį per pateiktą kodą, kad paaiškinimas būtų susietas su konkrečiu keliu, o ne neapibrėžta programa.

Kelių ėjimų pokalbyje išsaugokite svarbų ankstesnį atsakymą ir pateikite konkretų tęstinį klausimą arba naują medžiagą, keičiančią užduotį. Apibrėžkite, ar kitas atsakymas turi pataisyti ankstesnį rezultatą, paaiškinti vieną sprendimą ar pateikti kitokią tų pačių pradinių faktų reprezentaciją. Taip pokalbio tęsinys tampa aiškus.

Funkcijų iškvietimas ir atranka

Gamintojas dokumentuoja funkcijų iškvietimą, naudojant atitinkamą pokalbio formatą. Modelis generuoja siūlomą operaciją ir argumentus, o programa vykdo funkciją ir prieš kitą generavimą įtraukia jos rezultatą į pokalbį. Kortelėje aiškiai pažymėta, kad sutrumpintas kodo pavyzdys neparodo viso ciklo, todėl praleisti vykdymo ir rezultato etapai išlieka būtinos programos su įrankiais dalys.

Paskelbtame įrankių formate iškvietimų ID ir juos atitinkančių rezultatų ID turi tiksliai devynis raidinius ir skaitmeninius simbolius. Rengdami vietinio formato pokalbį išsaugokite operacijos ir jos rezultato ryšį. Apvalkalo sąsaja gali kitaip pateikti pokalbį; leidimo reikalavimas aprašo gamintojo modelio formatavimą, o ne išgalvotą universalų kliento identifikatorių.

Gamintojas rekomenduoja 0.3 temperature reikšmę ir pažymi, kad Nemo naudoja mažesnes temperatūras nei ankstesni Mistral modeliai. Pavyzdžiuose parodyti įvairūs 64, 128, 256 ir 1,000 žetonų nustatymai yra tų demonstracijų generavimo pasirinkimai, o ne atskirai paskelbtos didžiausios atsakymo talpos.

Esminės ribos

Instruct kortelėje šis kontrolinis taškas aprašytas kaip bazinio modelio papildomo derinimo demonstracija ir aiškiai nurodyta, kad jis neturi moderavimo mechanizmo. Programos, kurioms reikia moderuojamo elgesio, turi jį pateikti aplinkinėje sistemoje. Tai išleisto kontrolinio taško savybė, o ne teiginys apie kiekvieną Nemo modelį teikiančią paslaugą.

Čia dokumentuota Nemo užduotis yra teksto generavimas su savo 128k kontekstu ir pokalbio formatu. Vėlesnių Mistral šeimų vaizdų supratimo, kalbos transkribavimo ir hibridinio samprotavimo valdikliai neturi būti priskirti šiam leidimui. Pateikite visą rašytinę sąlygą, svarbią pradinę medžiagą ir reikalaujamą galutinį rezultatą, kad jis liktų naudingas kaip paaiškinimas, pataisytas tekstas ar siūloma realizacija.

Praktinė užduotis

Praktinė užduotis

Techninis pavyzdys anglų kalba

Trace and repair a loop boundary

Trace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.

Laukiamas rezultatas

A concise trace, a corrected function and three input/output examples.

Rezultato patikra

Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.
Ailoot Ultra · OpenAI pokalbis POST /v1/chat/completions mistralai/mistral-nemo

mistralai/mistral-nemo

Mistral /mistralai/mistral-nemo

Pradžia

Mistral Nemo Instruct 2407 – 12 mlrd. parametrų daugiakalbis teksto modelis tikslioms instrukcijoms, kelių ėjimų pokalbiui ir kodui. Jis turi gamintojo nurodytą 128 tūkst. žetonų kontekstą, Tekken žetonizatorių, dokumentuotą funkcijų kvietimą ir atskirą pagal instrukcijas suderintą kontrolinį tašką su savomis generavimo parametrų gairėmis.

Leidžiamos įvestys
Tekstas
Rezultatai
Tekstas

Prieinama Ailoot · įvestys ir metodai

Ailoot Ultra · OpenAI pokalbis POST /v1/chat/completions
Įvestis
text
Išvestis
text
Išvesties formatas
json arba SSE
LaukasTipasReikalavimasReikšmės ir ribosNumatyta
LaukasmodelTipasstringReikalavimasPrivalomaReikšmės ir ribos
mistralai/mistral-nemo
Numatyta—
LaukasmessagesTipasmessage[]ReikalavimasPrivalomaReikšmės ir ribos
Mažiausias elementų skaičius: 1
Numatyta—
Laukasmessages[].roleTipasstringReikalavimasPrivalomaReikšmės ir ribos
Pavyzdžiai: system, user, assistant, tool, function
Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio.
Priklauso nuo modelio
Numatyta—
Laukasmessages[].contentTipasstring|content_part[]|nullReikalavimasNeprivalomaReikšmės ir ribosNumatyta—
Laukasmessages[].tool_callsTipastool_call[]ReikalavimasNeprivalomaReikšmės ir ribosNumatyta—
Laukasmessages[].tool_call_idTipasstringReikalavimasNeprivalomaReikšmės ir ribos
Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID
Numatyta—
Laukasmessages[].nameTipasstringReikalavimasNeprivalomaReikšmės ir ribosNumatyta—
Laukasmessages[].reasoning_contentTipasstringReikalavimasNeprivalomaReikšmės ir ribos
Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja
Numatyta—
Laukasmessages[].reasoning_detailsTipasobject|arrayReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukasmax_tokensTipasintegerReikalavimasNeprivalomaReikšmės ir ribos
Mažiausia reikšmė: 1
Priklauso nuo modelio
Numatyta—
Laukasmax_completion_tokensTipasintegerReikalavimasNeprivalomaReikšmės ir ribos
Mažiausia reikšmė: 1
Priklauso nuo modelio
Numatyta—
LaukasstreamTipasbooleanReikalavimasNeprivalomaReikšmės ir ribosNumatytafalse
Laukasstream_options.include_usageTipasbooleanReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
LaukastemperatureTipasnumberReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukastop_pTipasnumberReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
LaukasstopTipasstring|string[]ReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
LaukastoolsTipasfunction_tool[]ReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukastools[].typeTipasstringReikalavimasNeprivalomaReikšmės ir ribos
function
Priklauso nuo modelio
Numatyta—
Laukastools[].function.nameTipasstringReikalavimasPrivalomaReikšmės ir ribos
Taikoma, kai: pateiktas funkcijos tipo įrankis
Numatyta—
Laukastools[].function.descriptionTipasstringReikalavimasNeprivalomaReikšmės ir ribosNumatyta—
Laukastools[].function.parametersTipasJSON_schemaReikalavimasNeprivalomaReikšmės ir ribosNumatyta—
Laukastool_choiceTipasstring|objectReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukasparallel_tool_callsTipasbooleanReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukasresponse_formatTipasobjectReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukasreasoning_effortTipasstringReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
LaukasreasoningTipasobjectReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukasservice_tierTipasstringReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
LaukasinstructionsTipasstringReikalavimasNeprivalomaReikšmės ir ribos
Suderinamumo laukas
Numatyta—
LaukasfunctionsTipasfunction[]ReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukasfunction_callTipasstring|objectReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
Laukasprompt_cache_optionsTipasobjectReikalavimasNeprivalomaReikšmės ir ribos
Priklauso nuo modelio
Numatyta—
LaukasmodalitiesTipasstring[]ReikalavimasNeprivalomaReikšmės ir ribos
text
Numatyta—
LaukasproviderTipasobjectReikalavimasNeprivalomaReikšmės ir ribos
Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas
Numatyta—
Laukascache_control.ttlTipasstringReikalavimasNeprivalomaReikšmės ir ribos
Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose
Numatyta—
Įvesties medžiagos deriniai

Tekstas · UTF8 tekstas

messages[].content

Metodo parametrai ir gyvavimo ciklas
ParametrasSpecifikacija
Parametrascontent_typeSpecifikacijaapplication/json
ParametrasrequiredSpecifikacijamodel, messages
Parametrasmaterial_typesSpecifikacijatext
ParametrasmessagesSpecifikacijapranešimų masyvas su role/content struktūra
Parametrasfile_materialSpecifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas
Parametrasoptional_controlsSpecifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice
Parametrascontrol_scopeSpecifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių
Parametrasoutput_modalitiesSpecifikacijatext
Parametrashosted_operationsSpecifikacijafalse
Parametrasmultimodal_input_bindingSpecifikacijanull

Gyvavimo ciklas: synchronous_or_streamed

Siųskite tikslų modelio ID kartu su messages.

Konteksto ilgis nėra išvesties limitas.

Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.

Planai

Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.

Spartusis režimas
Standartinis įkainis Pasirinkus spartųjį režimą
Flex režimas
Standartinis įkainis Pasirinkus flex režimą
Didžiausios samprotavimo pastangos
Standartinis įkainis Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)

Ailoot įkainiai

Kainos pagal konfigūraciją

Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.

KonfigūracijaĮkainių lentelėKonteksto tokenų daugiau neiKonteksto tokenų iki imtinaiMokestis
KonfigūracijaBaziniai žetonų įkainiaiĮkainių lentelėBazinis įkainisKonteksto tokenų daugiau nei—Konteksto tokenų iki imtinaiBe viršutinės ribosMokestis
Įvestis · Įvesties tokenai $0.0003 / 1K tokenų
Išvestis · Išvesties tokenai $0.0003 / 1K tokenų
Įvestis · Talpyklos skaitymas $0.00003 / 1K tokenų
Įvestis · Rašymas į talpyklą — / 1K tokenų
Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų
KonfigūracijaUžklausos ilgio pakopa 1Įkainių lentelė—Konteksto tokenų daugiau nei0Konteksto tokenų iki imtinaiBe viršutinės ribosMokestis
Įvestis · Įvesties tokenai $0.0003 / 1K tokenų
Išvestis · Išvesties tokenai $0.0003 / 1K tokenų
Įvestis · Talpyklos skaitymas $0.00003 / 1K tokenų
Įvestis · Rašymas į talpyklą — / 1K tokenų
Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų

Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →

Užklausų pavyzdžiai

Ailoot Ultra · OpenAI pokalbis

curlPython SDKPython srautas
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
    if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(result.to_dict(mode="json"))
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Gauti ir išsaugoti rezultatus

Ailoot Ultra · OpenAI pokalbis

json arba SSE

Išsaugoti visus baigtus rezultatus

Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.

Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.

Jei reikia patikrinti pradinį atsakymą

Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.

Atsakymo laukai
LaukasTipas
Laukaschoices[].indexTipasinteger
Laukaschoices[].message.contentTipasstring|null
Laukaschoices[].message.tool_callsTipastool_call[]
Laukaschoices[].message.reasoning_contentTipasstring
Laukaschoices[].message.reasoning_detailsTipasobject|array
Laukaschoices[].finish_reasonTipasstring|null
LaukasusageTipasobject
Klaidos ir tolesni veiksmai
AtsakymasSąlygaKitas žingsnis
Atsakymas400 · invalid_request_errorSąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmėKitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus.

Pseudonimai

Modelių pseudonimai

Ailoot Ultra mistralai/mistral-nemo

Metodų kelių pseudonimai

Naudokite aukščiau nurodytus metodų kelius.

Susiję ID iškvietimui

mistralai/mistral-nemo

Ailoot Ultra · Anthropic pranešimai POST /v1/messages mistralai/mistral-nemo

mistralai/mistral-nemo

Mistral /mistralai/mistral-nemo

Pradžia

Mistral Nemo Instruct 2407 – 12 mlrd. parametrų daugiakalbis teksto modelis tikslioms instrukcijoms, kelių ėjimų pokalbiui ir kodui. Jis turi gamintojo nurodytą 128 tūkst. žetonų kontekstą, Tekken žetonizatorių, dokumentuotą funkcijų kvietimą ir atskirą pagal instrukcijas suderintą kontrolinį tašką su savomis generavimo parametrų gairėmis.

Leidžiamos įvestys
Tekstas
Rezultatai
json · sse

Prieinama Ailoot · įvestys ir metodai

Ailoot Ultra · Anthropic pranešimai POST /v1/messages
Įvestis
text
Išvestis
json, sse
Išvesties formatas
JSON arba SSE
LaukasTipasReikalavimasReikšmės ir ribosNumatyta
LaukasmodelTipasstringReikalavimasPrivalomaReikšmės ir ribos
mistralai/mistral-nemo
Numatyta—
LaukasmessagesTipasmessage[]ReikalavimasPrivalomaReikšmės ir ribosNumatyta—
Laukasmessages[].roleTipasstringReikalavimasPrivalomaReikšmės ir ribos
user, assistant
Numatyta—
Laukasmessages[].contentTipasstringReikalavimasPrivalomaReikšmės ir ribosNumatyta—
Laukasmax_tokensTipasintegerReikalavimasPrivalomaReikšmės ir ribosNumatyta—
LaukasstreamTipasbooleanReikalavimasNeprivalomaReikšmės ir ribosNumatytafalse
Įvesties medžiagos deriniai

Tekstas · UTF-8 tekstas

messages[].content eilutė

Metodo parametrai ir gyvavimo ciklas
ParametrasSpecifikacija
Parametrascontent_typeSpecifikacijaapplication/json
ParametrasrequiredSpecifikacijamodel, messages, max_tokens
Parametrasoptional_controlsSpecifikacijastream
Parametrasmaterial_typesSpecifikacijatext
Parametrastext_file_materialSpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę.

Gyvavimo ciklas: synchronous_or_streamed

Planai

Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.

Spartusis režimas
Standartinis įkainis Pasirinkus spartųjį režimą
Flex režimas
Standartinis įkainis Pasirinkus flex režimą
Didžiausios samprotavimo pastangos
Standartinis įkainis Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)

Ailoot įkainiai

Kainos pagal konfigūraciją

Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.

KonfigūracijaĮkainių lentelėKonteksto tokenų daugiau neiKonteksto tokenų iki imtinaiMokestis
KonfigūracijaBaziniai žetonų įkainiaiĮkainių lentelėBazinis įkainisKonteksto tokenų daugiau nei—Konteksto tokenų iki imtinaiBe viršutinės ribosMokestis
Įvestis · Įvesties tokenai $0.0003 / 1K tokenų
Išvestis · Išvesties tokenai $0.0003 / 1K tokenų
Įvestis · Talpyklos skaitymas $0.00003 / 1K tokenų
Įvestis · Rašymas į talpyklą — / 1K tokenų
Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų
KonfigūracijaUžklausos ilgio pakopa 1Įkainių lentelė—Konteksto tokenų daugiau nei0Konteksto tokenų iki imtinaiBe viršutinės ribosMokestis
Įvestis · Įvesties tokenai $0.0003 / 1K tokenų
Išvestis · Išvesties tokenai $0.0003 / 1K tokenų
Įvestis · Talpyklos skaitymas $0.00003 / 1K tokenų
Įvestis · Rašymas į talpyklą — / 1K tokenų
Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų

Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →

Užklausų pavyzdžiai

Ailoot Ultra · Anthropic pranešimai

Visas minimalus JSON užklausos turinyscurl · naudokite savo UTF-8 dokumentąPython · išsaugokite visą rezultatą
{
  "model": "mistralai/mistral-nemo",
  "max_tokens": 128,
  "messages": [
    {
      "role": "user",
      "content": "Summarize the incident report."
    }
  ],
  "stream": false
}
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
  -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError

api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
    raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
    with urlopen(request, timeout=120) as response:
        raw = response.read()
        Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
    Path('result.json').write_bytes(error.read())
    Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
    raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))

Gauti ir išsaugoti rezultatus

Ailoot Ultra · Anthropic pranešimai

JSON arba SSE

Išsaugoti visus baigtus rezultatus

Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.

Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.

Jei reikia patikrinti pradinį atsakymą

Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.

Atsakymo laukai
LaukasTipas
LaukasidTipasstring
LaukasmodelTipasstring
Laukascontent[]Tipastext|thinking|tool_use|other content block
Laukasstop_reasonTipasstring|null
LaukasusageTipasobject
Klaidos ir tolesni veiksmai
AtsakymasSąlygaKitas žingsnis
Atsakymas400 · invalid_request_errorSąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmėKitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus.

Pseudonimai

Modelių pseudonimai

Ailoot Ultra mistralai/mistral-nemo

Metodų kelių pseudonimai

Naudokite aukščiau nurodytus metodų kelius.

Susiję ID iškvietimui

mistralai/mistral-nemo

FAQ · Mistral: Mistral Nemo
Kokios įvestys ir rezultatai prieinami?

POST /v1/chat/completions · mistralai/mistral-nemo: text → text

POST /v1/messages · mistralai/mistral-nemo: text → json, sse

Kokius laukus naudoja užklausa?

POST /v1/chat/completions · mistralai/mistral-nemo: model, messages, stream, modalities, provider

POST /v1/messages · mistralai/mistral-nemo: model, messages, max_tokens, stream

Kokie apribojimai taikomi?

POST /v1/chat/completions · mistralai/mistral-nemo: messages.min_items: 1

Išsamiau

Prijunkite Ailoot prie Claude Code, OpenCode, Hermes arba savo programos.

Įmonė ir jos projektų portfelis

Įmonė ir jos projektų portfelis: milijonai klientų; mėnesio pardavimai siekia milijardus.

Pirkite žetonus su nuolaida.

Prenumeratos nuolaida reguliariam darbui. Kodai — iki 50% žetonų pirkimui.

Prenumerata
Pasirinkite planą su nuolaida reguliarioms užklausoms.
Nuolaidos kodas iki 50%
Įveskite kodą perkant. Kaina perskaičiuojama pagal galiojančios akcijos sąlygas.
Išlaidos istorijoje
Kiekvienai užklausai išsaugomi modelis, žetonai ir suma.

Pasirinkti prenumeratą · Peržiūrėti modelių kainas

Prijunkite API prie produkto, kurį parduodate.

SaaS, programos ir botai pagal Ailoot ofertą bei licencijos sutartį. Perpardavimui paprašykite perpardavėjo licencijos.

Komercinė programa
Teksto, vaizdų, video ir garso kūrimą integruokite į mokamas paslaugos funkcijas.
Perpardavėjo licencija
Atsiųskite projekto aprašymą ir prieigos schemą. Paprašykite rašytinių naudojimo ir perpardavimo sąlygų.
Dokumentai svetainėje
Oferta, licencijos sutartis ir duomenų tvarkymo politika prieinamos prieš prisijungiant.

Paprašyti perpardavėjo licencijos · Oferta ir licencijos sutartis