Mistral Nemo Instruct 2407 è l’edizione ottimizzata per le istruzioni del modello linguistico Mistral Nemo 12B. Deriva dal fine-tuning del checkpoint Nemo Base 2407, denominato separatamente. Il produttore descrive un addestramento con una grande quota di materiale multilingue e codice e una finestra di contesto di 128k token, per istruzioni scritte, conversazioni e programmazione.
Caratteristiche principali e architettura
La versione offre varianti preaddestrate e ottimizzate per le istruzioni distinte. Questa voce riguarda il checkpoint Instruct: una richiesta testuale può chiedere una spiegazione, un documento rivisto, codice o una proposta di chiamata a funzione. Il relativo affinamento sulle istruzioni è descritto come un miglioramento, rispetto alla precedente linea Mistral 7B, del rispetto preciso delle istruzioni, del ragionamento, del dialogo a più turni e della generazione di codice.
Il modello ha 40 livelli Transformer con un’ampiezza di 5 120. Usa SwiGLU, 32 teste di attenzione e 8 teste di chiave/valore nell’attenzione a query raggruppate, una dimensione delle teste di 128 e una dimensione nascosta di 14 336. Gli embedding rotatori usano un’impostazione theta di un milione. Il vocabolario pubblicato comprende 2 elevato a 17 voci, ovvero 131 072; la dimensione del vocabolario è distinta dall’etichetta di contesto del compito di 128k.
L’annuncio del produttore descrive anche l’addestramento consapevole della quantizzazione e l’inferenza FP8. Sono caratteristiche della versione e della precisione, non modalità di contenuto aggiuntive. Conserva il checkpoint esatto e il tokenizer corrispondente, anziché considerare un altro modello 12B o della famiglia Mistral come la stessa edizione.
Testo multilingue e Tekken
La versione mette in evidenza inglese, francese, tedesco, spagnolo, italiano, portoghese, cinese, giapponese, coreano, arabo e hindi; il russo è incluso nei metadati linguistici della scheda del modello. Imposta la lingua finale, il pubblico previsto e la terminologia prima di chiedere un risultato. Per un compito su documenti multilingue, mantieni invariati nomi, identificativi e unità, adattando il testo circostante.
Nemo usa il tokenizer Tekken, addestrato su più di 100 lingue e progettato per rappresentare con efficienza il linguaggio naturale e il codice sorgente. Il tokenizer influisce sullo spazio occupato dalle fonti nel contesto; il numero di caratteri non è quindi, da solo, un conteggio dei token. Usa il tokenizer corrispondente e mantieni insieme il materiale pertinente al compito, anziché stimare il contesto solo dalla lunghezza visibile di un passaggio.
Preparazione delle istruzioni e del codice
Per spiegare un documento, fornisci il passaggio sorgente e identifica la condizione o il termine da chiarire. Richiedi la spiegazione nella lingua del lettore, conservando i nomi originali e l’affermazione della fonte che sostiene la risposta. Per la revisione, specifica quali significati e condizioni devono sopravvivere alla riscrittura e se il risultato debba essere il solo passaggio rivisto o un passaggio accompagnato da una spiegazione.
Per un compito di programmazione, indica il linguaggio, i tipi in ingresso, l’uscita attesa e l’interfaccia esistente. Includi la funzione o le dichiarazioni che determinano la modifica. Un risultato utile può contenere l’implementazione, le sue ipotesi ed esempi di ingressi con uscite attese. Una domanda separata può chiedere al modello di seguire un ingresso nel codice fornito, così che la spiegazione riguardi un percorso concreto anziché un programma non specificato.
Per una conversazione a più turni, conserva la risposta precedente pertinente e poni una domanda mirata o fornisci nuovo materiale che cambi il compito. Definisci se la risposta successiva debba rivedere l’artefatto precedente, spiegare una decisione o produrre una rappresentazione diversa degli stessi fatti sorgente. Questo rende esplicita la continuazione della conversazione.
Chiamate a funzione e campionamento
Il produttore documenta le chiamate a funzione con il formato di conversazione corrispondente. Il modello genera l’operazione e gli argomenti proposti, mentre l’applicazione esegue la funzione e aggiunge il risultato alla conversazione prima della generazione successiva. La scheda precisa che un esempio di codice abbreviato non mostra il ciclo completo: le fasi mancanti di esecuzione e restituzione del risultato rimangono quindi parti necessarie di un’applicazione assistita da strumenti.
In quel formato pubblicato, gli identificativi delle chiamate e dei risultati corrispondenti sono composti esattamente da nove caratteri alfanumerici. Mantieni l’associazione tra l’operazione e il risultato quando prepari la conversazione nel formato nativo. Un’interfaccia di adattamento può rappresentare la conversazione diversamente; il requisito della versione descrive la formattazione del modello del produttore, non un identificativo universale inventato per il client.
Il produttore raccomanda una temperatura di 0.3, osservando che Nemo usa temperature inferiori rispetto ai precedenti modelli Mistral. Le diverse impostazioni di 64, 128, 256 e 1 000 token mostrate negli esempi sono scelte di generazione per quelle dimostrazioni, non capacità massime di risposta pubblicate indipendentemente.
Limiti sostanziali
La scheda Instruct descrive questo checkpoint come una dimostrazione di fine-tuning della base e dichiara esplicitamente che non contiene meccanismi di moderazione. Le applicazioni che richiedono un comportamento moderato devono fornirlo nel sistema circostante. È una proprietà del checkpoint pubblicato, non un’affermazione su ogni servizio che ospita un modello Nemo.
Il compito qui documentato per Nemo è la generazione di testo, con il proprio contesto di 128k e formato di conversazione. Non si devono attribuire a questa edizione la comprensione delle immagini, la trascrizione vocale o i controlli di ragionamento ibrido delle famiglie Mistral successive. Fornisci la condizione scritta completa, le fonti pertinenti e l’artefatto finale richiesto, così che il risultato rimanga utilizzabile come spiegazione, testo rivisto o proposta di implementazione.
", "aboutText": "Mistral Nemo Instruct 2407 è l’edizione ottimizzata per le istruzioni del modello linguistico Mistral Nemo 12B. Deriva dal fine-tuning del checkpoint Nemo Base 2407, denominato separatamente. Il produttore descrive un addestramento con una grande quota di materiale multilingue e codice e una finestra di contesto di 128k token, per istruzioni scritte, conversazioni e programmazione.\n\nCaratteristiche principali e architettura\n\nLa versione offre varianti preaddestrate e ottimizzate per le istruzioni distinte. Questa voce riguarda il checkpoint Instruct: una richiesta testuale può chiedere una spiegazione, un documento rivisto, codice o una proposta di chiamata a funzione. Il relativo affinamento sulle istruzioni è descritto come un miglioramento, rispetto alla precedente linea Mistral 7B, del rispetto preciso delle istruzioni, del ragionamento, del dialogo a più turni e della generazione di codice.\n\nIl modello ha 40 livelli Transformer con un’ampiezza di 5 120. Usa SwiGLU, 32 teste di attenzione e 8 teste di chiave/valore nell’attenzione a query raggruppate, una dimensione delle teste di 128 e una dimensione nascosta di 14 336. Gli embedding rotatori usano un’impostazione theta di un milione. Il vocabolario pubblicato comprende 2 elevato a 17 voci, ovvero 131 072; la dimensione del vocabolario è distinta dall’etichetta di contesto del compito di 128k.\n\nL’annuncio del produttore descrive anche l’addestramento consapevole della quantizzazione e l’inferenza FP8. Sono caratteristiche della versione e della precisione, non modalità di contenuto aggiuntive. Conserva il checkpoint esatto e il tokenizer corrispondente, anziché considerare un altro modello 12B o della famiglia Mistral come la stessa edizione.\n\nTesto multilingue e Tekken\n\nLa versione mette in evidenza inglese, francese, tedesco, spagnolo, italiano, portoghese, cinese, giapponese, coreano, arabo e hindi; il russo è incluso nei metadati linguistici della scheda del modello. Imposta la lingua finale, il pubblico previsto e la terminologia prima di chiedere un risultato. Per un compito su documenti multilingue, mantieni invariati nomi, identificativi e unità, adattando il testo circostante.\n\nNemo usa il tokenizer Tekken, addestrato su più di 100 lingue e progettato per rappresentare con efficienza il linguaggio naturale e il codice sorgente. Il tokenizer influisce sullo spazio occupato dalle fonti nel contesto; il numero di caratteri non è quindi, da solo, un conteggio dei token. Usa il tokenizer corrispondente e mantieni insieme il materiale pertinente al compito, anziché stimare il contesto solo dalla lunghezza visibile di un passaggio.\n\nPreparazione delle istruzioni e del codice\n\nPer spiegare un documento, fornisci il passaggio sorgente e identifica la condizione o il termine da chiarire. Richiedi la spiegazione nella lingua del lettore, conservando i nomi originali e l’affermazione della fonte che sostiene la risposta. Per la revisione, specifica quali significati e condizioni devono sopravvivere alla riscrittura e se il risultato debba essere il solo passaggio rivisto o un passaggio accompagnato da una spiegazione.\n\nPer un compito di programmazione, indica il linguaggio, i tipi in ingresso, l’uscita attesa e l’interfaccia esistente. Includi la funzione o le dichiarazioni che determinano la modifica. Un risultato utile può contenere l’implementazione, le sue ipotesi ed esempi di ingressi con uscite attese. Una domanda separata può chiedere al modello di seguire un ingresso nel codice fornito, così che la spiegazione riguardi un percorso concreto anziché un programma non specificato.\n\nPer una conversazione a più turni, conserva la risposta precedente pertinente e poni una domanda mirata o fornisci nuovo materiale che cambi il compito. Definisci se la risposta successiva debba rivedere l’artefatto precedente, spiegare una decisione o produrre una rappresentazione diversa degli stessi fatti sorgente. Questo rende esplicita la continuazione della conversazione.\n\nChiamate a funzione e campionamento\n\nIl produttore documenta le chiamate a funzione con il formato di conversazione corrispondente. Il modello genera l’operazione e gli argomenti proposti, mentre l’applicazione esegue la funzione e aggiunge il risultato alla conversazione prima della generazione successiva. La scheda precisa che un esempio di codice abbreviato non mostra il ciclo completo: le fasi mancanti di esecuzione e restituzione del risultato rimangono quindi parti necessarie di un’applicazione assistita da strumenti.\n\nIn quel formato pubblicato, gli identificativi delle chiamate e dei risultati corrispondenti sono composti esattamente da nove caratteri alfanumerici. Mantieni l’associazione tra l’operazione e il risultato quando prepari la conversazione nel formato nativo. Un’interfaccia di adattamento può rappresentare la conversazione diversamente; il requisito della versione descrive la formattazione del modello del produttore, non un identificativo universale inventato per il client.\n\nIl produttore raccomanda una temperatura di 0.3, osservando che Nemo usa temperature inferiori rispetto ai precedenti modelli Mistral. Le diverse impostazioni di 64, 128, 256 e 1 000 token mostrate negli esempi sono scelte di generazione per quelle dimostrazioni, non capacità massime di risposta pubblicate indipendentemente.\n\nLimiti sostanziali\n\nLa scheda Instruct descrive questo checkpoint come una dimostrazione di fine-tuning della base e dichiara esplicitamente che non contiene meccanismi di moderazione. Le applicazioni che richiedono un comportamento moderato devono fornirlo nel sistema circostante. È una proprietà del checkpoint pubblicato, non un’affermazione su ogni servizio che ospita un modello Nemo.\n\nIl compito qui documentato per Nemo è la generazione di testo, con il proprio contesto di 128k e formato di conversazione. Non si devono attribuire a questa edizione la comprensione delle immagini, la trascrizione vocale o i controlli di ragionamento ibrido delle famiglie Mistral successive. Fornisci la condizione scritta completa, le fonti pertinenti e l’artefatto finale richiesto, così che il risultato rimanga utilizzabile come spiegazione, testo rivisto o proposta di implementazione.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.mistralai/mistral-nemoMistral Nemo Instruct 2407 è un modello testuale multilingue da 12 miliardi di parametri per istruzioni precise, conversazioni a più turni e codice. Ha un contesto di 128k dichiarato dal produttore, un tokenizer Tekken, chiamate di funzione documentate e un checkpoint distinto ottimizzato per seguire istruzioni, con proprie indicazioni di campionamento.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Mistral Nemo Instruct 2407 è l’edizione ottimizzata per le istruzioni del modello linguistico Mistral Nemo 12B. Deriva dal fine-tuning del checkpoint Nemo Base 2407, denominato separatamente. Il produttore descrive un addestramento con una grande quota di materiale multilingue e codice e una finestra di contesto di 128k token, per istruzioni scritte, conversazioni e programmazione.
Caratteristiche principali e architettura
La versione offre varianti preaddestrate e ottimizzate per le istruzioni distinte. Questa voce riguarda il checkpoint Instruct: una richiesta testuale può chiedere una spiegazione, un documento rivisto, codice o una proposta di chiamata a funzione. Il relativo affinamento sulle istruzioni è descritto come un miglioramento, rispetto alla precedente linea Mistral 7B, del rispetto preciso delle istruzioni, del ragionamento, del dialogo a più turni e della generazione di codice.
Il modello ha 40 livelli Transformer con un’ampiezza di 5 120. Usa SwiGLU, 32 teste di attenzione e 8 teste di chiave/valore nell’attenzione a query raggruppate, una dimensione delle teste di 128 e una dimensione nascosta di 14 336. Gli embedding rotatori usano un’impostazione theta di un milione. Il vocabolario pubblicato comprende 2 elevato a 17 voci, ovvero 131 072; la dimensione del vocabolario è distinta dall’etichetta di contesto del compito di 128k.
L’annuncio del produttore descrive anche l’addestramento consapevole della quantizzazione e l’inferenza FP8. Sono caratteristiche della versione e della precisione, non modalità di contenuto aggiuntive. Conserva il checkpoint esatto e il tokenizer corrispondente, anziché considerare un altro modello 12B o della famiglia Mistral come la stessa edizione.
Testo multilingue e Tekken
La versione mette in evidenza inglese, francese, tedesco, spagnolo, italiano, portoghese, cinese, giapponese, coreano, arabo e hindi; il russo è incluso nei metadati linguistici della scheda del modello. Imposta la lingua finale, il pubblico previsto e la terminologia prima di chiedere un risultato. Per un compito su documenti multilingue, mantieni invariati nomi, identificativi e unità, adattando il testo circostante.
Nemo usa il tokenizer Tekken, addestrato su più di 100 lingue e progettato per rappresentare con efficienza il linguaggio naturale e il codice sorgente. Il tokenizer influisce sullo spazio occupato dalle fonti nel contesto; il numero di caratteri non è quindi, da solo, un conteggio dei token. Usa il tokenizer corrispondente e mantieni insieme il materiale pertinente al compito, anziché stimare il contesto solo dalla lunghezza visibile di un passaggio.
Preparazione delle istruzioni e del codice
Per spiegare un documento, fornisci il passaggio sorgente e identifica la condizione o il termine da chiarire. Richiedi la spiegazione nella lingua del lettore, conservando i nomi originali e l’affermazione della fonte che sostiene la risposta. Per la revisione, specifica quali significati e condizioni devono sopravvivere alla riscrittura e se il risultato debba essere il solo passaggio rivisto o un passaggio accompagnato da una spiegazione.
Per un compito di programmazione, indica il linguaggio, i tipi in ingresso, l’uscita attesa e l’interfaccia esistente. Includi la funzione o le dichiarazioni che determinano la modifica. Un risultato utile può contenere l’implementazione, le sue ipotesi ed esempi di ingressi con uscite attese. Una domanda separata può chiedere al modello di seguire un ingresso nel codice fornito, così che la spiegazione riguardi un percorso concreto anziché un programma non specificato.
Per una conversazione a più turni, conserva la risposta precedente pertinente e poni una domanda mirata o fornisci nuovo materiale che cambi il compito. Definisci se la risposta successiva debba rivedere l’artefatto precedente, spiegare una decisione o produrre una rappresentazione diversa degli stessi fatti sorgente. Questo rende esplicita la continuazione della conversazione.
Chiamate a funzione e campionamento
Il produttore documenta le chiamate a funzione con il formato di conversazione corrispondente. Il modello genera l’operazione e gli argomenti proposti, mentre l’applicazione esegue la funzione e aggiunge il risultato alla conversazione prima della generazione successiva. La scheda precisa che un esempio di codice abbreviato non mostra il ciclo completo: le fasi mancanti di esecuzione e restituzione del risultato rimangono quindi parti necessarie di un’applicazione assistita da strumenti.
In quel formato pubblicato, gli identificativi delle chiamate e dei risultati corrispondenti sono composti esattamente da nove caratteri alfanumerici. Mantieni l’associazione tra l’operazione e il risultato quando prepari la conversazione nel formato nativo. Un’interfaccia di adattamento può rappresentare la conversazione diversamente; il requisito della versione descrive la formattazione del modello del produttore, non un identificativo universale inventato per il client.
Il produttore raccomanda una temperatura di 0.3, osservando che Nemo usa temperature inferiori rispetto ai precedenti modelli Mistral. Le diverse impostazioni di 64, 128, 256 e 1 000 token mostrate negli esempi sono scelte di generazione per quelle dimostrazioni, non capacità massime di risposta pubblicate indipendentemente.
Limiti sostanziali
La scheda Instruct descrive questo checkpoint come una dimostrazione di fine-tuning della base e dichiara esplicitamente che non contiene meccanismi di moderazione. Le applicazioni che richiedono un comportamento moderato devono fornirlo nel sistema circostante. È una proprietà del checkpoint pubblicato, non un’affermazione su ogni servizio che ospita un modello Nemo.
Il compito qui documentato per Nemo è la generazione di testo, con il proprio contesto di 128k e formato di conversazione. Non si devono attribuire a questa edizione la comprensione delle immagini, la trascrizione vocale o i controlli di ragionamento ibrido delle famiglie Mistral successive. Fornisci la condizione scritta completa, le fonti pertinenti e l’artefatto finale richiesto, così che il risultato rimanga utilizzabile come spiegazione, testo rivisto o proposta di implementazione.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti mistralai/mistral-nemo | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache $0.00003 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache $0.00003 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra mistralai/mistral-nemo
Usa i percorsi dei metodi indicati sopra.
mistralai/mistral-nemoMistral Nemo Instruct 2407 è un modello testuale multilingue da 12 miliardi di parametri per istruzioni precise, conversazioni a più turni e codice. Ha un contesto di 128k dichiarato dal produttore, un tokenizer Tekken, chiamate di funzione documentate e un checkpoint distinto ottimizzato per seguire istruzioni, con proprie indicazioni di campionamento.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Mistral Nemo Instruct 2407 è l’edizione ottimizzata per le istruzioni del modello linguistico Mistral Nemo 12B. Deriva dal fine-tuning del checkpoint Nemo Base 2407, denominato separatamente. Il produttore descrive un addestramento con una grande quota di materiale multilingue e codice e una finestra di contesto di 128k token, per istruzioni scritte, conversazioni e programmazione.
Caratteristiche principali e architettura
La versione offre varianti preaddestrate e ottimizzate per le istruzioni distinte. Questa voce riguarda il checkpoint Instruct: una richiesta testuale può chiedere una spiegazione, un documento rivisto, codice o una proposta di chiamata a funzione. Il relativo affinamento sulle istruzioni è descritto come un miglioramento, rispetto alla precedente linea Mistral 7B, del rispetto preciso delle istruzioni, del ragionamento, del dialogo a più turni e della generazione di codice.
Il modello ha 40 livelli Transformer con un’ampiezza di 5 120. Usa SwiGLU, 32 teste di attenzione e 8 teste di chiave/valore nell’attenzione a query raggruppate, una dimensione delle teste di 128 e una dimensione nascosta di 14 336. Gli embedding rotatori usano un’impostazione theta di un milione. Il vocabolario pubblicato comprende 2 elevato a 17 voci, ovvero 131 072; la dimensione del vocabolario è distinta dall’etichetta di contesto del compito di 128k.
L’annuncio del produttore descrive anche l’addestramento consapevole della quantizzazione e l’inferenza FP8. Sono caratteristiche della versione e della precisione, non modalità di contenuto aggiuntive. Conserva il checkpoint esatto e il tokenizer corrispondente, anziché considerare un altro modello 12B o della famiglia Mistral come la stessa edizione.
Testo multilingue e Tekken
La versione mette in evidenza inglese, francese, tedesco, spagnolo, italiano, portoghese, cinese, giapponese, coreano, arabo e hindi; il russo è incluso nei metadati linguistici della scheda del modello. Imposta la lingua finale, il pubblico previsto e la terminologia prima di chiedere un risultato. Per un compito su documenti multilingue, mantieni invariati nomi, identificativi e unità, adattando il testo circostante.
Nemo usa il tokenizer Tekken, addestrato su più di 100 lingue e progettato per rappresentare con efficienza il linguaggio naturale e il codice sorgente. Il tokenizer influisce sullo spazio occupato dalle fonti nel contesto; il numero di caratteri non è quindi, da solo, un conteggio dei token. Usa il tokenizer corrispondente e mantieni insieme il materiale pertinente al compito, anziché stimare il contesto solo dalla lunghezza visibile di un passaggio.
Preparazione delle istruzioni e del codice
Per spiegare un documento, fornisci il passaggio sorgente e identifica la condizione o il termine da chiarire. Richiedi la spiegazione nella lingua del lettore, conservando i nomi originali e l’affermazione della fonte che sostiene la risposta. Per la revisione, specifica quali significati e condizioni devono sopravvivere alla riscrittura e se il risultato debba essere il solo passaggio rivisto o un passaggio accompagnato da una spiegazione.
Per un compito di programmazione, indica il linguaggio, i tipi in ingresso, l’uscita attesa e l’interfaccia esistente. Includi la funzione o le dichiarazioni che determinano la modifica. Un risultato utile può contenere l’implementazione, le sue ipotesi ed esempi di ingressi con uscite attese. Una domanda separata può chiedere al modello di seguire un ingresso nel codice fornito, così che la spiegazione riguardi un percorso concreto anziché un programma non specificato.
Per una conversazione a più turni, conserva la risposta precedente pertinente e poni una domanda mirata o fornisci nuovo materiale che cambi il compito. Definisci se la risposta successiva debba rivedere l’artefatto precedente, spiegare una decisione o produrre una rappresentazione diversa degli stessi fatti sorgente. Questo rende esplicita la continuazione della conversazione.
Chiamate a funzione e campionamento
Il produttore documenta le chiamate a funzione con il formato di conversazione corrispondente. Il modello genera l’operazione e gli argomenti proposti, mentre l’applicazione esegue la funzione e aggiunge il risultato alla conversazione prima della generazione successiva. La scheda precisa che un esempio di codice abbreviato non mostra il ciclo completo: le fasi mancanti di esecuzione e restituzione del risultato rimangono quindi parti necessarie di un’applicazione assistita da strumenti.
In quel formato pubblicato, gli identificativi delle chiamate e dei risultati corrispondenti sono composti esattamente da nove caratteri alfanumerici. Mantieni l’associazione tra l’operazione e il risultato quando prepari la conversazione nel formato nativo. Un’interfaccia di adattamento può rappresentare la conversazione diversamente; il requisito della versione descrive la formattazione del modello del produttore, non un identificativo universale inventato per il client.
Il produttore raccomanda una temperatura di 0.3, osservando che Nemo usa temperature inferiori rispetto ai precedenti modelli Mistral. Le diverse impostazioni di 64, 128, 256 e 1 000 token mostrate negli esempi sono scelte di generazione per quelle dimostrazioni, non capacità massime di risposta pubblicate indipendentemente.
Limiti sostanziali
La scheda Instruct descrive questo checkpoint come una dimostrazione di fine-tuning della base e dichiara esplicitamente che non contiene meccanismi di moderazione. Le applicazioni che richiedono un comportamento moderato devono fornirlo nel sistema circostante. È una proprietà del checkpoint pubblicato, non un’affermazione su ogni servizio che ospita un modello Nemo.
Il compito qui documentato per Nemo è la generazione di testo, con il proprio contesto di 128k e formato di conversazione. Non si devono attribuire a questa edizione la comprensione delle immagini, la trascrizione vocale o i controlli di ragionamento ibrido delle famiglie Mistral successive. Fornisci la condizione scritta completa, le fonti pertinenti e l’artefatto finale richiesto, così che il risultato rimanga utilizzabile come spiegazione, testo rivisto o proposta di implementazione.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti mistralai/mistral-nemo | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache $0.00003 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache $0.00003 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "mistralai/mistral-nemo",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra mistralai/mistral-nemo
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.