Mixtral 8x22B Instruct v0.1 è la versione di Mistral AI ottimizzata per seguire istruzioni del modello base denominato separatamente Mixtral 8x22B v0.1. Riceve una conversazione testuale e produce testo, incluse spiegazioni, codice e proposte di chiamate di funzione. Il rilascio della famiglia evidenzia inglese, francese, italiano, tedesco e spagnolo insieme alle capacità matematiche e di programmazione.
Esperti sparsi e contesto
Il produttore descrive un modello mixture-of-experts sparso con 141 miliardi di parametri totali e 39 miliardi di parametri attivi. La configurazione Instruct rilasciata contiene 8 esperti con 2 selezionati per token, 56 strati, 48 teste di attenzione per le query e 8 teste per chiavi e valori. Il conteggio totale dei parametri e gli esperti selezionati descrivono la struttura del modello, non la lunghezza di una risposta.
Il rilascio della famiglia documenta un contesto di 64K e la configurazione Instruct esatta imposta le posizioni massime a 65.536. Usa quello spazio per conservare insieme brani sorgente, conversazione e risposta richiesta. Una domanda su un documento ampio può chiedere una condizione in più sezioni, restituendo una tabella concisa con ogni posizione nella fonte. Includi il materiale che determina il risultato, invece di riempire la finestra con contenuti non pertinenti.
Codifica della conversazione basata su istruzioni
La scheda del modello parte dal tokenizer di istruzioni v3 del produttore e mostra poi come formattare i messaggi con il template di chat corrispondente. Il vocabolario rilasciato ha 32.768 voci. Il tokenizer nativo e uno compatibile devono produrre rappresentazioni dei messaggi corrispondenti; la scheda tratta esplicitamente il confronto delle loro codifiche. Questo è diverso dal presumere che il formato Tekken usato dai modelli Mistral successivi sia intercambiabile con questo rilascio.
In una conversazione, distingui la domanda dell’utente, la risposta precedente dell’assistente e gli eventuali risultati degli strumenti. Conserva la risposta precedente pertinente quando poni una domanda successiva. Un compito può chiedere prima una spiegazione di un brano sorgente e poi un confronto più specifico, preservando il contenuto della fonte e lo scopo della discussione.
Per la revisione multilingue, identifica lingua sorgente, lingua finale e terminologia che deve restare invariata. Chiedi un brano revisionato che mantenga nomi, condizioni e unità. Per un problema matematico, definisci variabili e ipotesi e specifica se il risultato finale deve essere un’espressione esatta, un’approssimazione numerica o una dimostrazione. Per la programmazione, includi firma della funzione, dichiarazioni pertinenti e comportamento atteso prima di chiedere un’implementazione o una spiegazione.
Chiamate di funzione e relativi risultati
La scheda documenta chiamate di funzione native con descrizioni degli strumenti e schemi dei parametri. L’applicazione fornisce le operazioni, il modello prepara gli argomenti della funzione scelta e l’applicazione la esegue. Il risultato restituito deve poi essere aggiunto alla conversazione, affinché il modello possa usarlo nella risposta successiva. La scheda avverte che un esempio di codice abbreviato non dimostra questo ciclo completo.
Un compito di ricerca deve identificare quali informazioni mancano e quale funzione fornita possa restituirle. Includi i valori richiesti o chiedi le informazioni mancanti prima che l’applicazione esegua l’operazione. Mantieni la chiamata proposta separata dai dati effettivamente restituiti; la spiegazione finale potrà così riferirsi al risultato ottenuto, anziché a uno dedotto dal nome dello strumento.
Nel formato nativo di conversazione del produttore, chiamate di strumenti e risultati corrispondenti usano ID di esattamente nove caratteri alfanumerici. Il tokenizer contiene anche marcatori speciali per strumenti disponibili, chiamate di strumenti e risultati degli strumenti. Conserva la rappresentazione corrispondente quando prepari la conversazione in formato nativo; la rappresentazione visibile di un wrapper è una scelta d’interfaccia separata.
Elaborati pratici di codice e documenti
Per una correzione del codice, fornisci la funzione interessata, un input che rivela il problema e il risultato atteso. Richiedi il frammento revisionato, la causa della discrepanza ed esempi di input che distinguano il comportamento previsto. Generare codice è un elaborato testuale; compilarlo, eseguirlo o applicarlo a un repository richiede l’ambiente di sviluppo collegato.
Per una spiegazione documentale, chiedi l’affermazione che risponde alla domanda e la sezione che la supporta. Un confronto può separare condizioni condivise, differenze e dettagli irrisolti. Per un record testuale vincolato, definisci nomi dei campi e trattamento dei valori mancanti. L’annuncio originale della famiglia descrive chiamate di funzione insieme a output vincolati nel servizio collegato del produttore; queste possibilità di formattazione restano distinte dall’esecuzione di un’operazione esterna.
Edizione e limiti di generazione
La scheda mostra budget di generazione come 64 e 1.000 token per esempi specifici. Sono impostazioni dimostrative, non capacità massime autonome della risposta. Mantieni prompt e risposta desiderata nel contesto effettivamente configurato e chiedi la lunghezza appropriata al compito.
Questa voce è il checkpoint testuale Instruct v0.1 con la sua formattazione di istruzioni v3. Visione, voce e controlli di ragionamento ibrido introdotti nelle famiglie Mistral successive non devono essergli attribuiti. Conserva l’edizione esatta e il materiale sorgente quando prepari la spiegazione, la proposta di codice o la risposta assistita da strumenti necessarie al passaggio successivo.
", "aboutText": "Mixtral 8x22B Instruct v0.1 è la versione di Mistral AI ottimizzata per seguire istruzioni del modello base denominato separatamente Mixtral 8x22B v0.1. Riceve una conversazione testuale e produce testo, incluse spiegazioni, codice e proposte di chiamate di funzione. Il rilascio della famiglia evidenzia inglese, francese, italiano, tedesco e spagnolo insieme alle capacità matematiche e di programmazione.\n\nEsperti sparsi e contesto\n\nIl produttore descrive un modello mixture-of-experts sparso con 141 miliardi di parametri totali e 39 miliardi di parametri attivi. La configurazione Instruct rilasciata contiene 8 esperti con 2 selezionati per token, 56 strati, 48 teste di attenzione per le query e 8 teste per chiavi e valori. Il conteggio totale dei parametri e gli esperti selezionati descrivono la struttura del modello, non la lunghezza di una risposta.\n\nIl rilascio della famiglia documenta un contesto di 64K e la configurazione Instruct esatta imposta le posizioni massime a 65.536. Usa quello spazio per conservare insieme brani sorgente, conversazione e risposta richiesta. Una domanda su un documento ampio può chiedere una condizione in più sezioni, restituendo una tabella concisa con ogni posizione nella fonte. Includi il materiale che determina il risultato, invece di riempire la finestra con contenuti non pertinenti.\n\nCodifica della conversazione basata su istruzioni\n\nLa scheda del modello parte dal tokenizer di istruzioni v3 del produttore e mostra poi come formattare i messaggi con il template di chat corrispondente. Il vocabolario rilasciato ha 32.768 voci. Il tokenizer nativo e uno compatibile devono produrre rappresentazioni dei messaggi corrispondenti; la scheda tratta esplicitamente il confronto delle loro codifiche. Questo è diverso dal presumere che il formato Tekken usato dai modelli Mistral successivi sia intercambiabile con questo rilascio.\n\nIn una conversazione, distingui la domanda dell’utente, la risposta precedente dell’assistente e gli eventuali risultati degli strumenti. Conserva la risposta precedente pertinente quando poni una domanda successiva. Un compito può chiedere prima una spiegazione di un brano sorgente e poi un confronto più specifico, preservando il contenuto della fonte e lo scopo della discussione.\n\nPer la revisione multilingue, identifica lingua sorgente, lingua finale e terminologia che deve restare invariata. Chiedi un brano revisionato che mantenga nomi, condizioni e unità. Per un problema matematico, definisci variabili e ipotesi e specifica se il risultato finale deve essere un’espressione esatta, un’approssimazione numerica o una dimostrazione. Per la programmazione, includi firma della funzione, dichiarazioni pertinenti e comportamento atteso prima di chiedere un’implementazione o una spiegazione.\n\nChiamate di funzione e relativi risultati\n\nLa scheda documenta chiamate di funzione native con descrizioni degli strumenti e schemi dei parametri. L’applicazione fornisce le operazioni, il modello prepara gli argomenti della funzione scelta e l’applicazione la esegue. Il risultato restituito deve poi essere aggiunto alla conversazione, affinché il modello possa usarlo nella risposta successiva. La scheda avverte che un esempio di codice abbreviato non dimostra questo ciclo completo.\n\nUn compito di ricerca deve identificare quali informazioni mancano e quale funzione fornita possa restituirle. Includi i valori richiesti o chiedi le informazioni mancanti prima che l’applicazione esegua l’operazione. Mantieni la chiamata proposta separata dai dati effettivamente restituiti; la spiegazione finale potrà così riferirsi al risultato ottenuto, anziché a uno dedotto dal nome dello strumento.\n\nNel formato nativo di conversazione del produttore, chiamate di strumenti e risultati corrispondenti usano ID di esattamente nove caratteri alfanumerici. Il tokenizer contiene anche marcatori speciali per strumenti disponibili, chiamate di strumenti e risultati degli strumenti. Conserva la rappresentazione corrispondente quando prepari la conversazione in formato nativo; la rappresentazione visibile di un wrapper è una scelta d’interfaccia separata.\n\nElaborati pratici di codice e documenti\n\nPer una correzione del codice, fornisci la funzione interessata, un input che rivela il problema e il risultato atteso. Richiedi il frammento revisionato, la causa della discrepanza ed esempi di input che distinguano il comportamento previsto. Generare codice è un elaborato testuale; compilarlo, eseguirlo o applicarlo a un repository richiede l’ambiente di sviluppo collegato.\n\nPer una spiegazione documentale, chiedi l’affermazione che risponde alla domanda e la sezione che la supporta. Un confronto può separare condizioni condivise, differenze e dettagli irrisolti. Per un record testuale vincolato, definisci nomi dei campi e trattamento dei valori mancanti. L’annuncio originale della famiglia descrive chiamate di funzione insieme a output vincolati nel servizio collegato del produttore; queste possibilità di formattazione restano distinte dall’esecuzione di un’operazione esterna.\n\nEdizione e limiti di generazione\n\nLa scheda mostra budget di generazione come 64 e 1.000 token per esempi specifici. Sono impostazioni dimostrative, non capacità massime autonome della risposta. Mantieni prompt e risposta desiderata nel contesto effettivamente configurato e chiedi la lunghezza appropriata al compito.\n\nQuesta voce è il checkpoint testuale Instruct v0.1 con la sua formattazione di istruzioni v3. Visione, voce e controlli di ragionamento ibrido introdotti nelle famiglie Mistral successive non devono essergli attribuiti. Conserva l’edizione esatta e il materiale sorgente quando prepari la spiegazione, la proposta di codice o la risposta assistita da strumenti necessarie al passaggio successivo.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 è un modello testuale multilingue per conversazione, matematica, codice e chiamate di funzione. La sua architettura mixture-of-experts sparsa usa 39 miliardi di parametri attivi su 141 miliardi totali, con un contesto di 64K dichiarato dal produttore e un formato di istruzioni v3 distinto.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Mixtral 8x22B Instruct v0.1 è la versione di Mistral AI ottimizzata per seguire istruzioni del modello base denominato separatamente Mixtral 8x22B v0.1. Riceve una conversazione testuale e produce testo, incluse spiegazioni, codice e proposte di chiamate di funzione. Il rilascio della famiglia evidenzia inglese, francese, italiano, tedesco e spagnolo insieme alle capacità matematiche e di programmazione.
Esperti sparsi e contesto
Il produttore descrive un modello mixture-of-experts sparso con 141 miliardi di parametri totali e 39 miliardi di parametri attivi. La configurazione Instruct rilasciata contiene 8 esperti con 2 selezionati per token, 56 strati, 48 teste di attenzione per le query e 8 teste per chiavi e valori. Il conteggio totale dei parametri e gli esperti selezionati descrivono la struttura del modello, non la lunghezza di una risposta.
Il rilascio della famiglia documenta un contesto di 64K e la configurazione Instruct esatta imposta le posizioni massime a 65.536. Usa quello spazio per conservare insieme brani sorgente, conversazione e risposta richiesta. Una domanda su un documento ampio può chiedere una condizione in più sezioni, restituendo una tabella concisa con ogni posizione nella fonte. Includi il materiale che determina il risultato, invece di riempire la finestra con contenuti non pertinenti.
Codifica della conversazione basata su istruzioni
La scheda del modello parte dal tokenizer di istruzioni v3 del produttore e mostra poi come formattare i messaggi con il template di chat corrispondente. Il vocabolario rilasciato ha 32.768 voci. Il tokenizer nativo e uno compatibile devono produrre rappresentazioni dei messaggi corrispondenti; la scheda tratta esplicitamente il confronto delle loro codifiche. Questo è diverso dal presumere che il formato Tekken usato dai modelli Mistral successivi sia intercambiabile con questo rilascio.
In una conversazione, distingui la domanda dell’utente, la risposta precedente dell’assistente e gli eventuali risultati degli strumenti. Conserva la risposta precedente pertinente quando poni una domanda successiva. Un compito può chiedere prima una spiegazione di un brano sorgente e poi un confronto più specifico, preservando il contenuto della fonte e lo scopo della discussione.
Per la revisione multilingue, identifica lingua sorgente, lingua finale e terminologia che deve restare invariata. Chiedi un brano revisionato che mantenga nomi, condizioni e unità. Per un problema matematico, definisci variabili e ipotesi e specifica se il risultato finale deve essere un’espressione esatta, un’approssimazione numerica o una dimostrazione. Per la programmazione, includi firma della funzione, dichiarazioni pertinenti e comportamento atteso prima di chiedere un’implementazione o una spiegazione.
Chiamate di funzione e relativi risultati
La scheda documenta chiamate di funzione native con descrizioni degli strumenti e schemi dei parametri. L’applicazione fornisce le operazioni, il modello prepara gli argomenti della funzione scelta e l’applicazione la esegue. Il risultato restituito deve poi essere aggiunto alla conversazione, affinché il modello possa usarlo nella risposta successiva. La scheda avverte che un esempio di codice abbreviato non dimostra questo ciclo completo.
Un compito di ricerca deve identificare quali informazioni mancano e quale funzione fornita possa restituirle. Includi i valori richiesti o chiedi le informazioni mancanti prima che l’applicazione esegua l’operazione. Mantieni la chiamata proposta separata dai dati effettivamente restituiti; la spiegazione finale potrà così riferirsi al risultato ottenuto, anziché a uno dedotto dal nome dello strumento.
Nel formato nativo di conversazione del produttore, chiamate di strumenti e risultati corrispondenti usano ID di esattamente nove caratteri alfanumerici. Il tokenizer contiene anche marcatori speciali per strumenti disponibili, chiamate di strumenti e risultati degli strumenti. Conserva la rappresentazione corrispondente quando prepari la conversazione in formato nativo; la rappresentazione visibile di un wrapper è una scelta d’interfaccia separata.
Elaborati pratici di codice e documenti
Per una correzione del codice, fornisci la funzione interessata, un input che rivela il problema e il risultato atteso. Richiedi il frammento revisionato, la causa della discrepanza ed esempi di input che distinguano il comportamento previsto. Generare codice è un elaborato testuale; compilarlo, eseguirlo o applicarlo a un repository richiede l’ambiente di sviluppo collegato.
Per una spiegazione documentale, chiedi l’affermazione che risponde alla domanda e la sezione che la supporta. Un confronto può separare condizioni condivise, differenze e dettagli irrisolti. Per un record testuale vincolato, definisci nomi dei campi e trattamento dei valori mancanti. L’annuncio originale della famiglia descrive chiamate di funzione insieme a output vincolati nel servizio collegato del produttore; queste possibilità di formattazione restano distinte dall’esecuzione di un’operazione esterna.
Edizione e limiti di generazione
La scheda mostra budget di generazione come 64 e 1.000 token per esempi specifici. Sono impostazioni dimostrative, non capacità massime autonome della risposta. Mantieni prompt e risposta desiderata nel contesto effettivamente configurato e chiedi la lunghezza appropriata al compito.
Questa voce è il checkpoint testuale Instruct v0.1 con la sua formattazione di istruzioni v3. Visione, voce e controlli di ragionamento ibrido introdotti nelle famiglie Mistral successive non devono essergli attribuiti. Conserva l’edizione esatta e il materiale sorgente quando prepari la spiegazione, la proposta di codice o la risposta assistita da strumenti necessarie al passaggio successivo.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti mistralai/mixtral-8x22b-instruct | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.004 / 1K token Output · Token in output $0.012 / 1K token Input · Lettura dalla cache $0.0004 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.004 / 1K token Output · Token in output $0.012 / 1K token Input · Lettura dalla cache $0.0004 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Usa i percorsi dei metodi indicati sopra.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 è un modello testuale multilingue per conversazione, matematica, codice e chiamate di funzione. La sua architettura mixture-of-experts sparsa usa 39 miliardi di parametri attivi su 141 miliardi totali, con un contesto di 64K dichiarato dal produttore e un formato di istruzioni v3 distinto.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Mixtral 8x22B Instruct v0.1 è la versione di Mistral AI ottimizzata per seguire istruzioni del modello base denominato separatamente Mixtral 8x22B v0.1. Riceve una conversazione testuale e produce testo, incluse spiegazioni, codice e proposte di chiamate di funzione. Il rilascio della famiglia evidenzia inglese, francese, italiano, tedesco e spagnolo insieme alle capacità matematiche e di programmazione.
Esperti sparsi e contesto
Il produttore descrive un modello mixture-of-experts sparso con 141 miliardi di parametri totali e 39 miliardi di parametri attivi. La configurazione Instruct rilasciata contiene 8 esperti con 2 selezionati per token, 56 strati, 48 teste di attenzione per le query e 8 teste per chiavi e valori. Il conteggio totale dei parametri e gli esperti selezionati descrivono la struttura del modello, non la lunghezza di una risposta.
Il rilascio della famiglia documenta un contesto di 64K e la configurazione Instruct esatta imposta le posizioni massime a 65.536. Usa quello spazio per conservare insieme brani sorgente, conversazione e risposta richiesta. Una domanda su un documento ampio può chiedere una condizione in più sezioni, restituendo una tabella concisa con ogni posizione nella fonte. Includi il materiale che determina il risultato, invece di riempire la finestra con contenuti non pertinenti.
Codifica della conversazione basata su istruzioni
La scheda del modello parte dal tokenizer di istruzioni v3 del produttore e mostra poi come formattare i messaggi con il template di chat corrispondente. Il vocabolario rilasciato ha 32.768 voci. Il tokenizer nativo e uno compatibile devono produrre rappresentazioni dei messaggi corrispondenti; la scheda tratta esplicitamente il confronto delle loro codifiche. Questo è diverso dal presumere che il formato Tekken usato dai modelli Mistral successivi sia intercambiabile con questo rilascio.
In una conversazione, distingui la domanda dell’utente, la risposta precedente dell’assistente e gli eventuali risultati degli strumenti. Conserva la risposta precedente pertinente quando poni una domanda successiva. Un compito può chiedere prima una spiegazione di un brano sorgente e poi un confronto più specifico, preservando il contenuto della fonte e lo scopo della discussione.
Per la revisione multilingue, identifica lingua sorgente, lingua finale e terminologia che deve restare invariata. Chiedi un brano revisionato che mantenga nomi, condizioni e unità. Per un problema matematico, definisci variabili e ipotesi e specifica se il risultato finale deve essere un’espressione esatta, un’approssimazione numerica o una dimostrazione. Per la programmazione, includi firma della funzione, dichiarazioni pertinenti e comportamento atteso prima di chiedere un’implementazione o una spiegazione.
Chiamate di funzione e relativi risultati
La scheda documenta chiamate di funzione native con descrizioni degli strumenti e schemi dei parametri. L’applicazione fornisce le operazioni, il modello prepara gli argomenti della funzione scelta e l’applicazione la esegue. Il risultato restituito deve poi essere aggiunto alla conversazione, affinché il modello possa usarlo nella risposta successiva. La scheda avverte che un esempio di codice abbreviato non dimostra questo ciclo completo.
Un compito di ricerca deve identificare quali informazioni mancano e quale funzione fornita possa restituirle. Includi i valori richiesti o chiedi le informazioni mancanti prima che l’applicazione esegua l’operazione. Mantieni la chiamata proposta separata dai dati effettivamente restituiti; la spiegazione finale potrà così riferirsi al risultato ottenuto, anziché a uno dedotto dal nome dello strumento.
Nel formato nativo di conversazione del produttore, chiamate di strumenti e risultati corrispondenti usano ID di esattamente nove caratteri alfanumerici. Il tokenizer contiene anche marcatori speciali per strumenti disponibili, chiamate di strumenti e risultati degli strumenti. Conserva la rappresentazione corrispondente quando prepari la conversazione in formato nativo; la rappresentazione visibile di un wrapper è una scelta d’interfaccia separata.
Elaborati pratici di codice e documenti
Per una correzione del codice, fornisci la funzione interessata, un input che rivela il problema e il risultato atteso. Richiedi il frammento revisionato, la causa della discrepanza ed esempi di input che distinguano il comportamento previsto. Generare codice è un elaborato testuale; compilarlo, eseguirlo o applicarlo a un repository richiede l’ambiente di sviluppo collegato.
Per una spiegazione documentale, chiedi l’affermazione che risponde alla domanda e la sezione che la supporta. Un confronto può separare condizioni condivise, differenze e dettagli irrisolti. Per un record testuale vincolato, definisci nomi dei campi e trattamento dei valori mancanti. L’annuncio originale della famiglia descrive chiamate di funzione insieme a output vincolati nel servizio collegato del produttore; queste possibilità di formattazione restano distinte dall’esecuzione di un’operazione esterna.
Edizione e limiti di generazione
La scheda mostra budget di generazione come 64 e 1.000 token per esempi specifici. Sono impostazioni dimostrative, non capacità massime autonome della risposta. Mantieni prompt e risposta desiderata nel contesto effettivamente configurato e chiedi la lunghezza appropriata al compito.
Questa voce è il checkpoint testuale Instruct v0.1 con la sua formattazione di istruzioni v3. Visione, voce e controlli di ragionamento ibrido introdotti nelle famiglie Mistral successive non devono essergli attribuiti. Conserva l’edizione esatta e il materiale sorgente quando prepari la spiegazione, la proposta di codice o la risposta assistita da strumenti necessarie al passaggio successivo.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti mistralai/mixtral-8x22b-instruct | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.004 / 1K token Output · Token in output $0.012 / 1K token Input · Lettura dalla cache $0.0004 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.004 / 1K token Output · Token in output $0.012 / 1K token Input · Lettura dalla cache $0.0004 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.