Qwen3-32B-FP8 è il checkpoint FP8 ufficiale del modello linguistico denso Qwen3-32B. Il produttore descrive matematica, ragionamento logico, generazione di codice, scrittura creativa, dialogo basato su ruoli e rispetto delle istruzioni in più turni. La famiglia supporta oltre 100 lingue e dialetti. Input e output sono testuali e questa stessa versione offre le modalità Thinking e risposta diretta.
Il modello ha 32,8 miliardi di parametri, di cui 31,2 miliardi fuori dagli embedding, e 64 livelli. L’attenzione a query raggruppate contiene 64 teste di query e otto teste chiave/valore. È un’architettura densa, distinta dalle versioni mixture-of-experts Qwen3 con parametri totali e attivati. FP8 è anche parte dell’identità esatta dell’edizione. Per un assistente di sviluppo, fornisci funzione, specifica e più input, poi chiedi una spiegazione del comportamento attuale e un’implementazione rivista che conservi l’interfaccia concordata. Per un compito editoriale, fornisci fonte effettiva, lettore previsto e terminologia invece di affidarti a un contesto non specificato.
L’avvio rapido del produttore usa il template di chat designato. Separa compito e materiali forniti e specifica la forma finale. Una richiesta utile può confrontare due approcci di validazione dei dati usando le stesse regole dei campi, identificare i casi accettati da ciascuno e restituire una funzione di validazione proposta. Includi regole per valori mancanti, dati rappresentativi e messaggi di errore richiesti. Per contenuti multilingui, dai un glossario e chiedi traduzione più elenco dei termini da rivedere. Così il risultato generato è verificabile rispetto a un input concreto. L’integrazione pubblicata si aspetta un ambiente di esecuzione che riconosca Qwen3; la scheda avverte che versioni di Transformers inferiori a 4.51.0 non riconoscono l’architettura richiesta.
La nota FP8 descrive quantizzazione a grana fine con dimensione di blocco 128. La configurazione del checkpoint identifica anche l’impostazione di quantizzazione FP8. Il produttore elenca Transformers, SGLang e vLLM per inferenza, ma segnala un problema di inferenza distribuita con FP8 a grana fine in Transformers e nota che l’uso su più dispositivi può richiedere CUDA_LAUNCH_BLOCKING=1. Mantieni questa avvertenza di compatibilità separata dalle capacità testuali. L’identità quantizzata non stabilisce da sola latenza misurata, risparmio hardware o equivalenza delle risposte rispetto al checkpoint originale.
La modalità Thinking è abilitata per impostazione predefinita nel template fornito. Un’impostazione esplicita di modalità Non-Thinking sopprime la sezione di ragionamento. Se la modalità Thinking resta abilitata, /think e /no_think sono controlli testuali per turni successivi, con applicazione dell’istruzione più recente; non possono annullare una disabilitazione di configurazione. Chiedi ragionamento per esaminare condizioni contraddittorie, poi usa un seguito diretto per presentare il risultato accettato in forma concisa. Mantieni separata la risposta finale e usala, anziché il ragionamento precedente, nella cronologia successiva. Con la modalità Thinking abilitata, anche una richiesta testuale di modalità Non-Thinking conserva un blocco, il cui contenuto può essere vuoto. La disabilitazione esplicita elimina il blocco.
La scheda include uso con agenti e consiglia Qwen-Agent per formattazione e parsing degli strumenti. Un’applicazione fornisce definizioni degli strumenti, controlla le chiamate, le esegue e restituisce risultati. Nell’esempio di validazione, un esecutore controllato di test potrebbe valutare il codice proposto sui casi forniti. Chiedi al modello di riassumere i risultati effettivi di successo o fallimento e rivedere una condizione fallita identificata per nome. L’output non deve trattare un’invocazione proposta come prova di esecuzione. Decidi ambito consentito e campi di output dello strumento prima di iniziare. La guida Qwen3 descrive anche chiamate parallele e in più passaggi, con argomenti come oggetti e risultati riportati nella conversazione.
La scheda esatta elenca 32.768 token di contesto nativo e 131.072 con YaRN. L’espansione dipende dalla configurazione; la scalatura statica può influire su testi brevi. Input e risultato generato occupano entrambi il budget della sequenza. Etichetta sezioni sorgente lunghe e assegna spazio sufficiente al codice e alla spiegazione richiesti. Esempi di output e lunghezze consigliate non stabiliscono un limite universale rigido di output. Per generazioni più lunghe, valuta se il risultato resta coerente e soddisfa i requisiti. La documentazione Qwen3 discute lunghezze dei messaggi dell’assistente di 38.912 token in modalità Thinking e 16.384 in modalità Non-Thinking nella spiegazione della lunghezza di addestramento e consiglia di valutare la qualità della generazione più lunga. Sono cifre distinte dalla finestra di contesto complessiva, non un limite rigido specifico dell’endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40.960 token come 8.192 per prompt tipici più 32.768 per output: è una guida del produttore alla configurazione, separata da contesto nativo di addestramento e limiti dell’endpoint.
Le impostazioni di campionamento consigliate sono temperature 0,6, top-p 0,95, top-k 20 e min-p 0 per la modalità Thinking, e 0,7, 0,8, 20 e 0 per la modalità diretta. Il produttore sconsiglia il ragionamento greedy per le ripetizioni; penalità di presenza alte possono talvolta mescolare lingue. Richiedi una risposta finale verificabile, come tabella decisionale, funzione completa ed elenco di casi. Convalida i campi strutturati restituiti, controlla i calcoli rispetto alla fonte ed esegui il codice nell’ambiente previsto, conservando l’esatta identità FP8 nella registrazione dei risultati.
", "aboutText": "Qwen3-32B-FP8 è il checkpoint FP8 ufficiale del modello linguistico denso Qwen3-32B. Il produttore descrive matematica, ragionamento logico, generazione di codice, scrittura creativa, dialogo basato su ruoli e rispetto delle istruzioni in più turni. La famiglia supporta oltre 100 lingue e dialetti. Input e output sono testuali e questa stessa versione offre le modalità Thinking e risposta diretta.\n\nIl modello ha 32,8 miliardi di parametri, di cui 31,2 miliardi fuori dagli embedding, e 64 livelli. L’attenzione a query raggruppate contiene 64 teste di query e otto teste chiave/valore. È un’architettura densa, distinta dalle versioni mixture-of-experts Qwen3 con parametri totali e attivati. FP8 è anche parte dell’identità esatta dell’edizione. Per un assistente di sviluppo, fornisci funzione, specifica e più input, poi chiedi una spiegazione del comportamento attuale e un’implementazione rivista che conservi l’interfaccia concordata. Per un compito editoriale, fornisci fonte effettiva, lettore previsto e terminologia invece di affidarti a un contesto non specificato.\n\nL’avvio rapido del produttore usa il template di chat designato. Separa compito e materiali forniti e specifica la forma finale. Una richiesta utile può confrontare due approcci di validazione dei dati usando le stesse regole dei campi, identificare i casi accettati da ciascuno e restituire una funzione di validazione proposta. Includi regole per valori mancanti, dati rappresentativi e messaggi di errore richiesti. Per contenuti multilingui, dai un glossario e chiedi traduzione più elenco dei termini da rivedere. Così il risultato generato è verificabile rispetto a un input concreto. L’integrazione pubblicata si aspetta un ambiente di esecuzione che riconosca Qwen3; la scheda avverte che versioni di Transformers inferiori a 4.51.0 non riconoscono l’architettura richiesta.\n\nLa nota FP8 descrive quantizzazione a grana fine con dimensione di blocco 128. La configurazione del checkpoint identifica anche l’impostazione di quantizzazione FP8. Il produttore elenca Transformers, SGLang e vLLM per inferenza, ma segnala un problema di inferenza distribuita con FP8 a grana fine in Transformers e nota che l’uso su più dispositivi può richiedere CUDA_LAUNCH_BLOCKING=1. Mantieni questa avvertenza di compatibilità separata dalle capacità testuali. L’identità quantizzata non stabilisce da sola latenza misurata, risparmio hardware o equivalenza delle risposte rispetto al checkpoint originale.\n\nLa modalità Thinking è abilitata per impostazione predefinita nel template fornito. Un’impostazione esplicita di modalità Non-Thinking sopprime la sezione di ragionamento. Se la modalità Thinking resta abilitata, /think e /no_think sono controlli testuali per turni successivi, con applicazione dell’istruzione più recente; non possono annullare una disabilitazione di configurazione. Chiedi ragionamento per esaminare condizioni contraddittorie, poi usa un seguito diretto per presentare il risultato accettato in forma concisa. Mantieni separata la risposta finale e usala, anziché il ragionamento precedente, nella cronologia successiva. Con la modalità Thinking abilitata, anche una richiesta testuale di modalità Non-Thinking conserva un blocco, il cui contenuto può essere vuoto. La disabilitazione esplicita elimina il blocco.\n\nLa scheda include uso con agenti e consiglia Qwen-Agent per formattazione e parsing degli strumenti. Un’applicazione fornisce definizioni degli strumenti, controlla le chiamate, le esegue e restituisce risultati. Nell’esempio di validazione, un esecutore controllato di test potrebbe valutare il codice proposto sui casi forniti. Chiedi al modello di riassumere i risultati effettivi di successo o fallimento e rivedere una condizione fallita identificata per nome. L’output non deve trattare un’invocazione proposta come prova di esecuzione. Decidi ambito consentito e campi di output dello strumento prima di iniziare. La guida Qwen3 descrive anche chiamate parallele e in più passaggi, con argomenti come oggetti e risultati riportati nella conversazione.\n\nLa scheda esatta elenca 32.768 token di contesto nativo e 131.072 con YaRN. L’espansione dipende dalla configurazione; la scalatura statica può influire su testi brevi. Input e risultato generato occupano entrambi il budget della sequenza. Etichetta sezioni sorgente lunghe e assegna spazio sufficiente al codice e alla spiegazione richiesti. Esempi di output e lunghezze consigliate non stabiliscono un limite universale rigido di output. Per generazioni più lunghe, valuta se il risultato resta coerente e soddisfa i requisiti. La documentazione Qwen3 discute lunghezze dei messaggi dell’assistente di 38.912 token in modalità Thinking e 16.384 in modalità Non-Thinking nella spiegazione della lunghezza di addestramento e consiglia di valutare la qualità della generazione più lunga. Sono cifre distinte dalla finestra di contesto complessiva, non un limite rigido specifico dell’endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40.960 token come 8.192 per prompt tipici più 32.768 per output: è una guida del produttore alla configurazione, separata da contesto nativo di addestramento e limiti dell’endpoint.\n\nLe impostazioni di campionamento consigliate sono temperature 0,6, top-p 0,95, top-k 20 e min-p 0 per la modalità Thinking, e 0,7, 0,8, 20 e 0 per la modalità diretta. Il produttore sconsiglia il ragionamento greedy per le ripetizioni; penalità di presenza alte possono talvolta mescolare lingue. Richiedi una risposta finale verificabile, come tabella decisionale, funzione completa ed elenco di casi. Convalida i campi strutturati restituiti, controlla i calcoli rispetto alla fonte ed esegui il codice nell’ambiente previsto, conservando l’esatta identità FP8 nella registrazione dei risultati.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.qwen/qwen3-32b-fp8Qwen3-32B-FP8 è l’edizione FP8 a grana fine del modello testuale denso Qwen3 da 32,8 miliardi di parametri. Combina risposte dirette e in modalità Thinking per scrittura multilingue, codice e analisi, con dettagli separati di checkpoint e compatibilità.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Qwen3-32B-FP8 è il checkpoint FP8 ufficiale del modello linguistico denso Qwen3-32B. Il produttore descrive matematica, ragionamento logico, generazione di codice, scrittura creativa, dialogo basato su ruoli e rispetto delle istruzioni in più turni. La famiglia supporta oltre 100 lingue e dialetti. Input e output sono testuali e questa stessa versione offre le modalità Thinking e risposta diretta.
Il modello ha 32,8 miliardi di parametri, di cui 31,2 miliardi fuori dagli embedding, e 64 livelli. L’attenzione a query raggruppate contiene 64 teste di query e otto teste chiave/valore. È un’architettura densa, distinta dalle versioni mixture-of-experts Qwen3 con parametri totali e attivati. FP8 è anche parte dell’identità esatta dell’edizione. Per un assistente di sviluppo, fornisci funzione, specifica e più input, poi chiedi una spiegazione del comportamento attuale e un’implementazione rivista che conservi l’interfaccia concordata. Per un compito editoriale, fornisci fonte effettiva, lettore previsto e terminologia invece di affidarti a un contesto non specificato.
L’avvio rapido del produttore usa il template di chat designato. Separa compito e materiali forniti e specifica la forma finale. Una richiesta utile può confrontare due approcci di validazione dei dati usando le stesse regole dei campi, identificare i casi accettati da ciascuno e restituire una funzione di validazione proposta. Includi regole per valori mancanti, dati rappresentativi e messaggi di errore richiesti. Per contenuti multilingui, dai un glossario e chiedi traduzione più elenco dei termini da rivedere. Così il risultato generato è verificabile rispetto a un input concreto. L’integrazione pubblicata si aspetta un ambiente di esecuzione che riconosca Qwen3; la scheda avverte che versioni di Transformers inferiori a 4.51.0 non riconoscono l’architettura richiesta.
La nota FP8 descrive quantizzazione a grana fine con dimensione di blocco 128. La configurazione del checkpoint identifica anche l’impostazione di quantizzazione FP8. Il produttore elenca Transformers, SGLang e vLLM per inferenza, ma segnala un problema di inferenza distribuita con FP8 a grana fine in Transformers e nota che l’uso su più dispositivi può richiedere CUDA_LAUNCH_BLOCKING=1. Mantieni questa avvertenza di compatibilità separata dalle capacità testuali. L’identità quantizzata non stabilisce da sola latenza misurata, risparmio hardware o equivalenza delle risposte rispetto al checkpoint originale.
La modalità Thinking è abilitata per impostazione predefinita nel template fornito. Un’impostazione esplicita di modalità Non-Thinking sopprime la sezione di ragionamento. Se la modalità Thinking resta abilitata, /think e /no_think sono controlli testuali per turni successivi, con applicazione dell’istruzione più recente; non possono annullare una disabilitazione di configurazione. Chiedi ragionamento per esaminare condizioni contraddittorie, poi usa un seguito diretto per presentare il risultato accettato in forma concisa. Mantieni separata la risposta finale e usala, anziché il ragionamento precedente, nella cronologia successiva. Con la modalità Thinking abilitata, anche una richiesta testuale di modalità Non-Thinking conserva un blocco, il cui contenuto può essere vuoto. La disabilitazione esplicita elimina il blocco.
La scheda include uso con agenti e consiglia Qwen-Agent per formattazione e parsing degli strumenti. Un’applicazione fornisce definizioni degli strumenti, controlla le chiamate, le esegue e restituisce risultati. Nell’esempio di validazione, un esecutore controllato di test potrebbe valutare il codice proposto sui casi forniti. Chiedi al modello di riassumere i risultati effettivi di successo o fallimento e rivedere una condizione fallita identificata per nome. L’output non deve trattare un’invocazione proposta come prova di esecuzione. Decidi ambito consentito e campi di output dello strumento prima di iniziare. La guida Qwen3 descrive anche chiamate parallele e in più passaggi, con argomenti come oggetti e risultati riportati nella conversazione.
La scheda esatta elenca 32.768 token di contesto nativo e 131.072 con YaRN. L’espansione dipende dalla configurazione; la scalatura statica può influire su testi brevi. Input e risultato generato occupano entrambi il budget della sequenza. Etichetta sezioni sorgente lunghe e assegna spazio sufficiente al codice e alla spiegazione richiesti. Esempi di output e lunghezze consigliate non stabiliscono un limite universale rigido di output. Per generazioni più lunghe, valuta se il risultato resta coerente e soddisfa i requisiti. La documentazione Qwen3 discute lunghezze dei messaggi dell’assistente di 38.912 token in modalità Thinking e 16.384 in modalità Non-Thinking nella spiegazione della lunghezza di addestramento e consiglia di valutare la qualità della generazione più lunga. Sono cifre distinte dalla finestra di contesto complessiva, non un limite rigido specifico dell’endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40.960 token come 8.192 per prompt tipici più 32.768 per output: è una guida del produttore alla configurazione, separata da contesto nativo di addestramento e limiti dell’endpoint.
Le impostazioni di campionamento consigliate sono temperature 0,6, top-p 0,95, top-k 20 e min-p 0 per la modalità Thinking, e 0,7, 0,8, 20 e 0 per la modalità diretta. Il produttore sconsiglia il ragionamento greedy per le ripetizioni; penalità di presenza alte possono talvolta mescolare lingue. Richiedi una risposta finale verificabile, come tabella decisionale, funzione completa ed elenco di casi. Convalida i campi strutturati restituiti, controlla i calcoli rispetto alla fonte ed esegui il codice nell’ambiente previsto, conservando l’esatta identità FP8 nella registrazione dei risultati.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti qwen/qwen3-32b-fp8 | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.0002 / 1K token Output · Token in output $0.001 / 1K token Input · Lettura dalla cache $0 / 1K token Input · Scrittura nella cache $0 / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra qwen/qwen3-32b-fp8
Usa i percorsi dei metodi indicati sopra.
qwen/qwen3-32b-fp8Qwen3-32B-FP8 è l’edizione FP8 a grana fine del modello testuale denso Qwen3 da 32,8 miliardi di parametri. Combina risposte dirette e in modalità Thinking per scrittura multilingue, codice e analisi, con dettagli separati di checkpoint e compatibilità.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Qwen3-32B-FP8 è il checkpoint FP8 ufficiale del modello linguistico denso Qwen3-32B. Il produttore descrive matematica, ragionamento logico, generazione di codice, scrittura creativa, dialogo basato su ruoli e rispetto delle istruzioni in più turni. La famiglia supporta oltre 100 lingue e dialetti. Input e output sono testuali e questa stessa versione offre le modalità Thinking e risposta diretta.
Il modello ha 32,8 miliardi di parametri, di cui 31,2 miliardi fuori dagli embedding, e 64 livelli. L’attenzione a query raggruppate contiene 64 teste di query e otto teste chiave/valore. È un’architettura densa, distinta dalle versioni mixture-of-experts Qwen3 con parametri totali e attivati. FP8 è anche parte dell’identità esatta dell’edizione. Per un assistente di sviluppo, fornisci funzione, specifica e più input, poi chiedi una spiegazione del comportamento attuale e un’implementazione rivista che conservi l’interfaccia concordata. Per un compito editoriale, fornisci fonte effettiva, lettore previsto e terminologia invece di affidarti a un contesto non specificato.
L’avvio rapido del produttore usa il template di chat designato. Separa compito e materiali forniti e specifica la forma finale. Una richiesta utile può confrontare due approcci di validazione dei dati usando le stesse regole dei campi, identificare i casi accettati da ciascuno e restituire una funzione di validazione proposta. Includi regole per valori mancanti, dati rappresentativi e messaggi di errore richiesti. Per contenuti multilingui, dai un glossario e chiedi traduzione più elenco dei termini da rivedere. Così il risultato generato è verificabile rispetto a un input concreto. L’integrazione pubblicata si aspetta un ambiente di esecuzione che riconosca Qwen3; la scheda avverte che versioni di Transformers inferiori a 4.51.0 non riconoscono l’architettura richiesta.
La nota FP8 descrive quantizzazione a grana fine con dimensione di blocco 128. La configurazione del checkpoint identifica anche l’impostazione di quantizzazione FP8. Il produttore elenca Transformers, SGLang e vLLM per inferenza, ma segnala un problema di inferenza distribuita con FP8 a grana fine in Transformers e nota che l’uso su più dispositivi può richiedere CUDA_LAUNCH_BLOCKING=1. Mantieni questa avvertenza di compatibilità separata dalle capacità testuali. L’identità quantizzata non stabilisce da sola latenza misurata, risparmio hardware o equivalenza delle risposte rispetto al checkpoint originale.
La modalità Thinking è abilitata per impostazione predefinita nel template fornito. Un’impostazione esplicita di modalità Non-Thinking sopprime la sezione di ragionamento. Se la modalità Thinking resta abilitata, /think e /no_think sono controlli testuali per turni successivi, con applicazione dell’istruzione più recente; non possono annullare una disabilitazione di configurazione. Chiedi ragionamento per esaminare condizioni contraddittorie, poi usa un seguito diretto per presentare il risultato accettato in forma concisa. Mantieni separata la risposta finale e usala, anziché il ragionamento precedente, nella cronologia successiva. Con la modalità Thinking abilitata, anche una richiesta testuale di modalità Non-Thinking conserva un blocco, il cui contenuto può essere vuoto. La disabilitazione esplicita elimina il blocco.
La scheda include uso con agenti e consiglia Qwen-Agent per formattazione e parsing degli strumenti. Un’applicazione fornisce definizioni degli strumenti, controlla le chiamate, le esegue e restituisce risultati. Nell’esempio di validazione, un esecutore controllato di test potrebbe valutare il codice proposto sui casi forniti. Chiedi al modello di riassumere i risultati effettivi di successo o fallimento e rivedere una condizione fallita identificata per nome. L’output non deve trattare un’invocazione proposta come prova di esecuzione. Decidi ambito consentito e campi di output dello strumento prima di iniziare. La guida Qwen3 descrive anche chiamate parallele e in più passaggi, con argomenti come oggetti e risultati riportati nella conversazione.
La scheda esatta elenca 32.768 token di contesto nativo e 131.072 con YaRN. L’espansione dipende dalla configurazione; la scalatura statica può influire su testi brevi. Input e risultato generato occupano entrambi il budget della sequenza. Etichetta sezioni sorgente lunghe e assegna spazio sufficiente al codice e alla spiegazione richiesti. Esempi di output e lunghezze consigliate non stabiliscono un limite universale rigido di output. Per generazioni più lunghe, valuta se il risultato resta coerente e soddisfa i requisiti. La documentazione Qwen3 discute lunghezze dei messaggi dell’assistente di 38.912 token in modalità Thinking e 16.384 in modalità Non-Thinking nella spiegazione della lunghezza di addestramento e consiglia di valutare la qualità della generazione più lunga. Sono cifre distinte dalla finestra di contesto complessiva, non un limite rigido specifico dell’endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40.960 token come 8.192 per prompt tipici più 32.768 per output: è una guida del produttore alla configurazione, separata da contesto nativo di addestramento e limiti dell’endpoint.
Le impostazioni di campionamento consigliate sono temperature 0,6, top-p 0,95, top-k 20 e min-p 0 per la modalità Thinking, e 0,7, 0,8, 20 e 0 per la modalità diretta. Il produttore sconsiglia il ragionamento greedy per le ripetizioni; penalità di presenza alte possono talvolta mescolare lingue. Richiedi una risposta finale verificabile, come tabella decisionale, funzione completa ed elenco di casi. Convalida i campi strutturati restituiti, controlla i calcoli rispetto alla fonte ed esegui il codice nell’ambiente previsto, conservando l’esatta identità FP8 nella registrazione dei risultati.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti qwen/qwen3-32b-fp8 | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.0002 / 1K token Output · Token in output $0.001 / 1K token Input · Lettura dalla cache $0 / 1K token Input · Scrittura nella cache $0 / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "qwen/qwen3-32b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra qwen/qwen3-32b-fp8
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.