Qwen3-8B è un modello linguistico denso di Qwen3 che combina ragionamento e normale generazione di testo. I punti di forza dichiarati comprendono matematica, risoluzione di problemi logici, codice, scrittura creativa, dialoghi basati su ruoli e rispetto delle istruzioni su più turni. La famiglia supporta più di 100 lingue e dialetti. Un’applicazione pratica è un assistente di supporto multilingue che trasforma il messaggio di un cliente e un estratto delle regole fornito in una risposta utile, conservando i nomi dei prodotti e il tono richiesto.
Questa versione ha 8,2 miliardi di parametri, di cui 6,95 miliardi esclusi gli embedding, e 36 livelli. Usa l’attenzione a query raggruppate con 32 teste di query e otto teste di chiave/valore. È un modello denso separato, non il modello a miscela di esperti 235B in esecuzione con meno esperti. L’ingresso di lavoro e il risultato generato sono testuali: una traduzione, una spiegazione, un documento rivisto, un piano o un programma. Scegli un compito chiaro prima di aggiungere contesto. Per una risposta di supporto, fornisci il messaggio del cliente, le regole applicabili, la terminologia approvata e l’azione che il lettore deve compiere; richiedi una risposta e un elenco separato dei fatti ancora mancanti.
Il flusso iniziale del produttore usa una sequenza di messaggi di chat e un template di conversazione esplicito. Per l’assistenza sul codice, includi la funzione pertinente, un ingresso che evidenzi il problema, l’uscita reale e il risultato atteso. Chiedi una funzione corretta accompagnata da esempi, con una spiegazione separata del comportamento modificato. Per la traduzione, identifica le lingue sorgente e di destinazione, i lettori e i termini da conservare. Questi ingressi rendono il testo risultante più facile da confrontare con il requisito originale. L’integrazione pubblicata richiede un ambiente di esecuzione compatibile con Qwen3; la scheda avverte che le versioni di Transformers precedenti alla 4.51.0 non riconoscono l’architettura richiesta.
Lo stesso modello supporta le modalità con e senza ragionamento. Il ragionamento è attivo per impostazione predefinita nel template fornito. Una disattivazione rigida rimuove la sezione di ragionamento; quando rimane attivo, /think e /no_think possono cambiare la scelta tra i turni. L’ultima istruzione di questo tipo ha la precedenza e questi comandi nel prompt non possono annullare una disattivazione rigida. In un flusso di prodotto, usa la modalità diretta per una breve riscrittura di un messaggio approvato e seleziona il ragionamento per una discrepanza che richiede una spiegazione. Mantieni la risposta finale separata dal ragionamento intermedio e conserva soltanto la risposta finale nella cronologia successiva. Quando il ragionamento è attivo, anche una richiesta flessibile senza ragionamento mantiene un blocco di ragionamento, il cui contenuto può essere vuoto. La disattivazione rigida elimina quel blocco.
Il produttore descrive le chiamate agli strumenti e raccomanda Qwen-Agent per gestire i template e l’analisi delle risposte. Un’applicazione può fornire definizioni degli strumenti, eseguire le chiamate richieste e restituire i relativi risultati. Per un assistente di supporto, una consultazione degli ordini circoscritta e in sola lettura potrebbe fornire uno stato di spedizione confermato prima che il modello prepari la risposta. Specifica i campi consultabili e come segnalare una registrazione mancante. L’artefatto finale utile è una risposta fondata sulle informazioni restituite, non un’affermazione priva di prove che un’operazione esterna sia riuscita. La guida Qwen3 descrive anche chiamate parallele e in più passaggi agli strumenti, con argomenti rappresentati come oggetti e risultati reinseriti nella conversazione.
La scheda del modello indica 32 768 token di contesto nativo e 131 072 con l’espansione YaRN. Il comportamento con contesti lunghi dipende quindi dalla configurazione reale. YaRN statico può influire sulle richieste più brevi, perciò la scheda consiglia di attivarlo quando serve un contesto lungo. Ingresso, cronologia della conversazione e uscita generata consumano un budget di contesto condiviso. Etichetta le sezioni sorgente lunghe, elimina i duplicati non pertinenti e lascia spazio alla risposta richiesta. L’esempio di generazione pubblicato e le raccomandazioni sull’uscita sono indicazioni di configurazione, non un massimo rigido indipendente per l’uscita. Nella spiegazione delle lunghezze di addestramento, la documentazione Qwen3 tratta messaggi dell’assistente di 38 912 token in modalità con ragionamento e di 16 384 senza ragionamento, e raccomanda di valutare la qualità delle generazioni più lunghe. Questi valori sono distinti dalla finestra di contesto complessiva e non sono un limite rigido specifico di un endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40 960 token: 8 192 per i prompt tipici e 32 768 per l’uscita. Sono indicazioni di configurazione del produttore, separate dal contesto nativo di addestramento e da qualsiasi limite dell’endpoint.
Per la modalità con ragionamento, i valori di campionamento consigliati sono temperatura 0.6, top-p 0.95, top-k 20 e min-p 0; senza ragionamento sono 0.7, 0.8, 20 e 0. Il produttore avverte che il ragionamento con selezione greedy può generare testo ripetuto. Penalità di presenza maggiori possono ridurre la ripetizione, causando talvolta una mescolanza di lingue. Definisci esplicitamente il formato finale, per esempio una risposta seguita da un oggetto JSON contenente i campi irrisolti, e valida l’oggetto prima che un’applicazione lo utilizzi. Verifica il codice proposto con i casi forniti e controlla le traduzioni per assicurare la conservazione della terminologia.
", "aboutText": "Qwen3-8B è un modello linguistico denso di Qwen3 che combina ragionamento e normale generazione di testo. I punti di forza dichiarati comprendono matematica, risoluzione di problemi logici, codice, scrittura creativa, dialoghi basati su ruoli e rispetto delle istruzioni su più turni. La famiglia supporta più di 100 lingue e dialetti. Un’applicazione pratica è un assistente di supporto multilingue che trasforma il messaggio di un cliente e un estratto delle regole fornito in una risposta utile, conservando i nomi dei prodotti e il tono richiesto.\n\nQuesta versione ha 8,2 miliardi di parametri, di cui 6,95 miliardi esclusi gli embedding, e 36 livelli. Usa l’attenzione a query raggruppate con 32 teste di query e otto teste di chiave/valore. È un modello denso separato, non il modello a miscela di esperti 235B in esecuzione con meno esperti. L’ingresso di lavoro e il risultato generato sono testuali: una traduzione, una spiegazione, un documento rivisto, un piano o un programma. Scegli un compito chiaro prima di aggiungere contesto. Per una risposta di supporto, fornisci il messaggio del cliente, le regole applicabili, la terminologia approvata e l’azione che il lettore deve compiere; richiedi una risposta e un elenco separato dei fatti ancora mancanti.\n\nIl flusso iniziale del produttore usa una sequenza di messaggi di chat e un template di conversazione esplicito. Per l’assistenza sul codice, includi la funzione pertinente, un ingresso che evidenzi il problema, l’uscita reale e il risultato atteso. Chiedi una funzione corretta accompagnata da esempi, con una spiegazione separata del comportamento modificato. Per la traduzione, identifica le lingue sorgente e di destinazione, i lettori e i termini da conservare. Questi ingressi rendono il testo risultante più facile da confrontare con il requisito originale. L’integrazione pubblicata richiede un ambiente di esecuzione compatibile con Qwen3; la scheda avverte che le versioni di Transformers precedenti alla 4.51.0 non riconoscono l’architettura richiesta.\n\nLo stesso modello supporta le modalità con e senza ragionamento. Il ragionamento è attivo per impostazione predefinita nel template fornito. Una disattivazione rigida rimuove la sezione di ragionamento; quando rimane attivo, /think e /no_think possono cambiare la scelta tra i turni. L’ultima istruzione di questo tipo ha la precedenza e questi comandi nel prompt non possono annullare una disattivazione rigida. In un flusso di prodotto, usa la modalità diretta per una breve riscrittura di un messaggio approvato e seleziona il ragionamento per una discrepanza che richiede una spiegazione. Mantieni la risposta finale separata dal ragionamento intermedio e conserva soltanto la risposta finale nella cronologia successiva. Quando il ragionamento è attivo, anche una richiesta flessibile senza ragionamento mantiene un blocco di ragionamento, il cui contenuto può essere vuoto. La disattivazione rigida elimina quel blocco.\n\nIl produttore descrive le chiamate agli strumenti e raccomanda Qwen-Agent per gestire i template e l’analisi delle risposte. Un’applicazione può fornire definizioni degli strumenti, eseguire le chiamate richieste e restituire i relativi risultati. Per un assistente di supporto, una consultazione degli ordini circoscritta e in sola lettura potrebbe fornire uno stato di spedizione confermato prima che il modello prepari la risposta. Specifica i campi consultabili e come segnalare una registrazione mancante. L’artefatto finale utile è una risposta fondata sulle informazioni restituite, non un’affermazione priva di prove che un’operazione esterna sia riuscita. La guida Qwen3 descrive anche chiamate parallele e in più passaggi agli strumenti, con argomenti rappresentati come oggetti e risultati reinseriti nella conversazione.\n\nLa scheda del modello indica 32 768 token di contesto nativo e 131 072 con l’espansione YaRN. Il comportamento con contesti lunghi dipende quindi dalla configurazione reale. YaRN statico può influire sulle richieste più brevi, perciò la scheda consiglia di attivarlo quando serve un contesto lungo. Ingresso, cronologia della conversazione e uscita generata consumano un budget di contesto condiviso. Etichetta le sezioni sorgente lunghe, elimina i duplicati non pertinenti e lascia spazio alla risposta richiesta. L’esempio di generazione pubblicato e le raccomandazioni sull’uscita sono indicazioni di configurazione, non un massimo rigido indipendente per l’uscita. Nella spiegazione delle lunghezze di addestramento, la documentazione Qwen3 tratta messaggi dell’assistente di 38 912 token in modalità con ragionamento e di 16 384 senza ragionamento, e raccomanda di valutare la qualità delle generazioni più lunghe. Questi valori sono distinti dalla finestra di contesto complessiva e non sono un limite rigido specifico di un endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40 960 token: 8 192 per i prompt tipici e 32 768 per l’uscita. Sono indicazioni di configurazione del produttore, separate dal contesto nativo di addestramento e da qualsiasi limite dell’endpoint.\n\nPer la modalità con ragionamento, i valori di campionamento consigliati sono temperatura 0.6, top-p 0.95, top-k 20 e min-p 0; senza ragionamento sono 0.7, 0.8, 20 e 0. Il produttore avverte che il ragionamento con selezione greedy può generare testo ripetuto. Penalità di presenza maggiori possono ridurre la ripetizione, causando talvolta una mescolanza di lingue. Definisci esplicitamente il formato finale, per esempio una risposta seguita da un oggetto JSON contenente i campi irrisolti, e valida l’oggetto prima che un’applicazione lo utilizzi. Verifica il codice proposto con i casi forniti e controlla le traduzioni per assicurare la conservazione della terminologia.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B offre generazione testuale multilingue, programmazione e due modalità di risposta in un modello denso da 8.2 miliardi di parametri. Usare risposte dirette per il dialogo quotidiano e la modalità di ragionamento per problemi che richiedono un’analisi più approfondita.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Qwen3-8B è un modello linguistico denso di Qwen3 che combina ragionamento e normale generazione di testo. I punti di forza dichiarati comprendono matematica, risoluzione di problemi logici, codice, scrittura creativa, dialoghi basati su ruoli e rispetto delle istruzioni su più turni. La famiglia supporta più di 100 lingue e dialetti. Un’applicazione pratica è un assistente di supporto multilingue che trasforma il messaggio di un cliente e un estratto delle regole fornito in una risposta utile, conservando i nomi dei prodotti e il tono richiesto.
Questa versione ha 8,2 miliardi di parametri, di cui 6,95 miliardi esclusi gli embedding, e 36 livelli. Usa l’attenzione a query raggruppate con 32 teste di query e otto teste di chiave/valore. È un modello denso separato, non il modello a miscela di esperti 235B in esecuzione con meno esperti. L’ingresso di lavoro e il risultato generato sono testuali: una traduzione, una spiegazione, un documento rivisto, un piano o un programma. Scegli un compito chiaro prima di aggiungere contesto. Per una risposta di supporto, fornisci il messaggio del cliente, le regole applicabili, la terminologia approvata e l’azione che il lettore deve compiere; richiedi una risposta e un elenco separato dei fatti ancora mancanti.
Il flusso iniziale del produttore usa una sequenza di messaggi di chat e un template di conversazione esplicito. Per l’assistenza sul codice, includi la funzione pertinente, un ingresso che evidenzi il problema, l’uscita reale e il risultato atteso. Chiedi una funzione corretta accompagnata da esempi, con una spiegazione separata del comportamento modificato. Per la traduzione, identifica le lingue sorgente e di destinazione, i lettori e i termini da conservare. Questi ingressi rendono il testo risultante più facile da confrontare con il requisito originale. L’integrazione pubblicata richiede un ambiente di esecuzione compatibile con Qwen3; la scheda avverte che le versioni di Transformers precedenti alla 4.51.0 non riconoscono l’architettura richiesta.
Lo stesso modello supporta le modalità con e senza ragionamento. Il ragionamento è attivo per impostazione predefinita nel template fornito. Una disattivazione rigida rimuove la sezione di ragionamento; quando rimane attivo, /think e /no_think possono cambiare la scelta tra i turni. L’ultima istruzione di questo tipo ha la precedenza e questi comandi nel prompt non possono annullare una disattivazione rigida. In un flusso di prodotto, usa la modalità diretta per una breve riscrittura di un messaggio approvato e seleziona il ragionamento per una discrepanza che richiede una spiegazione. Mantieni la risposta finale separata dal ragionamento intermedio e conserva soltanto la risposta finale nella cronologia successiva. Quando il ragionamento è attivo, anche una richiesta flessibile senza ragionamento mantiene un blocco di ragionamento, il cui contenuto può essere vuoto. La disattivazione rigida elimina quel blocco.
Il produttore descrive le chiamate agli strumenti e raccomanda Qwen-Agent per gestire i template e l’analisi delle risposte. Un’applicazione può fornire definizioni degli strumenti, eseguire le chiamate richieste e restituire i relativi risultati. Per un assistente di supporto, una consultazione degli ordini circoscritta e in sola lettura potrebbe fornire uno stato di spedizione confermato prima che il modello prepari la risposta. Specifica i campi consultabili e come segnalare una registrazione mancante. L’artefatto finale utile è una risposta fondata sulle informazioni restituite, non un’affermazione priva di prove che un’operazione esterna sia riuscita. La guida Qwen3 descrive anche chiamate parallele e in più passaggi agli strumenti, con argomenti rappresentati come oggetti e risultati reinseriti nella conversazione.
La scheda del modello indica 32 768 token di contesto nativo e 131 072 con l’espansione YaRN. Il comportamento con contesti lunghi dipende quindi dalla configurazione reale. YaRN statico può influire sulle richieste più brevi, perciò la scheda consiglia di attivarlo quando serve un contesto lungo. Ingresso, cronologia della conversazione e uscita generata consumano un budget di contesto condiviso. Etichetta le sezioni sorgente lunghe, elimina i duplicati non pertinenti e lascia spazio alla risposta richiesta. L’esempio di generazione pubblicato e le raccomandazioni sull’uscita sono indicazioni di configurazione, non un massimo rigido indipendente per l’uscita. Nella spiegazione delle lunghezze di addestramento, la documentazione Qwen3 tratta messaggi dell’assistente di 38 912 token in modalità con ragionamento e di 16 384 senza ragionamento, e raccomanda di valutare la qualità delle generazioni più lunghe. Questi valori sono distinti dalla finestra di contesto complessiva e non sono un limite rigido specifico di un endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40 960 token: 8 192 per i prompt tipici e 32 768 per l’uscita. Sono indicazioni di configurazione del produttore, separate dal contesto nativo di addestramento e da qualsiasi limite dell’endpoint.
Per la modalità con ragionamento, i valori di campionamento consigliati sono temperatura 0.6, top-p 0.95, top-k 20 e min-p 0; senza ragionamento sono 0.7, 0.8, 20 e 0. Il produttore avverte che il ragionamento con selezione greedy può generare testo ripetuto. Penalità di presenza maggiori possono ridurre la ripetizione, causando talvolta una mescolanza di lingue. Definisci esplicitamente il formato finale, per esempio una risposta seguita da un oggetto JSON contenente i campi irrisolti, e valida l’oggetto prima che un’applicazione lo utilizzi. Verifica il codice proposto con i casi forniti e controlla le traduzioni per assicurare la conservazione della terminologia.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti qwen3-8b | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.000144 / 1K token Output · Token in output $0.00144 / 1K token Input · Lettura dalla cache $0 / 1K token Input · Scrittura nella cache $0 / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra qwen3-8b
Usa i percorsi dei metodi indicati sopra.
qwen3-8bQwen3-8B offre generazione testuale multilingue, programmazione e due modalità di risposta in un modello denso da 8.2 miliardi di parametri. Usare risposte dirette per il dialogo quotidiano e la modalità di ragionamento per problemi che richiedono un’analisi più approfondita.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Qwen3-8B è un modello linguistico denso di Qwen3 che combina ragionamento e normale generazione di testo. I punti di forza dichiarati comprendono matematica, risoluzione di problemi logici, codice, scrittura creativa, dialoghi basati su ruoli e rispetto delle istruzioni su più turni. La famiglia supporta più di 100 lingue e dialetti. Un’applicazione pratica è un assistente di supporto multilingue che trasforma il messaggio di un cliente e un estratto delle regole fornito in una risposta utile, conservando i nomi dei prodotti e il tono richiesto.
Questa versione ha 8,2 miliardi di parametri, di cui 6,95 miliardi esclusi gli embedding, e 36 livelli. Usa l’attenzione a query raggruppate con 32 teste di query e otto teste di chiave/valore. È un modello denso separato, non il modello a miscela di esperti 235B in esecuzione con meno esperti. L’ingresso di lavoro e il risultato generato sono testuali: una traduzione, una spiegazione, un documento rivisto, un piano o un programma. Scegli un compito chiaro prima di aggiungere contesto. Per una risposta di supporto, fornisci il messaggio del cliente, le regole applicabili, la terminologia approvata e l’azione che il lettore deve compiere; richiedi una risposta e un elenco separato dei fatti ancora mancanti.
Il flusso iniziale del produttore usa una sequenza di messaggi di chat e un template di conversazione esplicito. Per l’assistenza sul codice, includi la funzione pertinente, un ingresso che evidenzi il problema, l’uscita reale e il risultato atteso. Chiedi una funzione corretta accompagnata da esempi, con una spiegazione separata del comportamento modificato. Per la traduzione, identifica le lingue sorgente e di destinazione, i lettori e i termini da conservare. Questi ingressi rendono il testo risultante più facile da confrontare con il requisito originale. L’integrazione pubblicata richiede un ambiente di esecuzione compatibile con Qwen3; la scheda avverte che le versioni di Transformers precedenti alla 4.51.0 non riconoscono l’architettura richiesta.
Lo stesso modello supporta le modalità con e senza ragionamento. Il ragionamento è attivo per impostazione predefinita nel template fornito. Una disattivazione rigida rimuove la sezione di ragionamento; quando rimane attivo, /think e /no_think possono cambiare la scelta tra i turni. L’ultima istruzione di questo tipo ha la precedenza e questi comandi nel prompt non possono annullare una disattivazione rigida. In un flusso di prodotto, usa la modalità diretta per una breve riscrittura di un messaggio approvato e seleziona il ragionamento per una discrepanza che richiede una spiegazione. Mantieni la risposta finale separata dal ragionamento intermedio e conserva soltanto la risposta finale nella cronologia successiva. Quando il ragionamento è attivo, anche una richiesta flessibile senza ragionamento mantiene un blocco di ragionamento, il cui contenuto può essere vuoto. La disattivazione rigida elimina quel blocco.
Il produttore descrive le chiamate agli strumenti e raccomanda Qwen-Agent per gestire i template e l’analisi delle risposte. Un’applicazione può fornire definizioni degli strumenti, eseguire le chiamate richieste e restituire i relativi risultati. Per un assistente di supporto, una consultazione degli ordini circoscritta e in sola lettura potrebbe fornire uno stato di spedizione confermato prima che il modello prepari la risposta. Specifica i campi consultabili e come segnalare una registrazione mancante. L’artefatto finale utile è una risposta fondata sulle informazioni restituite, non un’affermazione priva di prove che un’operazione esterna sia riuscita. La guida Qwen3 descrive anche chiamate parallele e in più passaggi agli strumenti, con argomenti rappresentati come oggetti e risultati reinseriti nella conversazione.
La scheda del modello indica 32 768 token di contesto nativo e 131 072 con l’espansione YaRN. Il comportamento con contesti lunghi dipende quindi dalla configurazione reale. YaRN statico può influire sulle richieste più brevi, perciò la scheda consiglia di attivarlo quando serve un contesto lungo. Ingresso, cronologia della conversazione e uscita generata consumano un budget di contesto condiviso. Etichetta le sezioni sorgente lunghe, elimina i duplicati non pertinenti e lascia spazio alla risposta richiesta. L’esempio di generazione pubblicato e le raccomandazioni sull’uscita sono indicazioni di configurazione, non un massimo rigido indipendente per l’uscita. Nella spiegazione delle lunghezze di addestramento, la documentazione Qwen3 tratta messaggi dell’assistente di 38 912 token in modalità con ragionamento e di 16 384 senza ragionamento, e raccomanda di valutare la qualità delle generazioni più lunghe. Questi valori sono distinti dalla finestra di contesto complessiva e non sono un limite rigido specifico di un endpoint. La scheda spiega anche l’allocazione posizionale predefinita di 40 960 token: 8 192 per i prompt tipici e 32 768 per l’uscita. Sono indicazioni di configurazione del produttore, separate dal contesto nativo di addestramento e da qualsiasi limite dell’endpoint.
Per la modalità con ragionamento, i valori di campionamento consigliati sono temperatura 0.6, top-p 0.95, top-k 20 e min-p 0; senza ragionamento sono 0.7, 0.8, 20 e 0. Il produttore avverte che il ragionamento con selezione greedy può generare testo ripetuto. Penalità di presenza maggiori possono ridurre la ripetizione, causando talvolta una mescolanza di lingue. Definisci esplicitamente il formato finale, per esempio una risposta seguita da un oggetto JSON contenente i campi irrisolti, e valida l’oggetto prima che un’applicazione lo utilizzi. Verifica il codice proposto con i casi forniti e controlla le traduzioni per assicurare la conservazione della terminologia.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti qwen3-8b | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.000144 / 1K token Output · Token in output $0.00144 / 1K token Input · Lettura dalla cache $0 / 1K token Input · Scrittura nella cache $0 / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra qwen3-8b
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.