Introduzione: un modello di ragionamento più piccolo derivato da R1
DeepSeek-R1-Distill-Qwen-7B trasferisce esempi di ragionamento da DeepSeek-R1 in un modello denso basato su Qwen2.5-Math-7B. Accetta testo e genera testo, inclusi svolgimenti, spiegazioni di programmazione e risposte a problemi logici. Questa esatta distillazione da 7 miliardi di parametri è un checkpoint separato da DeepSeek-R1 completo, dal Qwen2.5-Math-7B originale e dalle edizioni distillate più grandi. Il nome registra sia il produttore dei dati di ragionamento sia la famiglia del modello di base.
Il contributo della distillazione
La ricerca R1 di DeepSeek distingue l'addestramento del grande modello insegnante di ragionamento dall'affinamento dei suoi studenti più piccoli. La pipeline dell'insegnante usa apprendimento per rinforzo e fasi supervisionate; i modelli distillati rilasciati sono affinati con campioni prodotti da R1. Il produttore descrive 800.000 esempi selezionati per queste versioni. Non presumere che lo studente da 7 miliardi di parametri abbia a sua volta l'architettura mixture-of-experts del modello completo o abbia seguito ogni fase di addestramento dell'insegnante. La distillazione gli conferisce uno stile di ragionamento appreso; non rende le sue conclusioni equivalenti a quelle dell'insegnante.
Il modello esatto e la sua configurazione
La tabella ufficiale dei modelli identifica Qwen2.5-Math-7B come base di questa edizione. DeepSeek modifica la configurazione e le impostazioni del tokenizer, quindi contano il checkpoint esatto rilasciato e il template di chat. La configurazione pubblicata usa un'architettura di modello linguistico causale Qwen2 con 28 livelli e pesi bfloat16. Imposta il massimo di posizioni a 131.072. Quel valore di configurazione non costituisce una convalida separata dell'accuratezza su documenti lunghi: la tabella di contesto 128K della scheda R1 condivisa descrive i modelli R1 completi, mentre la tabella dei modelli distillati identifica la derivazione senza pubblicare una tabella di contesto convalidato per ogni studente.
Usalo per un'attività con un esito verificabile. Per la matematica, fornisci l'enunciato completo, le definizioni e le unità. Per il codice, includi funzione pertinente, input, risultato osservato e comportamento desiderato. Per una domanda logica, elenca i fatti e distingui una conclusione richiesta da un'ipotesi. Richiedi un risultato finale verificabile indipendentemente, ad esempio un valore riquadrato, uno schema conciso di dimostrazione o una patch spiegata. Questi esempi applicano l'ambito di ragionamento documentato dal produttore; non affermano che il modello esegua codice o verifichi automaticamente dimostrazioni.
Come preparare il prompt
DeepSeek raccomanda di inserire tutte le istruzioni nel prompt dell'utente ed evitare un prompt di sistema per questa versione R1. Per un problema matematico, richiedi ragionamento passo passo e una risposta finale chiaramente delimitata. Includi ogni struttura di output nello stesso prompt: ad esempio una breve conclusione seguita da ipotesi e calcoli di supporto. Un'applicazione deve usare il tokenizer e la formattazione propri dello studente, anziché sostituirli con il template Qwen di base senza verificare le modifiche del produttore.
Il produttore segnala che alcune query possono produrre un blocco di pensiero vuoto e aggirare lo schema di ragionamento previsto. Il rimedio raccomandato è far iniziare la generazione con il marcatore di apertura del pensiero e un ritorno a capo in un flusso compatibile. È una raccomandazione documentata sul formato di generazione, non una promessa che ogni applicazione esponga tale controllo. Mantieni distinta la risposta finale dal testo di ragionamento più lungo quando presenti un risultato.
Impostazioni di generazione e spazio disponibile
DeepSeek raccomanda una temperatura tra 0.5 e 0.7, con 0.6 come punto iniziale preferito, per ridurre output ripetitivi o incoerenti. La configurazione di valutazione usa un budget di generazione di 32.768 token e top_p 0.95. Queste scelte di valutazione non sono un massimo rigido universale. Ragionamento, testo originale e risposta finale richiedono tutti spazio nel contesto configurato, quindi una richiesta con una dimostrazione o un listato di codice lungo deve comunque lasciare spazio al completamento.
Limiti che influiscono sulla scelta del modello
Un piccolo modello distillato resta un compromesso di ragionamento distinto. I materiali di rilascio del produttore non stabiliscono input di immagini, audio o video per questo checkpoint, né un protocollo dedicato di chiamate a strumenti. L'esecuzione di strumenti o l'accesso a dati aggiornati richiederebbero un flusso applicativo configurato separatamente. La versione non eredita nemmeno le successive modifiche alla politica dei prompt di DeepSeek-R1-0528 semplicemente grazie al nome R1. Verifica le risposte numeriche, esamina le modifiche proposte al codice e controlla se la conclusione finale derivi dai fatti forniti; una lunga trascrizione del ragionamento da sola non è prova di correttezza.
", "aboutText": "Introduzione: un modello di ragionamento più piccolo derivato da R1\n\nDeepSeek-R1-Distill-Qwen-7B trasferisce esempi di ragionamento da DeepSeek-R1 in un modello denso basato su Qwen2.5-Math-7B. Accetta testo e genera testo, inclusi svolgimenti, spiegazioni di programmazione e risposte a problemi logici. Questa esatta distillazione da 7 miliardi di parametri è un checkpoint separato da DeepSeek-R1 completo, dal Qwen2.5-Math-7B originale e dalle edizioni distillate più grandi. Il nome registra sia il produttore dei dati di ragionamento sia la famiglia del modello di base.\n\nIl contributo della distillazione\n\nLa ricerca R1 di DeepSeek distingue l'addestramento del grande modello insegnante di ragionamento dall'affinamento dei suoi studenti più piccoli. La pipeline dell'insegnante usa apprendimento per rinforzo e fasi supervisionate; i modelli distillati rilasciati sono affinati con campioni prodotti da R1. Il produttore descrive 800.000 esempi selezionati per queste versioni. Non presumere che lo studente da 7 miliardi di parametri abbia a sua volta l'architettura mixture-of-experts del modello completo o abbia seguito ogni fase di addestramento dell'insegnante. La distillazione gli conferisce uno stile di ragionamento appreso; non rende le sue conclusioni equivalenti a quelle dell'insegnante.\n\nIl modello esatto e la sua configurazione\n\nLa tabella ufficiale dei modelli identifica Qwen2.5-Math-7B come base di questa edizione. DeepSeek modifica la configurazione e le impostazioni del tokenizer, quindi contano il checkpoint esatto rilasciato e il template di chat. La configurazione pubblicata usa un'architettura di modello linguistico causale Qwen2 con 28 livelli e pesi bfloat16. Imposta il massimo di posizioni a 131.072. Quel valore di configurazione non costituisce una convalida separata dell'accuratezza su documenti lunghi: la tabella di contesto 128K della scheda R1 condivisa descrive i modelli R1 completi, mentre la tabella dei modelli distillati identifica la derivazione senza pubblicare una tabella di contesto convalidato per ogni studente.\n\nUsalo per un'attività con un esito verificabile. Per la matematica, fornisci l'enunciato completo, le definizioni e le unità. Per il codice, includi funzione pertinente, input, risultato osservato e comportamento desiderato. Per una domanda logica, elenca i fatti e distingui una conclusione richiesta da un'ipotesi. Richiedi un risultato finale verificabile indipendentemente, ad esempio un valore riquadrato, uno schema conciso di dimostrazione o una patch spiegata. Questi esempi applicano l'ambito di ragionamento documentato dal produttore; non affermano che il modello esegua codice o verifichi automaticamente dimostrazioni.\n\nCome preparare il prompt\n\nDeepSeek raccomanda di inserire tutte le istruzioni nel prompt dell'utente ed evitare un prompt di sistema per questa versione R1. Per un problema matematico, richiedi ragionamento passo passo e una risposta finale chiaramente delimitata. Includi ogni struttura di output nello stesso prompt: ad esempio una breve conclusione seguita da ipotesi e calcoli di supporto. Un'applicazione deve usare il tokenizer e la formattazione propri dello studente, anziché sostituirli con il template Qwen di base senza verificare le modifiche del produttore.\n\nIl produttore segnala che alcune query possono produrre un blocco di pensiero vuoto e aggirare lo schema di ragionamento previsto. Il rimedio raccomandato è far iniziare la generazione con il marcatore di apertura del pensiero e un ritorno a capo in un flusso compatibile. È una raccomandazione documentata sul formato di generazione, non una promessa che ogni applicazione esponga tale controllo. Mantieni distinta la risposta finale dal testo di ragionamento più lungo quando presenti un risultato.\n\nImpostazioni di generazione e spazio disponibile\n\nDeepSeek raccomanda una temperatura tra 0.5 e 0.7, con 0.6 come punto iniziale preferito, per ridurre output ripetitivi o incoerenti. La configurazione di valutazione usa un budget di generazione di 32.768 token e top_p 0.95. Queste scelte di valutazione non sono un massimo rigido universale. Ragionamento, testo originale e risposta finale richiedono tutti spazio nel contesto configurato, quindi una richiesta con una dimostrazione o un listato di codice lungo deve comunque lasciare spazio al completamento.\n\nLimiti che influiscono sulla scelta del modello\n\nUn piccolo modello distillato resta un compromesso di ragionamento distinto. I materiali di rilascio del produttore non stabiliscono input di immagini, audio o video per questo checkpoint, né un protocollo dedicato di chiamate a strumenti. L'esecuzione di strumenti o l'accesso a dati aggiornati richiederebbero un flusso applicativo configurato separatamente. La versione non eredita nemmeno le successive modifiche alla politica dei prompt di DeepSeek-R1-0528 semplicemente grazie al nome R1. Verifica le risposte numeriche, esamina le modifiche proposte al codice e controlla se la conclusione finale derivi dai fatti forniti; una lunga trascrizione del ragionamento da sola non è prova di correttezza.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B è il modello compatto e denso di ragionamento di DeepSeek, affinato a partire da Qwen2.5-Math-7B con esempi generati da R1. Riceve testo e produce testo per attività matematiche, di programmazione e logiche, con indicazioni di prompting specifiche del checkpoint.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Introduzione: un modello di ragionamento più piccolo derivato da R1
DeepSeek-R1-Distill-Qwen-7B trasferisce esempi di ragionamento da DeepSeek-R1 in un modello denso basato su Qwen2.5-Math-7B. Accetta testo e genera testo, inclusi svolgimenti, spiegazioni di programmazione e risposte a problemi logici. Questa esatta distillazione da 7 miliardi di parametri è un checkpoint separato da DeepSeek-R1 completo, dal Qwen2.5-Math-7B originale e dalle edizioni distillate più grandi. Il nome registra sia il produttore dei dati di ragionamento sia la famiglia del modello di base.
Il contributo della distillazione
La ricerca R1 di DeepSeek distingue l'addestramento del grande modello insegnante di ragionamento dall'affinamento dei suoi studenti più piccoli. La pipeline dell'insegnante usa apprendimento per rinforzo e fasi supervisionate; i modelli distillati rilasciati sono affinati con campioni prodotti da R1. Il produttore descrive 800.000 esempi selezionati per queste versioni. Non presumere che lo studente da 7 miliardi di parametri abbia a sua volta l'architettura mixture-of-experts del modello completo o abbia seguito ogni fase di addestramento dell'insegnante. La distillazione gli conferisce uno stile di ragionamento appreso; non rende le sue conclusioni equivalenti a quelle dell'insegnante.
Il modello esatto e la sua configurazione
La tabella ufficiale dei modelli identifica Qwen2.5-Math-7B come base di questa edizione. DeepSeek modifica la configurazione e le impostazioni del tokenizer, quindi contano il checkpoint esatto rilasciato e il template di chat. La configurazione pubblicata usa un'architettura di modello linguistico causale Qwen2 con 28 livelli e pesi bfloat16. Imposta il massimo di posizioni a 131.072. Quel valore di configurazione non costituisce una convalida separata dell'accuratezza su documenti lunghi: la tabella di contesto 128K della scheda R1 condivisa descrive i modelli R1 completi, mentre la tabella dei modelli distillati identifica la derivazione senza pubblicare una tabella di contesto convalidato per ogni studente.
Usalo per un'attività con un esito verificabile. Per la matematica, fornisci l'enunciato completo, le definizioni e le unità. Per il codice, includi funzione pertinente, input, risultato osservato e comportamento desiderato. Per una domanda logica, elenca i fatti e distingui una conclusione richiesta da un'ipotesi. Richiedi un risultato finale verificabile indipendentemente, ad esempio un valore riquadrato, uno schema conciso di dimostrazione o una patch spiegata. Questi esempi applicano l'ambito di ragionamento documentato dal produttore; non affermano che il modello esegua codice o verifichi automaticamente dimostrazioni.
Come preparare il prompt
DeepSeek raccomanda di inserire tutte le istruzioni nel prompt dell'utente ed evitare un prompt di sistema per questa versione R1. Per un problema matematico, richiedi ragionamento passo passo e una risposta finale chiaramente delimitata. Includi ogni struttura di output nello stesso prompt: ad esempio una breve conclusione seguita da ipotesi e calcoli di supporto. Un'applicazione deve usare il tokenizer e la formattazione propri dello studente, anziché sostituirli con il template Qwen di base senza verificare le modifiche del produttore.
Il produttore segnala che alcune query possono produrre un blocco di pensiero vuoto e aggirare lo schema di ragionamento previsto. Il rimedio raccomandato è far iniziare la generazione con il marcatore di apertura del pensiero e un ritorno a capo in un flusso compatibile. È una raccomandazione documentata sul formato di generazione, non una promessa che ogni applicazione esponga tale controllo. Mantieni distinta la risposta finale dal testo di ragionamento più lungo quando presenti un risultato.
Impostazioni di generazione e spazio disponibile
DeepSeek raccomanda una temperatura tra 0.5 e 0.7, con 0.6 come punto iniziale preferito, per ridurre output ripetitivi o incoerenti. La configurazione di valutazione usa un budget di generazione di 32.768 token e top_p 0.95. Queste scelte di valutazione non sono un massimo rigido universale. Ragionamento, testo originale e risposta finale richiedono tutti spazio nel contesto configurato, quindi una richiesta con una dimostrazione o un listato di codice lungo deve comunque lasciare spazio al completamento.
Limiti che influiscono sulla scelta del modello
Un piccolo modello distillato resta un compromesso di ragionamento distinto. I materiali di rilascio del produttore non stabiliscono input di immagini, audio o video per questo checkpoint, né un protocollo dedicato di chiamate a strumenti. L'esecuzione di strumenti o l'accesso a dati aggiornati richiederebbero un flusso applicativo configurato separatamente. La versione non eredita nemmeno le successive modifiche alla politica dei prompt di DeepSeek-R1-0528 semplicemente grazie al nome R1. Verifica le risposte numeriche, esamina le modifiche proposte al codice e controlla se la conclusione finale derivi dai fatti forniti; una lunga trascrizione del ragionamento da sola non è prova di correttezza.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti DeepSeek-R1-Distill-Qwen-7B-ultra | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.00014 / 1K token Output · Token in output $0.00028 / 1K token Input · Lettura dalla cache $0 / 1K token Input · Scrittura nella cache $0 / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "DeepSeek-R1-Distill-Qwen-7B-ultra", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Usa i percorsi dei metodi indicati sopra.
DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B è il modello compatto e denso di ragionamento di DeepSeek, affinato a partire da Qwen2.5-Math-7B con esempi generati da R1. Riceve testo e produce testo per attività matematiche, di programmazione e logiche, con indicazioni di prompting specifiche del checkpoint.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Introduzione: un modello di ragionamento più piccolo derivato da R1
DeepSeek-R1-Distill-Qwen-7B trasferisce esempi di ragionamento da DeepSeek-R1 in un modello denso basato su Qwen2.5-Math-7B. Accetta testo e genera testo, inclusi svolgimenti, spiegazioni di programmazione e risposte a problemi logici. Questa esatta distillazione da 7 miliardi di parametri è un checkpoint separato da DeepSeek-R1 completo, dal Qwen2.5-Math-7B originale e dalle edizioni distillate più grandi. Il nome registra sia il produttore dei dati di ragionamento sia la famiglia del modello di base.
Il contributo della distillazione
La ricerca R1 di DeepSeek distingue l'addestramento del grande modello insegnante di ragionamento dall'affinamento dei suoi studenti più piccoli. La pipeline dell'insegnante usa apprendimento per rinforzo e fasi supervisionate; i modelli distillati rilasciati sono affinati con campioni prodotti da R1. Il produttore descrive 800.000 esempi selezionati per queste versioni. Non presumere che lo studente da 7 miliardi di parametri abbia a sua volta l'architettura mixture-of-experts del modello completo o abbia seguito ogni fase di addestramento dell'insegnante. La distillazione gli conferisce uno stile di ragionamento appreso; non rende le sue conclusioni equivalenti a quelle dell'insegnante.
Il modello esatto e la sua configurazione
La tabella ufficiale dei modelli identifica Qwen2.5-Math-7B come base di questa edizione. DeepSeek modifica la configurazione e le impostazioni del tokenizer, quindi contano il checkpoint esatto rilasciato e il template di chat. La configurazione pubblicata usa un'architettura di modello linguistico causale Qwen2 con 28 livelli e pesi bfloat16. Imposta il massimo di posizioni a 131.072. Quel valore di configurazione non costituisce una convalida separata dell'accuratezza su documenti lunghi: la tabella di contesto 128K della scheda R1 condivisa descrive i modelli R1 completi, mentre la tabella dei modelli distillati identifica la derivazione senza pubblicare una tabella di contesto convalidato per ogni studente.
Usalo per un'attività con un esito verificabile. Per la matematica, fornisci l'enunciato completo, le definizioni e le unità. Per il codice, includi funzione pertinente, input, risultato osservato e comportamento desiderato. Per una domanda logica, elenca i fatti e distingui una conclusione richiesta da un'ipotesi. Richiedi un risultato finale verificabile indipendentemente, ad esempio un valore riquadrato, uno schema conciso di dimostrazione o una patch spiegata. Questi esempi applicano l'ambito di ragionamento documentato dal produttore; non affermano che il modello esegua codice o verifichi automaticamente dimostrazioni.
Come preparare il prompt
DeepSeek raccomanda di inserire tutte le istruzioni nel prompt dell'utente ed evitare un prompt di sistema per questa versione R1. Per un problema matematico, richiedi ragionamento passo passo e una risposta finale chiaramente delimitata. Includi ogni struttura di output nello stesso prompt: ad esempio una breve conclusione seguita da ipotesi e calcoli di supporto. Un'applicazione deve usare il tokenizer e la formattazione propri dello studente, anziché sostituirli con il template Qwen di base senza verificare le modifiche del produttore.
Il produttore segnala che alcune query possono produrre un blocco di pensiero vuoto e aggirare lo schema di ragionamento previsto. Il rimedio raccomandato è far iniziare la generazione con il marcatore di apertura del pensiero e un ritorno a capo in un flusso compatibile. È una raccomandazione documentata sul formato di generazione, non una promessa che ogni applicazione esponga tale controllo. Mantieni distinta la risposta finale dal testo di ragionamento più lungo quando presenti un risultato.
Impostazioni di generazione e spazio disponibile
DeepSeek raccomanda una temperatura tra 0.5 e 0.7, con 0.6 come punto iniziale preferito, per ridurre output ripetitivi o incoerenti. La configurazione di valutazione usa un budget di generazione di 32.768 token e top_p 0.95. Queste scelte di valutazione non sono un massimo rigido universale. Ragionamento, testo originale e risposta finale richiedono tutti spazio nel contesto configurato, quindi una richiesta con una dimostrazione o un listato di codice lungo deve comunque lasciare spazio al completamento.
Limiti che influiscono sulla scelta del modello
Un piccolo modello distillato resta un compromesso di ragionamento distinto. I materiali di rilascio del produttore non stabiliscono input di immagini, audio o video per questo checkpoint, né un protocollo dedicato di chiamate a strumenti. L'esecuzione di strumenti o l'accesso a dati aggiornati richiederebbero un flusso applicativo configurato separatamente. La versione non eredita nemmeno le successive modifiche alla politica dei prompt di DeepSeek-R1-0528 semplicemente grazie al nome R1. Verifica le risposte numeriche, esamina le modifiche proposte al codice e controlla se la conclusione finale derivi dai fatti forniti; una lunga trascrizione del ragionamento da sola non è prova di correttezza.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti DeepSeek-R1-Distill-Qwen-7B-ultra | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.00014 / 1K token Output · Token in output $0.00028 / 1K token Input · Lettura dalla cache $0 / 1K token Input · Scrittura nella cache $0 / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "DeepSeek-R1-Distill-Qwen-7B-ultra",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.