Qwen2.5-Coder-7B-Instruct je vydání rodiny Qwen zaměřené na kód, dříve známé jako CodeQwen, ve velikosti 7B a doladěné pro plnění instrukcí. Jeho hlavními úlohami jsou generování kódu, uvažování o chování programu a opravy kódu. Přijímá text včetně požadavků a zdrojového kódu a vrací text, který může obsahovat implementaci, vysvětlení nebo návrh změny.
Programovací schopnosti a trénování
Výrobce popisuje 5.5 bilionu trénovacích tokenů zahrnujících zdrojový kód, materiály propojující text s kódem a syntetické příklady. Rodina si vedle programovací specializace zachovává matematické a obecné jazykové schopnosti. Oznámení vydání rozlišuje generování programu, uvažování o jeho běhu a opravu stávající implementace; tyto úlohy vyžadují odlišné vstupy i konečné výstupy.
Pro generování dodejte programovací jazyk, signaturu funkce, typy vstupů a očekávanou návratovou hodnotu. Přiložte omezení, například zda funkce smí měnit vstup nebo používat externí závislost. Požadujte implementaci a krátké vysvětlení, jak splňuje každý požadavek. Například zadání řazení může určit, že se musí zachovat duplicitní hodnoty a původní seznam zůstat nezměněný, a poté požadovat funkci s příklady volání pro prázdný seznam a seznam s opakovanými hodnotami.
Pro uvažování o kódu dodejte přesný fragment a konkrétní vstup ke sledování. Ptejte se, které větve se provedou, jak se mění mezihodnoty a co funkce vrátí. To je užitečnější než nevymezený požadavek vysvětlit celý soubor: odpověď propojuje konkrétní vstup s konkrétní cestou programem. S fragmentem ponechte případné volané pomocné funkce nebo příslušné definice typů.
Pro opravu dodejte chybové chování, očekávané chování a kód, který rozdíl určuje. Samotná chybová zpráva může ponechat důležitou podmínku neurčenou. Požadujte návrh opravy, vysvětlení příčiny a příklady rozlišující staré a zamýšlené chování. Vrácená oprava je textový výstup; její kompilace, spuštění nebo aplikace do repozitáře vyžaduje okolní vývojové prostředí.
Pojmenovaná edice 7B
Vydaný model má 7.61 miliardy parametrů, včetně 6.53 miliardy parametrů mimo embeddingy, a 28 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v pozornosti. Jeho grouped-query attention má 28 dotazovacích hlav a 4 hlavy klíč/hodnota. Tyto podrobnosti popisují toto vydání, nikoli větší edici Coder.
Rodina poskytuje samostatné modely Base a Instruct. Instruct je uzpůsoben konverzačním požadavkům; Base představuje základ pro doplňování a další ladění. Tato položka se týká modelu 7B doladěného pro plnění instrukcí. Příklady a hlavní výsledky vydání pro jiné velikosti neurčují schopnosti nebo požadavky na prostředky této edice.
Příprava instrukce
Karta modelu předvádí konverzaci se samostatnými systémovými a uživatelskými zprávami a odpovídající šablonou chatu. Trvalá pravidla odpovědi, například jak prezentovat implementaci a vysvětlení, oddělte od kódu a úlohy. Označte, který fragment je stávající zdroj, který text je požadavek a jaký výstup má být vrácen. To pomáhá zachovat identifikátory, rozhraní a chování, které požadovaná změna musí ponechat.
Užitečný vstup pro vývojářského asistenta může obsahovat krátký modul, jeho volající kód a zamýšlenou změnu. Požadujte upravenou funkci, seznam předpokladů a příklady vstupů s očekávanými výstupy. Pro generovaný vizuální výstup určete data a interakce k implementaci a požadujte výsledný zdrojový text; rodina zaměřená na kód také ilustruje asistenty programování a vizuální výstupy. Vykreslení výstupu zůstává samostatným krokem odděleným od generování jeho zdroje.
Zpracování dlouhého textu
Karta modelu uvádí plný kontext 131,072 tokenů, zatímco vydaná konfigurace je zpočátku nastavena na 32,768 tokenů. Zpracování vstupů nad toto nastavení vyžaduje dokumentované rozšíření YaRN. Příklad určuje škálovací faktor 4.0 a původní maximální nastavení pozic 32,768. Výrobce uvádí, že statické škálování může ovlivnit chování u kratších textů, a doporučuje rozšíření přidat, když je dlouhý kontext potřeba.
Větší kontext používejte k uchování souvisejícího kódu a požadavků společně, ale určete skutečnou otázku: najít nekompatibilní volání, vysvětlit tok dat nebo navrhnout změnu v určeném rozhraní. Přiložte části určující chování místo nesouvisejících materiálů projektu. V rychlém úvodu je 512 generovaných tokenů příkladovým nastavením; karta z této hodnoty nevyvozuje samostatnou maximální kapacitu výstupu.
Dokumentovaným výsledkem modelu je text. Jeho role v programovacím agentovi závisí na aplikaci poskytující přístup k repozitáři, provádění a zpětnou vazbu. Tyto operace oddělte od schopnosti modelu navrhovat kód a vysvětlovat jeho chování a při plánování opakovatelné úlohy výslovně zachovejte přesnou edici 7B-Instruct a nastavení dlouhého kontextu.
", "aboutText": "Qwen2.5-Coder-7B-Instruct je vydání rodiny Qwen zaměřené na kód, dříve známé jako CodeQwen, ve velikosti 7B a doladěné pro plnění instrukcí. Jeho hlavními úlohami jsou generování kódu, uvažování o chování programu a opravy kódu. Přijímá text včetně požadavků a zdrojového kódu a vrací text, který může obsahovat implementaci, vysvětlení nebo návrh změny.\n\nProgramovací schopnosti a trénování\n\nVýrobce popisuje 5.5 bilionu trénovacích tokenů zahrnujících zdrojový kód, materiály propojující text s kódem a syntetické příklady. Rodina si vedle programovací specializace zachovává matematické a obecné jazykové schopnosti. Oznámení vydání rozlišuje generování programu, uvažování o jeho běhu a opravu stávající implementace; tyto úlohy vyžadují odlišné vstupy i konečné výstupy.\n\nPro generování dodejte programovací jazyk, signaturu funkce, typy vstupů a očekávanou návratovou hodnotu. Přiložte omezení, například zda funkce smí měnit vstup nebo používat externí závislost. Požadujte implementaci a krátké vysvětlení, jak splňuje každý požadavek. Například zadání řazení může určit, že se musí zachovat duplicitní hodnoty a původní seznam zůstat nezměněný, a poté požadovat funkci s příklady volání pro prázdný seznam a seznam s opakovanými hodnotami.\n\nPro uvažování o kódu dodejte přesný fragment a konkrétní vstup ke sledování. Ptejte se, které větve se provedou, jak se mění mezihodnoty a co funkce vrátí. To je užitečnější než nevymezený požadavek vysvětlit celý soubor: odpověď propojuje konkrétní vstup s konkrétní cestou programem. S fragmentem ponechte případné volané pomocné funkce nebo příslušné definice typů.\n\nPro opravu dodejte chybové chování, očekávané chování a kód, který rozdíl určuje. Samotná chybová zpráva může ponechat důležitou podmínku neurčenou. Požadujte návrh opravy, vysvětlení příčiny a příklady rozlišující staré a zamýšlené chování. Vrácená oprava je textový výstup; její kompilace, spuštění nebo aplikace do repozitáře vyžaduje okolní vývojové prostředí.\n\nPojmenovaná edice 7B\n\nVydaný model má 7.61 miliardy parametrů, včetně 6.53 miliardy parametrů mimo embeddingy, a 28 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v pozornosti. Jeho grouped-query attention má 28 dotazovacích hlav a 4 hlavy klíč/hodnota. Tyto podrobnosti popisují toto vydání, nikoli větší edici Coder.\n\nRodina poskytuje samostatné modely Base a Instruct. Instruct je uzpůsoben konverzačním požadavkům; Base představuje základ pro doplňování a další ladění. Tato položka se týká modelu 7B doladěného pro plnění instrukcí. Příklady a hlavní výsledky vydání pro jiné velikosti neurčují schopnosti nebo požadavky na prostředky této edice.\n\nPříprava instrukce\n\nKarta modelu předvádí konverzaci se samostatnými systémovými a uživatelskými zprávami a odpovídající šablonou chatu. Trvalá pravidla odpovědi, například jak prezentovat implementaci a vysvětlení, oddělte od kódu a úlohy. Označte, který fragment je stávající zdroj, který text je požadavek a jaký výstup má být vrácen. To pomáhá zachovat identifikátory, rozhraní a chování, které požadovaná změna musí ponechat.\n\nUžitečný vstup pro vývojářského asistenta může obsahovat krátký modul, jeho volající kód a zamýšlenou změnu. Požadujte upravenou funkci, seznam předpokladů a příklady vstupů s očekávanými výstupy. Pro generovaný vizuální výstup určete data a interakce k implementaci a požadujte výsledný zdrojový text; rodina zaměřená na kód také ilustruje asistenty programování a vizuální výstupy. Vykreslení výstupu zůstává samostatným krokem odděleným od generování jeho zdroje.\n\nZpracování dlouhého textu\n\nKarta modelu uvádí plný kontext 131,072 tokenů, zatímco vydaná konfigurace je zpočátku nastavena na 32,768 tokenů. Zpracování vstupů nad toto nastavení vyžaduje dokumentované rozšíření YaRN. Příklad určuje škálovací faktor 4.0 a původní maximální nastavení pozic 32,768. Výrobce uvádí, že statické škálování může ovlivnit chování u kratších textů, a doporučuje rozšíření přidat, když je dlouhý kontext potřeba.\n\nVětší kontext používejte k uchování souvisejícího kódu a požadavků společně, ale určete skutečnou otázku: najít nekompatibilní volání, vysvětlit tok dat nebo navrhnout změnu v určeném rozhraní. Přiložte části určující chování místo nesouvisejících materiálů projektu. V rychlém úvodu je 512 generovaných tokenů příkladovým nastavením; karta z této hodnoty nevyvozuje samostatnou maximální kapacitu výstupu.\n\nDokumentovaným výsledkem modelu je text. Jeho role v programovacím agentovi závisí na aplikaci poskytující přístup k repozitáři, provádění a zpětnou vazbu. Tyto operace oddělte od schopnosti modelu navrhovat kód a vysvětlovat jeho chování a při plánování opakovatelné úlohy výslovně zachovejte přesnou edici 7B-Instruct a nastavení dlouhého kontextu.", "editorialOverlay": { "copy_fields": { "practical_html": "Technický příklad v angličtině
Repair integer averaging\n\nFix this Python function: def mean(values): return sum(values) // len(values). Requirement: return the arithmetic mean as a float, preserve fractional results and raise ValueError for empty input. Provide the corrected function and tests for [1, 2], [-2, 2] and []. Explain the two distinct defects.A corrected function, three tests and separate explanations for floor division and empty-input behavior.Check that [1, 2] keeps its fractional mean and that empty input raises the specified exception.qwen2.5-coder-7b-instructQwen2.5-Coder-7B-Instruct je textový model pro generování, vysvětlování a opravy kódu podle instrukcí. Jeho vydání se 7.61 miliardy parametrů podporuje s dokumentovanou konfigurací dlouhého kontextu rozšířený kontext až 131,072 tokenů.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2.5-Coder-7B-Instruct je vydání rodiny Qwen zaměřené na kód, dříve známé jako CodeQwen, ve velikosti 7B a doladěné pro plnění instrukcí. Jeho hlavními úlohami jsou generování kódu, uvažování o chování programu a opravy kódu. Přijímá text včetně požadavků a zdrojového kódu a vrací text, který může obsahovat implementaci, vysvětlení nebo návrh změny.
Programovací schopnosti a trénování
Výrobce popisuje 5.5 bilionu trénovacích tokenů zahrnujících zdrojový kód, materiály propojující text s kódem a syntetické příklady. Rodina si vedle programovací specializace zachovává matematické a obecné jazykové schopnosti. Oznámení vydání rozlišuje generování programu, uvažování o jeho běhu a opravu stávající implementace; tyto úlohy vyžadují odlišné vstupy i konečné výstupy.
Pro generování dodejte programovací jazyk, signaturu funkce, typy vstupů a očekávanou návratovou hodnotu. Přiložte omezení, například zda funkce smí měnit vstup nebo používat externí závislost. Požadujte implementaci a krátké vysvětlení, jak splňuje každý požadavek. Například zadání řazení může určit, že se musí zachovat duplicitní hodnoty a původní seznam zůstat nezměněný, a poté požadovat funkci s příklady volání pro prázdný seznam a seznam s opakovanými hodnotami.
Pro uvažování o kódu dodejte přesný fragment a konkrétní vstup ke sledování. Ptejte se, které větve se provedou, jak se mění mezihodnoty a co funkce vrátí. To je užitečnější než nevymezený požadavek vysvětlit celý soubor: odpověď propojuje konkrétní vstup s konkrétní cestou programem. S fragmentem ponechte případné volané pomocné funkce nebo příslušné definice typů.
Pro opravu dodejte chybové chování, očekávané chování a kód, který rozdíl určuje. Samotná chybová zpráva může ponechat důležitou podmínku neurčenou. Požadujte návrh opravy, vysvětlení příčiny a příklady rozlišující staré a zamýšlené chování. Vrácená oprava je textový výstup; její kompilace, spuštění nebo aplikace do repozitáře vyžaduje okolní vývojové prostředí.
Pojmenovaná edice 7B
Vydaný model má 7.61 miliardy parametrů, včetně 6.53 miliardy parametrů mimo embeddingy, a 28 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v pozornosti. Jeho grouped-query attention má 28 dotazovacích hlav a 4 hlavy klíč/hodnota. Tyto podrobnosti popisují toto vydání, nikoli větší edici Coder.
Rodina poskytuje samostatné modely Base a Instruct. Instruct je uzpůsoben konverzačním požadavkům; Base představuje základ pro doplňování a další ladění. Tato položka se týká modelu 7B doladěného pro plnění instrukcí. Příklady a hlavní výsledky vydání pro jiné velikosti neurčují schopnosti nebo požadavky na prostředky této edice.
Příprava instrukce
Karta modelu předvádí konverzaci se samostatnými systémovými a uživatelskými zprávami a odpovídající šablonou chatu. Trvalá pravidla odpovědi, například jak prezentovat implementaci a vysvětlení, oddělte od kódu a úlohy. Označte, který fragment je stávající zdroj, který text je požadavek a jaký výstup má být vrácen. To pomáhá zachovat identifikátory, rozhraní a chování, které požadovaná změna musí ponechat.
Užitečný vstup pro vývojářského asistenta může obsahovat krátký modul, jeho volající kód a zamýšlenou změnu. Požadujte upravenou funkci, seznam předpokladů a příklady vstupů s očekávanými výstupy. Pro generovaný vizuální výstup určete data a interakce k implementaci a požadujte výsledný zdrojový text; rodina zaměřená na kód také ilustruje asistenty programování a vizuální výstupy. Vykreslení výstupu zůstává samostatným krokem odděleným od generování jeho zdroje.
Zpracování dlouhého textu
Karta modelu uvádí plný kontext 131,072 tokenů, zatímco vydaná konfigurace je zpočátku nastavena na 32,768 tokenů. Zpracování vstupů nad toto nastavení vyžaduje dokumentované rozšíření YaRN. Příklad určuje škálovací faktor 4.0 a původní maximální nastavení pozic 32,768. Výrobce uvádí, že statické škálování může ovlivnit chování u kratších textů, a doporučuje rozšíření přidat, když je dlouhý kontext potřeba.
Větší kontext používejte k uchování souvisejícího kódu a požadavků společně, ale určete skutečnou otázku: najít nekompatibilní volání, vysvětlit tok dat nebo navrhnout změnu v určeném rozhraní. Přiložte části určující chování místo nesouvisejících materiálů projektu. V rychlém úvodu je 512 generovaných tokenů příkladovým nastavením; karta z této hodnoty nevyvozuje samostatnou maximální kapacitu výstupu.
Dokumentovaným výsledkem modelu je text. Jeho role v programovacím agentovi závisí na aplikaci poskytující přístup k repozitáři, provádění a zpětnou vazbu. Tyto operace oddělte od schopnosti modelu navrhovat kód a vysvětlovat jeho chování a při plánování opakovatelné úlohy výslovně zachovejte přesnou edici 7B-Instruct a nastavení dlouhého kontextu.
POST /v1/chat/completionstexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity qwen2.5-coder-7b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Příklady: system, user, assistant, tool, function Podmínky: Tyto role jsou výslovně zastoupeny typy kompatibility zdrojového kódu; přesná sada rolí zůstává specifická pro daný model. Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring|content_part[]|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_calls | Typtool_call[] | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_call_id | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: role=tool; použijte skutečně vrácené ID | Výchozí— |
Polemessages[].name | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].reasoning_content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Předávejte zpět skutečně vrácené uvažování tam, kde je tento model používá | Výchozí— |
Polemessages[].reasoning_details | Typobject|array | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemax_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polemax_completion_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Polestream_options.include_usage | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletemperature | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletop_p | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polestop | Typstring|string[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools | Typfunction_tool[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools[].type | Typstring | PožadavekVolitelné | Hodnoty a limity function Závisí na modelu | Výchozí— |
Poletools[].function.name | Typstring | PožadavekPovinné | Hodnoty a limity Platí, když: nástroj typu funkce je dodán | Výchozí— |
Poletools[].function.description | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletools[].function.parameters | TypJSON_schema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletool_choice | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleparallel_tool_calls | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleresponse_format | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning_effort | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleservice_tier | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleinstructions | Typstring | PožadavekVolitelné | Hodnoty a limity Pole kompatibility | Výchozí— |
Polefunctions | Typfunction[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polefunction_call | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleprompt_cache_options | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemodalities | Typstring[] | PožadavekVolitelné | Hodnoty a limity text | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: provider.options je na této textové trase Ultra odmítáno | Výchozí— |
Polecache_control.ttl | Typstring | PožadavekVolitelné | Hodnoty a limity Podmínky: Hodnota 1h je ve skutečných umístěních mezipaměti promptů odmítána | Výchozí— |
Text · text UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Kontraktspecifické pro model; nástroje uživatelských funkcí se liší od hostovaných nástrojů |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.0001 / 1K tokenů Výstup · Výstupní tokeny $0.0001 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen2.5-coder-7b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra qwen2.5-coder-7b-instruct
Použijte cesty metod uvedené výše.
qwen2.5-coder-7b-instructQwen2.5-Coder-7B-Instruct je textový model pro generování, vysvětlování a opravy kódu podle instrukcí. Jeho vydání se 7.61 miliardy parametrů podporuje s dokumentovanou konfigurací dlouhého kontextu rozšířený kontext až 131,072 tokenů.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2.5-Coder-7B-Instruct je vydání rodiny Qwen zaměřené na kód, dříve známé jako CodeQwen, ve velikosti 7B a doladěné pro plnění instrukcí. Jeho hlavními úlohami jsou generování kódu, uvažování o chování programu a opravy kódu. Přijímá text včetně požadavků a zdrojového kódu a vrací text, který může obsahovat implementaci, vysvětlení nebo návrh změny.
Programovací schopnosti a trénování
Výrobce popisuje 5.5 bilionu trénovacích tokenů zahrnujících zdrojový kód, materiály propojující text s kódem a syntetické příklady. Rodina si vedle programovací specializace zachovává matematické a obecné jazykové schopnosti. Oznámení vydání rozlišuje generování programu, uvažování o jeho běhu a opravu stávající implementace; tyto úlohy vyžadují odlišné vstupy i konečné výstupy.
Pro generování dodejte programovací jazyk, signaturu funkce, typy vstupů a očekávanou návratovou hodnotu. Přiložte omezení, například zda funkce smí měnit vstup nebo používat externí závislost. Požadujte implementaci a krátké vysvětlení, jak splňuje každý požadavek. Například zadání řazení může určit, že se musí zachovat duplicitní hodnoty a původní seznam zůstat nezměněný, a poté požadovat funkci s příklady volání pro prázdný seznam a seznam s opakovanými hodnotami.
Pro uvažování o kódu dodejte přesný fragment a konkrétní vstup ke sledování. Ptejte se, které větve se provedou, jak se mění mezihodnoty a co funkce vrátí. To je užitečnější než nevymezený požadavek vysvětlit celý soubor: odpověď propojuje konkrétní vstup s konkrétní cestou programem. S fragmentem ponechte případné volané pomocné funkce nebo příslušné definice typů.
Pro opravu dodejte chybové chování, očekávané chování a kód, který rozdíl určuje. Samotná chybová zpráva může ponechat důležitou podmínku neurčenou. Požadujte návrh opravy, vysvětlení příčiny a příklady rozlišující staré a zamýšlené chování. Vrácená oprava je textový výstup; její kompilace, spuštění nebo aplikace do repozitáře vyžaduje okolní vývojové prostředí.
Pojmenovaná edice 7B
Vydaný model má 7.61 miliardy parametrů, včetně 6.53 miliardy parametrů mimo embeddingy, a 28 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v pozornosti. Jeho grouped-query attention má 28 dotazovacích hlav a 4 hlavy klíč/hodnota. Tyto podrobnosti popisují toto vydání, nikoli větší edici Coder.
Rodina poskytuje samostatné modely Base a Instruct. Instruct je uzpůsoben konverzačním požadavkům; Base představuje základ pro doplňování a další ladění. Tato položka se týká modelu 7B doladěného pro plnění instrukcí. Příklady a hlavní výsledky vydání pro jiné velikosti neurčují schopnosti nebo požadavky na prostředky této edice.
Příprava instrukce
Karta modelu předvádí konverzaci se samostatnými systémovými a uživatelskými zprávami a odpovídající šablonou chatu. Trvalá pravidla odpovědi, například jak prezentovat implementaci a vysvětlení, oddělte od kódu a úlohy. Označte, který fragment je stávající zdroj, který text je požadavek a jaký výstup má být vrácen. To pomáhá zachovat identifikátory, rozhraní a chování, které požadovaná změna musí ponechat.
Užitečný vstup pro vývojářského asistenta může obsahovat krátký modul, jeho volající kód a zamýšlenou změnu. Požadujte upravenou funkci, seznam předpokladů a příklady vstupů s očekávanými výstupy. Pro generovaný vizuální výstup určete data a interakce k implementaci a požadujte výsledný zdrojový text; rodina zaměřená na kód také ilustruje asistenty programování a vizuální výstupy. Vykreslení výstupu zůstává samostatným krokem odděleným od generování jeho zdroje.
Zpracování dlouhého textu
Karta modelu uvádí plný kontext 131,072 tokenů, zatímco vydaná konfigurace je zpočátku nastavena na 32,768 tokenů. Zpracování vstupů nad toto nastavení vyžaduje dokumentované rozšíření YaRN. Příklad určuje škálovací faktor 4.0 a původní maximální nastavení pozic 32,768. Výrobce uvádí, že statické škálování může ovlivnit chování u kratších textů, a doporučuje rozšíření přidat, když je dlouhý kontext potřeba.
Větší kontext používejte k uchování souvisejícího kódu a požadavků společně, ale určete skutečnou otázku: najít nekompatibilní volání, vysvětlit tok dat nebo navrhnout změnu v určeném rozhraní. Přiložte části určující chování místo nesouvisejících materiálů projektu. V rychlém úvodu je 512 generovaných tokenů příkladovým nastavením; karta z této hodnoty nevyvozuje samostatnou maximální kapacitu výstupu.
Dokumentovaným výsledkem modelu je text. Jeho role v programovacím agentovi závisí na aplikaci poskytující přístup k repozitáři, provádění a zpětnou vazbu. Tyto operace oddělte od schopnosti modelu navrhovat kód a vysvětlovat jeho chování a při plánování opakovatelné úlohy výslovně zachovejte přesnou edici 7B-Instruct a nastavení dlouhého kontextu.
POST /v1/messagestextjson, sse| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity qwen2.5-coder-7b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF-8
řetězec messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.0001 / 1K tokenů Výstup · Výstupní tokeny $0.0001 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
{\n "model": "qwen2.5-coder-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra qwen2.5-coder-7b-instruct
Použijte cesty metod uvedené výše.
Technický příklad v angličtině
Repair integer averaging\n\nFix this Python function: def mean(values): return sum(values) // len(values). Requirement: return the arithmetic mean as a float, preserve fractional results and raise ValueError for empty input. Provide the corrected function and tests for [1, 2], [-2, 2] and []. Explain the two distinct defects.A corrected function, three tests and separate explanations for floor division and empty-input behavior.Check that [1, 2] keeps its fractional mean and that empty input raises the specified exception.