Qwen2.5-Coder-7B-Instruct je vydanie veľkosti 7B doladené na pokyny z rodiny Qwen zameranej na kód, predtým známej ako CodeQwen. Jeho hlavnými úlohami sú generovanie kódu, uvažovanie o správaní programu a oprava kódu. Prijíma text vrátane požiadaviek a zdrojového kódu a vracia text, ktorý môže obsahovať implementáciu, vysvetlenie alebo navrhovanú zmenu.
Programovacie schopnosti a tréning
Výrobca opisuje 5.5 bilióna tréningových tokenov vrátane zdrojového kódu, materiálu prepájajúceho text s kódom a syntetických príkladov. Popri programovacej špecializácii si rodina zachováva matematické a všeobecné jazykové schopnosti. Oznámenie vydania rozlišuje generovanie programu, uvažovanie o tom, ako program beží, a opravu existujúcej implementácie; tieto úlohy vyžadujú odlišné vstupy aj odlišné konečné artefakty.
Pri generovaní poskytnite programovací jazyk, signatúru funkcie, vstupné typy a očakávanú návratovú hodnotu. Zahrňte obmedzenia, napríklad či funkcia môže meniť svoj vstup alebo používať externú závislosť. Žiadajte implementáciu a krátke vysvetlenie, ako spĺňa každú požiadavku. Požiadavka na triedenie môže napríklad určiť, že duplicitné hodnoty musia zostať zachované a pôvodný zoznam sa nesmie zmeniť, a potom žiadať funkciu s príkladmi volaní pre prázdny zoznam a zoznam obsahujúci opakované hodnoty.
Pri uvažovaní o kóde poskytnite presný úsek a konkrétny vstup, ktorý treba sledovať. Pýtajte sa, ktoré vetvy sa vykonajú, ako sa menia priebežné hodnoty a čo funkcia vráti. To je užitočnejšie než nesmerovaná požiadavka vysvetliť celý súbor: odpoveď prepája konkrétny vstup s konkrétnou cestou programom. Pri úseku uchovávajte všetky volané pomocné funkcie alebo relevantné definície typov.
Pri oprave poskytnite chybné správanie, očakávané správanie a kód určujúci rozdiel. Samotná chybová správa môže ponechať dôležitú podmienku neurčenú. Žiadajte navrhovanú opravu, vysvetlenie príčiny a príklady odlišujúce staré správanie od zamýšľaného. Vrátená úprava kódu je textový artefakt; jej kompilácia, spustenie alebo aplikovanie na repozitár vyžadujú okolité vývojové prostredie.
Pomenované vydanie 7B
Vydaný model má 7.61 miliardy parametrov vrátane 6.53 miliardy parametrov mimo embeddingov a 28 vrstiev Transformer. Používa rotačné pozičné embeddingy, SwiGLU, RMSNorm a člen bias pre QKV v pozornosti. Jeho pozornosť so zoskupenými dotazmi má 28 hláv dotazov a 4 hlavy kľúčov/hodnôt. Tieto podrobnosti opisujú toto vydanie, nie väčšie vydanie Coder.
Rodina poskytuje samostatné modely Base a Instruct. Instruct je prispôsobený konverzačným požiadavkám; Base je základom pre dopĺňanie a ďalšie dolaďovanie. Tento záznam sa týka modelu 7B doladeného na pokyny. Príklady vydania a hlavné výsledky iných veľkostí nedefinujú schopnosti ani požiadavky na zdroje tohto vydania.
Príprava pokynu
Karta modelu demonštruje konverzáciu so samostatnými systémovými a používateľskými správami a zodpovedajúcou šablónou chatu. Trvalé pravidlá odpovede, napríklad spôsob prezentácie implementácie a vysvetlenia, umiestnite oddelene od kódu a úlohy. Označte, ktorý úsek je existujúcim zdrojovým kódom, ktorý text je požiadavkou a aký výstup sa musí vrátiť. Pomáha to zachovať identifikátory, rozhrania a správanie, ktoré musí požadovaná zmena ponechať.
Užitočný vstup pre vývojárskeho asistenta môže obsahovať krátky modul, jeho volajúci kód a zamýšľanú zmenu. Žiadajte upravenú funkciu, zoznam predpokladov a vzorové vstupy s očakávanými výstupmi. Pri generovanom vizuálnom artefakte určte údaje a interakcie, ktoré treba implementovať, a žiadajte výsledný zdrojový text; rodina zameraná na kód tiež ilustruje programovacích asistentov a vizuálne artefakty. Vykreslenie artefaktu zostáva samostatným krokom oddeleným od generovania jeho zdrojového kódu.
Spracovanie dlhého textu
Karta modelu uvádza plný kontext 131,072 tokenov, zatiaľ čo vydaná konfigurácia je pôvodne nastavená na 32,768 tokenov. Spracovanie vstupov nad toto nastavenie vyžaduje dokumentované rozšírenie YaRN. Príklad určuje faktor škálovania 4.0 a pôvodné nastavenie maxima pozícií 32,768. Výrobca uvádza, že statické škálovanie môže ovplyvniť správanie pri kratších textoch, a odporúča pridať rozšírenie, keď je potrebný dlhý kontext.
Väčší kontext používajte na uchovanie súvisiaceho kódu a požiadaviek spoločne, no určte skutočnú otázku: nájsť nekompatibilné volanie, vysvetliť dátovú cestu alebo navrhnúť zmenu v rámci určeného rozhrania. Zahrňte časti určujúce správanie namiesto nesúvisiaceho projektového materiálu. 512 generovaných tokenov v rýchlom úvode je ukážkové nastavenie; karta z tejto hodnoty nestanovuje samostatnú maximálnu výstupnú kapacitu.
Dokumentovaným výsledkom modelu je text. Jeho úloha v programovacom agentovi závisí od aplikácie poskytujúcej prístup k repozitáru, vykonávanie a spätnú väzbu. Tieto operácie oddeľujte od schopnosti modelu navrhovať kód a vysvetľovať jeho správanie a pri plánovaní opakovateľnej úlohy výslovne uchovávajte konkrétne vydanie 7B-Instruct a nastavenia dlhého kontextu.
", "aboutText": "Qwen2.5-Coder-7B-Instruct je vydanie veľkosti 7B doladené na pokyny z rodiny Qwen zameranej na kód, predtým známej ako CodeQwen. Jeho hlavnými úlohami sú generovanie kódu, uvažovanie o správaní programu a oprava kódu. Prijíma text vrátane požiadaviek a zdrojového kódu a vracia text, ktorý môže obsahovať implementáciu, vysvetlenie alebo navrhovanú zmenu.\n\nProgramovacie schopnosti a tréning\n\nVýrobca opisuje 5.5 bilióna tréningových tokenov vrátane zdrojového kódu, materiálu prepájajúceho text s kódom a syntetických príkladov. Popri programovacej špecializácii si rodina zachováva matematické a všeobecné jazykové schopnosti. Oznámenie vydania rozlišuje generovanie programu, uvažovanie o tom, ako program beží, a opravu existujúcej implementácie; tieto úlohy vyžadujú odlišné vstupy aj odlišné konečné artefakty.\n\nPri generovaní poskytnite programovací jazyk, signatúru funkcie, vstupné typy a očakávanú návratovú hodnotu. Zahrňte obmedzenia, napríklad či funkcia môže meniť svoj vstup alebo používať externú závislosť. Žiadajte implementáciu a krátke vysvetlenie, ako spĺňa každú požiadavku. Požiadavka na triedenie môže napríklad určiť, že duplicitné hodnoty musia zostať zachované a pôvodný zoznam sa nesmie zmeniť, a potom žiadať funkciu s príkladmi volaní pre prázdny zoznam a zoznam obsahujúci opakované hodnoty.\n\nPri uvažovaní o kóde poskytnite presný úsek a konkrétny vstup, ktorý treba sledovať. Pýtajte sa, ktoré vetvy sa vykonajú, ako sa menia priebežné hodnoty a čo funkcia vráti. To je užitočnejšie než nesmerovaná požiadavka vysvetliť celý súbor: odpoveď prepája konkrétny vstup s konkrétnou cestou programom. Pri úseku uchovávajte všetky volané pomocné funkcie alebo relevantné definície typov.\n\nPri oprave poskytnite chybné správanie, očakávané správanie a kód určujúci rozdiel. Samotná chybová správa môže ponechať dôležitú podmienku neurčenú. Žiadajte navrhovanú opravu, vysvetlenie príčiny a príklady odlišujúce staré správanie od zamýšľaného. Vrátená úprava kódu je textový artefakt; jej kompilácia, spustenie alebo aplikovanie na repozitár vyžadujú okolité vývojové prostredie.\n\nPomenované vydanie 7B\n\nVydaný model má 7.61 miliardy parametrov vrátane 6.53 miliardy parametrov mimo embeddingov a 28 vrstiev Transformer. Používa rotačné pozičné embeddingy, SwiGLU, RMSNorm a člen bias pre QKV v pozornosti. Jeho pozornosť so zoskupenými dotazmi má 28 hláv dotazov a 4 hlavy kľúčov/hodnôt. Tieto podrobnosti opisujú toto vydanie, nie väčšie vydanie Coder.\n\nRodina poskytuje samostatné modely Base a Instruct. Instruct je prispôsobený konverzačným požiadavkám; Base je základom pre dopĺňanie a ďalšie dolaďovanie. Tento záznam sa týka modelu 7B doladeného na pokyny. Príklady vydania a hlavné výsledky iných veľkostí nedefinujú schopnosti ani požiadavky na zdroje tohto vydania.\n\nPríprava pokynu\n\nKarta modelu demonštruje konverzáciu so samostatnými systémovými a používateľskými správami a zodpovedajúcou šablónou chatu. Trvalé pravidlá odpovede, napríklad spôsob prezentácie implementácie a vysvetlenia, umiestnite oddelene od kódu a úlohy. Označte, ktorý úsek je existujúcim zdrojovým kódom, ktorý text je požiadavkou a aký výstup sa musí vrátiť. Pomáha to zachovať identifikátory, rozhrania a správanie, ktoré musí požadovaná zmena ponechať.\n\nUžitočný vstup pre vývojárskeho asistenta môže obsahovať krátky modul, jeho volajúci kód a zamýšľanú zmenu. Žiadajte upravenú funkciu, zoznam predpokladov a vzorové vstupy s očakávanými výstupmi. Pri generovanom vizuálnom artefakte určte údaje a interakcie, ktoré treba implementovať, a žiadajte výsledný zdrojový text; rodina zameraná na kód tiež ilustruje programovacích asistentov a vizuálne artefakty. Vykreslenie artefaktu zostáva samostatným krokom oddeleným od generovania jeho zdrojového kódu.\n\nSpracovanie dlhého textu\n\nKarta modelu uvádza plný kontext 131,072 tokenov, zatiaľ čo vydaná konfigurácia je pôvodne nastavená na 32,768 tokenov. Spracovanie vstupov nad toto nastavenie vyžaduje dokumentované rozšírenie YaRN. Príklad určuje faktor škálovania 4.0 a pôvodné nastavenie maxima pozícií 32,768. Výrobca uvádza, že statické škálovanie môže ovplyvniť správanie pri kratších textoch, a odporúča pridať rozšírenie, keď je potrebný dlhý kontext.\n\nVäčší kontext používajte na uchovanie súvisiaceho kódu a požiadaviek spoločne, no určte skutočnú otázku: nájsť nekompatibilné volanie, vysvetliť dátovú cestu alebo navrhnúť zmenu v rámci určeného rozhrania. Zahrňte časti určujúce správanie namiesto nesúvisiaceho projektového materiálu. 512 generovaných tokenov v rýchlom úvode je ukážkové nastavenie; karta z tejto hodnoty nestanovuje samostatnú maximálnu výstupnú kapacitu.\n\nDokumentovaným výsledkom modelu je text. Jeho úloha v programovacom agentovi závisí od aplikácie poskytujúcej prístup k repozitáru, vykonávanie a spätnú väzbu. Tieto operácie oddeľujte od schopnosti modelu navrhovať kód a vysvetľovať jeho správanie a pri plánovaní opakovateľnej úlohy výslovne uchovávajte konkrétne vydanie 7B-Instruct a nastavenia dlhého kontextu.", "editorialOverlay": { "copy_fields": { "practical_html": "Technický príklad v angličtine
Repair integer averaging\n\nFix this Python function: def mean(values): return sum(values) // len(values). Requirement: return the arithmetic mean as a float, preserve fractional results and raise ValueError for empty input. Provide the corrected function and tests for [1, 2], [-2, 2] and []. Explain the two distinct defects.A corrected function, three tests and separate explanations for floor division and empty-input behavior.Check that [1, 2] keeps its fractional mean and that empty input raises the specified exception.qwen2.5-coder-7b-instructQwen2.5-Coder-7B-Instruct je textový model na generovanie, vysvetľovanie a opravu kódu podľa pokynov. Jeho vydanie so 7.61 miliardy parametrov podporuje rozšírené kontexty do 131,072 tokenov s dokumentovanou konfiguráciou dlhého kontextu.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Qwen2.5-Coder-7B-Instruct je vydanie veľkosti 7B doladené na pokyny z rodiny Qwen zameranej na kód, predtým známej ako CodeQwen. Jeho hlavnými úlohami sú generovanie kódu, uvažovanie o správaní programu a oprava kódu. Prijíma text vrátane požiadaviek a zdrojového kódu a vracia text, ktorý môže obsahovať implementáciu, vysvetlenie alebo navrhovanú zmenu.
Programovacie schopnosti a tréning
Výrobca opisuje 5.5 bilióna tréningových tokenov vrátane zdrojového kódu, materiálu prepájajúceho text s kódom a syntetických príkladov. Popri programovacej špecializácii si rodina zachováva matematické a všeobecné jazykové schopnosti. Oznámenie vydania rozlišuje generovanie programu, uvažovanie o tom, ako program beží, a opravu existujúcej implementácie; tieto úlohy vyžadujú odlišné vstupy aj odlišné konečné artefakty.
Pri generovaní poskytnite programovací jazyk, signatúru funkcie, vstupné typy a očakávanú návratovú hodnotu. Zahrňte obmedzenia, napríklad či funkcia môže meniť svoj vstup alebo používať externú závislosť. Žiadajte implementáciu a krátke vysvetlenie, ako spĺňa každú požiadavku. Požiadavka na triedenie môže napríklad určiť, že duplicitné hodnoty musia zostať zachované a pôvodný zoznam sa nesmie zmeniť, a potom žiadať funkciu s príkladmi volaní pre prázdny zoznam a zoznam obsahujúci opakované hodnoty.
Pri uvažovaní o kóde poskytnite presný úsek a konkrétny vstup, ktorý treba sledovať. Pýtajte sa, ktoré vetvy sa vykonajú, ako sa menia priebežné hodnoty a čo funkcia vráti. To je užitočnejšie než nesmerovaná požiadavka vysvetliť celý súbor: odpoveď prepája konkrétny vstup s konkrétnou cestou programom. Pri úseku uchovávajte všetky volané pomocné funkcie alebo relevantné definície typov.
Pri oprave poskytnite chybné správanie, očakávané správanie a kód určujúci rozdiel. Samotná chybová správa môže ponechať dôležitú podmienku neurčenú. Žiadajte navrhovanú opravu, vysvetlenie príčiny a príklady odlišujúce staré správanie od zamýšľaného. Vrátená úprava kódu je textový artefakt; jej kompilácia, spustenie alebo aplikovanie na repozitár vyžadujú okolité vývojové prostredie.
Pomenované vydanie 7B
Vydaný model má 7.61 miliardy parametrov vrátane 6.53 miliardy parametrov mimo embeddingov a 28 vrstiev Transformer. Používa rotačné pozičné embeddingy, SwiGLU, RMSNorm a člen bias pre QKV v pozornosti. Jeho pozornosť so zoskupenými dotazmi má 28 hláv dotazov a 4 hlavy kľúčov/hodnôt. Tieto podrobnosti opisujú toto vydanie, nie väčšie vydanie Coder.
Rodina poskytuje samostatné modely Base a Instruct. Instruct je prispôsobený konverzačným požiadavkám; Base je základom pre dopĺňanie a ďalšie dolaďovanie. Tento záznam sa týka modelu 7B doladeného na pokyny. Príklady vydania a hlavné výsledky iných veľkostí nedefinujú schopnosti ani požiadavky na zdroje tohto vydania.
Príprava pokynu
Karta modelu demonštruje konverzáciu so samostatnými systémovými a používateľskými správami a zodpovedajúcou šablónou chatu. Trvalé pravidlá odpovede, napríklad spôsob prezentácie implementácie a vysvetlenia, umiestnite oddelene od kódu a úlohy. Označte, ktorý úsek je existujúcim zdrojovým kódom, ktorý text je požiadavkou a aký výstup sa musí vrátiť. Pomáha to zachovať identifikátory, rozhrania a správanie, ktoré musí požadovaná zmena ponechať.
Užitočný vstup pre vývojárskeho asistenta môže obsahovať krátky modul, jeho volajúci kód a zamýšľanú zmenu. Žiadajte upravenú funkciu, zoznam predpokladov a vzorové vstupy s očakávanými výstupmi. Pri generovanom vizuálnom artefakte určte údaje a interakcie, ktoré treba implementovať, a žiadajte výsledný zdrojový text; rodina zameraná na kód tiež ilustruje programovacích asistentov a vizuálne artefakty. Vykreslenie artefaktu zostáva samostatným krokom oddeleným od generovania jeho zdrojového kódu.
Spracovanie dlhého textu
Karta modelu uvádza plný kontext 131,072 tokenov, zatiaľ čo vydaná konfigurácia je pôvodne nastavená na 32,768 tokenov. Spracovanie vstupov nad toto nastavenie vyžaduje dokumentované rozšírenie YaRN. Príklad určuje faktor škálovania 4.0 a pôvodné nastavenie maxima pozícií 32,768. Výrobca uvádza, že statické škálovanie môže ovplyvniť správanie pri kratších textoch, a odporúča pridať rozšírenie, keď je potrebný dlhý kontext.
Väčší kontext používajte na uchovanie súvisiaceho kódu a požiadaviek spoločne, no určte skutočnú otázku: nájsť nekompatibilné volanie, vysvetliť dátovú cestu alebo navrhnúť zmenu v rámci určeného rozhrania. Zahrňte časti určujúce správanie namiesto nesúvisiaceho projektového materiálu. 512 generovaných tokenov v rýchlom úvode je ukážkové nastavenie; karta z tejto hodnoty nestanovuje samostatnú maximálnu výstupnú kapacitu.
Dokumentovaným výsledkom modelu je text. Jeho úloha v programovacom agentovi závisí od aplikácie poskytujúcej prístup k repozitáru, vykonávanie a spätnú väzbu. Tieto operácie oddeľujte od schopnosti modelu navrhovať kód a vysvetľovať jeho správanie a pri plánovaní opakovateľnej úlohy výslovne uchovávajte konkrétne vydanie 7B-Instruct a nastavenia dlhého kontextu.
POST /v1/chat/completionstexttext| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity qwen2.5-coder-7b-instruct | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity Príklady: system, user, assistant, tool, function Podmienky: Tieto roly sú výslovne zastúpené typmi kompatibility v zdrojovom kóde; presný súbor rolí zostáva závislý od modelu. Závisí od modelu | Predvolené— |
Polemessages[].content | Typstring|content_part[]|null | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].tool_calls | Typtool_call[] | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].tool_call_id | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: role=tool; použite skutočne vrátené ID | Predvolené— |
Polemessages[].name | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].reasoning_content | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: Posielajte späť skutočne vrátené uvažovanie, ak ho tento model používa | Predvolené— |
Polemessages[].reasoning_details | Typobject|array | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 Závisí od modelu | Predvolené— |
Polemax_completion_tokens | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 Závisí od modelu | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Polestream_options.include_usage | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletemperature | Typnumber | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletop_p | Typnumber | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polestop | Typstring|string[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletools | Typfunction_tool[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletools[].type | Typstring | PožiadavkaVoliteľné | Hodnoty a limity function Závisí od modelu | Predvolené— |
Poletools[].function.name | Typstring | PožiadavkaPovinné | Hodnoty a limity Platí, keď: poskytnutý nástroj typu funkcia | Predvolené— |
Poletools[].function.description | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletools[].function.parameters | TypJSON_schema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletool_choice | Typstring|object | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleparallel_tool_calls | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleresponse_format | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polereasoning_effort | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polereasoning | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleservice_tier | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleinstructions | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Pole kompatibility | Predvolené— |
Polefunctions | Typfunction[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polefunction_call | Typstring|object | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleprompt_cache_options | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemodalities | Typstring[] | PožiadavkaVoliteľné | Hodnoty a limity text | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa na tejto textovej trase Ultra odmieta | Predvolené— |
Polecache_control.ttl | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Hodnota 1h sa v skutočne používaných poliach cache promptov odmieta | Predvolené— |
Text · Text UTF8
messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages |
Parametermaterial_types | Špecifikáciatext |
Parametermessages | Špecifikáciapole správ so štruktúrou role/content |
Parameterfile_material | Špecifikáciaskutočný dokument UTF-8 vložený ako doslovný text; ID súboru sa neodvodzuje |
Parameteroptional_controls | Špecifikáciastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Špecifikáciazávisí od modelu; používateľské nástroje typu funkcia sa líšia od nástrojov prevádzkovaných službou |
Parameteroutput_modalities | Špecifikáciatext |
Parameterhosted_operations | Špecifikáciafalse |
Parametermultimodal_input_binding | Špecifikácianull |
Životný cyklus: synchronous_or_streamed
Pošlite presné ID modelu spolu s messages.
Dĺžka kontextu nie je horná hranica výstupu.
Textový súbor môže poskytnúť doslovný text; obrazové a zvukové vstupy a vstupy so súborovými objektmi potrebujú presné naviazanie.
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.0001 / 1K tokenov Výstup · Výstupné tokeny $0.0001 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen2.5-coder-7b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte každý variant odpovede a jeho obsah, volania nástrojov a uvažovanie. V SSE zostavujte čiastkové zmeny podľa indexu variantu/nástroja a zachovajte konečný dôvod ukončenia aj údaje o spotrebe.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra qwen2.5-coder-7b-instruct
Použite cesty metód uvedené vyššie.
qwen2.5-coder-7b-instructQwen2.5-Coder-7B-Instruct je textový model na generovanie, vysvetľovanie a opravu kódu podľa pokynov. Jeho vydanie so 7.61 miliardy parametrov podporuje rozšírené kontexty do 131,072 tokenov s dokumentovanou konfiguráciou dlhého kontextu.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Qwen2.5-Coder-7B-Instruct je vydanie veľkosti 7B doladené na pokyny z rodiny Qwen zameranej na kód, predtým známej ako CodeQwen. Jeho hlavnými úlohami sú generovanie kódu, uvažovanie o správaní programu a oprava kódu. Prijíma text vrátane požiadaviek a zdrojového kódu a vracia text, ktorý môže obsahovať implementáciu, vysvetlenie alebo navrhovanú zmenu.
Programovacie schopnosti a tréning
Výrobca opisuje 5.5 bilióna tréningových tokenov vrátane zdrojového kódu, materiálu prepájajúceho text s kódom a syntetických príkladov. Popri programovacej špecializácii si rodina zachováva matematické a všeobecné jazykové schopnosti. Oznámenie vydania rozlišuje generovanie programu, uvažovanie o tom, ako program beží, a opravu existujúcej implementácie; tieto úlohy vyžadujú odlišné vstupy aj odlišné konečné artefakty.
Pri generovaní poskytnite programovací jazyk, signatúru funkcie, vstupné typy a očakávanú návratovú hodnotu. Zahrňte obmedzenia, napríklad či funkcia môže meniť svoj vstup alebo používať externú závislosť. Žiadajte implementáciu a krátke vysvetlenie, ako spĺňa každú požiadavku. Požiadavka na triedenie môže napríklad určiť, že duplicitné hodnoty musia zostať zachované a pôvodný zoznam sa nesmie zmeniť, a potom žiadať funkciu s príkladmi volaní pre prázdny zoznam a zoznam obsahujúci opakované hodnoty.
Pri uvažovaní o kóde poskytnite presný úsek a konkrétny vstup, ktorý treba sledovať. Pýtajte sa, ktoré vetvy sa vykonajú, ako sa menia priebežné hodnoty a čo funkcia vráti. To je užitočnejšie než nesmerovaná požiadavka vysvetliť celý súbor: odpoveď prepája konkrétny vstup s konkrétnou cestou programom. Pri úseku uchovávajte všetky volané pomocné funkcie alebo relevantné definície typov.
Pri oprave poskytnite chybné správanie, očakávané správanie a kód určujúci rozdiel. Samotná chybová správa môže ponechať dôležitú podmienku neurčenú. Žiadajte navrhovanú opravu, vysvetlenie príčiny a príklady odlišujúce staré správanie od zamýšľaného. Vrátená úprava kódu je textový artefakt; jej kompilácia, spustenie alebo aplikovanie na repozitár vyžadujú okolité vývojové prostredie.
Pomenované vydanie 7B
Vydaný model má 7.61 miliardy parametrov vrátane 6.53 miliardy parametrov mimo embeddingov a 28 vrstiev Transformer. Používa rotačné pozičné embeddingy, SwiGLU, RMSNorm a člen bias pre QKV v pozornosti. Jeho pozornosť so zoskupenými dotazmi má 28 hláv dotazov a 4 hlavy kľúčov/hodnôt. Tieto podrobnosti opisujú toto vydanie, nie väčšie vydanie Coder.
Rodina poskytuje samostatné modely Base a Instruct. Instruct je prispôsobený konverzačným požiadavkám; Base je základom pre dopĺňanie a ďalšie dolaďovanie. Tento záznam sa týka modelu 7B doladeného na pokyny. Príklady vydania a hlavné výsledky iných veľkostí nedefinujú schopnosti ani požiadavky na zdroje tohto vydania.
Príprava pokynu
Karta modelu demonštruje konverzáciu so samostatnými systémovými a používateľskými správami a zodpovedajúcou šablónou chatu. Trvalé pravidlá odpovede, napríklad spôsob prezentácie implementácie a vysvetlenia, umiestnite oddelene od kódu a úlohy. Označte, ktorý úsek je existujúcim zdrojovým kódom, ktorý text je požiadavkou a aký výstup sa musí vrátiť. Pomáha to zachovať identifikátory, rozhrania a správanie, ktoré musí požadovaná zmena ponechať.
Užitočný vstup pre vývojárskeho asistenta môže obsahovať krátky modul, jeho volajúci kód a zamýšľanú zmenu. Žiadajte upravenú funkciu, zoznam predpokladov a vzorové vstupy s očakávanými výstupmi. Pri generovanom vizuálnom artefakte určte údaje a interakcie, ktoré treba implementovať, a žiadajte výsledný zdrojový text; rodina zameraná na kód tiež ilustruje programovacích asistentov a vizuálne artefakty. Vykreslenie artefaktu zostáva samostatným krokom oddeleným od generovania jeho zdrojového kódu.
Spracovanie dlhého textu
Karta modelu uvádza plný kontext 131,072 tokenov, zatiaľ čo vydaná konfigurácia je pôvodne nastavená na 32,768 tokenov. Spracovanie vstupov nad toto nastavenie vyžaduje dokumentované rozšírenie YaRN. Príklad určuje faktor škálovania 4.0 a pôvodné nastavenie maxima pozícií 32,768. Výrobca uvádza, že statické škálovanie môže ovplyvniť správanie pri kratších textoch, a odporúča pridať rozšírenie, keď je potrebný dlhý kontext.
Väčší kontext používajte na uchovanie súvisiaceho kódu a požiadaviek spoločne, no určte skutočnú otázku: nájsť nekompatibilné volanie, vysvetliť dátovú cestu alebo navrhnúť zmenu v rámci určeného rozhrania. Zahrňte časti určujúce správanie namiesto nesúvisiaceho projektového materiálu. 512 generovaných tokenov v rýchlom úvode je ukážkové nastavenie; karta z tejto hodnoty nestanovuje samostatnú maximálnu výstupnú kapacitu.
Dokumentovaným výsledkom modelu je text. Jeho úloha v programovacom agentovi závisí od aplikácie poskytujúcej prístup k repozitáru, vykonávanie a spätnú väzbu. Tieto operácie oddeľujte od schopnosti modelu navrhovať kód a vysvetľovať jeho správanie a pri plánovaní opakovateľnej úlohy výslovne uchovávajte konkrétne vydanie 7B-Instruct a nastavenia dlhého kontextu.
POST /v1/messagestextjson, sse| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity qwen2.5-coder-7b-instruct | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity user, assistant | Predvolené— |
Polemessages[].content | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Text · Text UTF-8
reťazec messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages, max_tokens |
Parameteroptional_controls | Špecifikáciastream |
Parametermaterial_types | Špecifikáciatext |
Parametertext_file_material | ŠpecifikáciaPrečítajte skutočný dokument UTF-8 a vložte jeho text do uvedeného vstupného reťazca alebo reťazca obsahu správy. |
Životný cyklus: synchronous_or_streamed
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.0001 / 1K tokenov Výstup · Výstupné tokeny $0.0001 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
{\n "model": "qwen2.5-coder-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte všetky bloky obsahu, podpisy uvažovania a skutočné ID volaní nástrojov. Zostavte všetky čiastkové zmeny blokov SSE; prvý textový blok nie je celý výstup.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra qwen2.5-coder-7b-instruct
Použite cesty metód uvedené vyššie.
Technický príklad v angličtine
Repair integer averaging\n\nFix this Python function: def mean(values): return sum(values) // len(values). Requirement: return the arithmetic mean as a float, preserve fractional results and raise ValueError for empty input. Provide the corrected function and tests for [1, 2], [-2, 2] and []. Explain the two distinct defects.A corrected function, three tests and separate explanations for floor division and empty-input behavior.Check that [1, 2] keeps its fractional mean and that empty input raises the specified exception.