Qwen2-7B-Instruct je izdaja Qwen2 velikosti 7B, prilagojena navodilom, za pogovor in naloge, izražene v naravnem jeziku. Gre za model z besedilnim vhodom in izhodom: odgovor je lahko razlaga, prevod, osnutek dokumenta ali programska koda. Proizvajalec kot glavna področja uporabe navaja razumevanje jezika, generiranje, večjezično delo, programiranje, matematiko in sklepanje.
Podrobnosti modela
Qwen2 vključuje ločene osnovne izdaje in izdaje, prilagojene navodilom. Ta kartica se nanaša na izdajo Instruct, ne na osnovni model Qwen2-7B ali izdajo družine z mešanico strokovnjakov. Proizvajalčeva tabela informacij o modelu navaja 7,07 milijarde parametrov za model velikosti 7B. Njegov dekodirni Transformer uporablja SwiGLU, pristranskost QKV pri pozornosti in pozornost z združenimi poizvedbami, s tokenizatorjem, zasnovanim za naravne jezike in kodo. To so izbire arhitekture in predstavitve, ne dodatne vhodne modalnosti.
Najava izdaje opisuje učenje v angleščini in kitajščini ter 27 dodatnih jezikih. Ti vključujejo ruščino, češčino in poljščino; nemščino, francoščino in španščino; arabščino, perzijščino in turščino; japonščino in korejščino; ter druge jezike južne in jugovzhodne Azije. Večjezični pomočnik lahko zato prejme navodilo in izvorno gradivo v različnih jezikih, vendar je še vedno priporočljivo določiti jezik, terminologijo in občinstvo končnega izdelka.
Učenje in razlika izdaje Instruct
Po predhodnem učenju proizvajalec uporabi nadzorovano prilagajanje in neposredno optimizacijo preferenc. Izdaja, prilagojena navodilom, je namenjena odzivanju na zahtevo v pogovoru, osnovna izdaja pa ima drugačno vlogo kot osnova jezikovnega modela. Pri izbiri modela ali primerjavi odzivanja na pozive jasno navedite ime izdaje. Učenje modela za sledenje navodilom in podajanje natančnega navodila pri uporabi sta dopolnjujoča se dela tega poteka dela.
Priprava pogovornega vhoda
Hitri začetek na kartici modela loči sistemsko navodilo od uporabnikovega vprašanja in pred generiranjem uporabi ustrezno pogovorno predlogo. Pri nalogi na ravni aplikacije je koristno isto praktično razlikovanje: vlogo pomočnika in pravila odgovora določite ločeno od izvornega odlomka ali kode, s katero mora delati. Besedilna oznaka, zapisana znotraj dokumenta, ne nadomesti pravilno oblikovanih pogovornih vlog v okoliškem vmesniku.
Naloga za tehnično razlago lahko vsebuje funkcijo in en primer vhoda ter zahteva pojasnilo, kaj počne vsaka veja in kateri pogoji vplivajo na rezultat. Programerska naloga lahko določi sprejeti vhod, pričakovano vrnjeno vrednost in omejitve pri spreminjanju obstoječega vedenja. Zahtevajte implementacijo, ki ji sledijo primeri za običajen in robni primer. To so uporabe dokumentiranih jezikovnih in programerskih zmožnosti; generiranje kode je besedilni rezultat, njeno izvajanje pa sodi v aplikacijsko okolje.
Pri večjezičnem urejanju podajte prvotni odlomek, ciljno občinstvo in kratek seznam terminologije. Zahtevajte popravljeno besedilo, ki ohrani prvotna imena in pogoje, nato pa kratko razlago sprememb. To je natančneje od zahteve po izboljšanju besedila: določa, kateri pomen se mora ohraniti in kakšen uporaben izhod mora model vrniti.
Obdelava dolgih besedil
Proizvajalec dokumentira podporo kontekstu do 131.072 žetonov, vendar so navodila za dolg kontekst pomembna. Vhodi, daljši od 32.768 žetonov, zahtevajo dokumentirano konfiguracijo razširitve YaRN. Objavljeni primer uporablja faktor skaliranja 4,0 s prvotno nastavitvijo položajev 32.768. Proizvajalec navaja, da statična nastavitev razširitve lahko vpliva na vedenje pri krajših besedilih, in priporoča njeno omogočanje, ko je obdelava dolgega konteksta dejansko potrebna.
Nalogo z dolgim dokumentom pripravite z usmerjenim vprašanjem, poimenovanimi izvornimi razdelki in jasno izhodno strukturo. Podajte na primer več delov tehnične specifikacije in zahtevajte zahteve, pomembne za določeno spremembo, pri čemer naj bo ob vsaki ugotovitvi ohranjen izvorni razdelek. Veliko vhodno okno je uporabno za skupno ohranjanje teh delov; odgovor je lahko še vedno strnjena tabela, ne ponovna pripoved celotnega dokumenta.
Pomembne meje
Število 131.072 žetonov pomeni podporo razširjenemu kontekstu, ne dovoljenja za zanemarjanje konfiguracije dolgega konteksta. 512 generiranih žetonov v primeru hitrega začetka je zgolj nastavitev primera, ne objavljena največja izhodna zmogljivost. Ta izdaja Instruct je besedilni model in ne sme prevzeti slikovnih ali video zmožnosti iz Qwen-VL oziroma specializiranega matematičnega učenja z integriranimi orodji iz Qwen2.5-Math. Izberite poimenovano izdajo in pripravite besedilo za konkretno razlago, kodo ali dokument, ki ga potrebujete.
", "aboutText": "Qwen2-7B-Instruct je izdaja Qwen2 velikosti 7B, prilagojena navodilom, za pogovor in naloge, izražene v naravnem jeziku. Gre za model z besedilnim vhodom in izhodom: odgovor je lahko razlaga, prevod, osnutek dokumenta ali programska koda. Proizvajalec kot glavna področja uporabe navaja razumevanje jezika, generiranje, večjezično delo, programiranje, matematiko in sklepanje.\n\nPodrobnosti modela\n\nQwen2 vključuje ločene osnovne izdaje in izdaje, prilagojene navodilom. Ta kartica se nanaša na izdajo Instruct, ne na osnovni model Qwen2-7B ali izdajo družine z mešanico strokovnjakov. Proizvajalčeva tabela informacij o modelu navaja 7,07 milijarde parametrov za model velikosti 7B. Njegov dekodirni Transformer uporablja SwiGLU, pristranskost QKV pri pozornosti in pozornost z združenimi poizvedbami, s tokenizatorjem, zasnovanim za naravne jezike in kodo. To so izbire arhitekture in predstavitve, ne dodatne vhodne modalnosti.\n\nNajava izdaje opisuje učenje v angleščini in kitajščini ter 27 dodatnih jezikih. Ti vključujejo ruščino, češčino in poljščino; nemščino, francoščino in španščino; arabščino, perzijščino in turščino; japonščino in korejščino; ter druge jezike južne in jugovzhodne Azije. Večjezični pomočnik lahko zato prejme navodilo in izvorno gradivo v različnih jezikih, vendar je še vedno priporočljivo določiti jezik, terminologijo in občinstvo končnega izdelka.\n\nUčenje in razlika izdaje Instruct\n\nPo predhodnem učenju proizvajalec uporabi nadzorovano prilagajanje in neposredno optimizacijo preferenc. Izdaja, prilagojena navodilom, je namenjena odzivanju na zahtevo v pogovoru, osnovna izdaja pa ima drugačno vlogo kot osnova jezikovnega modela. Pri izbiri modela ali primerjavi odzivanja na pozive jasno navedite ime izdaje. Učenje modela za sledenje navodilom in podajanje natančnega navodila pri uporabi sta dopolnjujoča se dela tega poteka dela.\n\nPriprava pogovornega vhoda\n\nHitri začetek na kartici modela loči sistemsko navodilo od uporabnikovega vprašanja in pred generiranjem uporabi ustrezno pogovorno predlogo. Pri nalogi na ravni aplikacije je koristno isto praktično razlikovanje: vlogo pomočnika in pravila odgovora določite ločeno od izvornega odlomka ali kode, s katero mora delati. Besedilna oznaka, zapisana znotraj dokumenta, ne nadomesti pravilno oblikovanih pogovornih vlog v okoliškem vmesniku.\n\nNaloga za tehnično razlago lahko vsebuje funkcijo in en primer vhoda ter zahteva pojasnilo, kaj počne vsaka veja in kateri pogoji vplivajo na rezultat. Programerska naloga lahko določi sprejeti vhod, pričakovano vrnjeno vrednost in omejitve pri spreminjanju obstoječega vedenja. Zahtevajte implementacijo, ki ji sledijo primeri za običajen in robni primer. To so uporabe dokumentiranih jezikovnih in programerskih zmožnosti; generiranje kode je besedilni rezultat, njeno izvajanje pa sodi v aplikacijsko okolje.\n\nPri večjezičnem urejanju podajte prvotni odlomek, ciljno občinstvo in kratek seznam terminologije. Zahtevajte popravljeno besedilo, ki ohrani prvotna imena in pogoje, nato pa kratko razlago sprememb. To je natančneje od zahteve po izboljšanju besedila: določa, kateri pomen se mora ohraniti in kakšen uporaben izhod mora model vrniti.\n\nObdelava dolgih besedil\n\nProizvajalec dokumentira podporo kontekstu do 131.072 žetonov, vendar so navodila za dolg kontekst pomembna. Vhodi, daljši od 32.768 žetonov, zahtevajo dokumentirano konfiguracijo razširitve YaRN. Objavljeni primer uporablja faktor skaliranja 4,0 s prvotno nastavitvijo položajev 32.768. Proizvajalec navaja, da statična nastavitev razširitve lahko vpliva na vedenje pri krajših besedilih, in priporoča njeno omogočanje, ko je obdelava dolgega konteksta dejansko potrebna.\n\nNalogo z dolgim dokumentom pripravite z usmerjenim vprašanjem, poimenovanimi izvornimi razdelki in jasno izhodno strukturo. Podajte na primer več delov tehnične specifikacije in zahtevajte zahteve, pomembne za določeno spremembo, pri čemer naj bo ob vsaki ugotovitvi ohranjen izvorni razdelek. Veliko vhodno okno je uporabno za skupno ohranjanje teh delov; odgovor je lahko še vedno strnjena tabela, ne ponovna pripoved celotnega dokumenta.\n\nPomembne meje\n\nŠtevilo 131.072 žetonov pomeni podporo razširjenemu kontekstu, ne dovoljenja za zanemarjanje konfiguracije dolgega konteksta. 512 generiranih žetonov v primeru hitrega začetka je zgolj nastavitev primera, ne objavljena največja izhodna zmogljivost. Ta izdaja Instruct je besedilni model in ne sme prevzeti slikovnih ali video zmožnosti iz Qwen-VL oziroma specializiranega matematičnega učenja z integriranimi orodji iz Qwen2.5-Math. Izberite poimenovano izdajo in pripravite besedilo za konkretno razlago, kodo ali dokument, ki ga potrebujete.", "editorialOverlay": { "copy_fields": { "practical_html": "Tehnični primer v angleščini
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.Qwen/Qwen2-7B-InstructQwen2-7B-Instruct je besedilni model, prilagojen navodilom, za večjezični dialog, programiranje, matematiko in sklepanje. Njegov proizvajalec dokumentira kontekst do 131.072 žetonov, kadar je omogočena konfiguracija za dolg kontekst.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Qwen2-7B-Instruct je izdaja Qwen2 velikosti 7B, prilagojena navodilom, za pogovor in naloge, izražene v naravnem jeziku. Gre za model z besedilnim vhodom in izhodom: odgovor je lahko razlaga, prevod, osnutek dokumenta ali programska koda. Proizvajalec kot glavna področja uporabe navaja razumevanje jezika, generiranje, večjezično delo, programiranje, matematiko in sklepanje.
Podrobnosti modela
Qwen2 vključuje ločene osnovne izdaje in izdaje, prilagojene navodilom. Ta kartica se nanaša na izdajo Instruct, ne na osnovni model Qwen2-7B ali izdajo družine z mešanico strokovnjakov. Proizvajalčeva tabela informacij o modelu navaja 7,07 milijarde parametrov za model velikosti 7B. Njegov dekodirni Transformer uporablja SwiGLU, pristranskost QKV pri pozornosti in pozornost z združenimi poizvedbami, s tokenizatorjem, zasnovanim za naravne jezike in kodo. To so izbire arhitekture in predstavitve, ne dodatne vhodne modalnosti.
Najava izdaje opisuje učenje v angleščini in kitajščini ter 27 dodatnih jezikih. Ti vključujejo ruščino, češčino in poljščino; nemščino, francoščino in španščino; arabščino, perzijščino in turščino; japonščino in korejščino; ter druge jezike južne in jugovzhodne Azije. Večjezični pomočnik lahko zato prejme navodilo in izvorno gradivo v različnih jezikih, vendar je še vedno priporočljivo določiti jezik, terminologijo in občinstvo končnega izdelka.
Učenje in razlika izdaje Instruct
Po predhodnem učenju proizvajalec uporabi nadzorovano prilagajanje in neposredno optimizacijo preferenc. Izdaja, prilagojena navodilom, je namenjena odzivanju na zahtevo v pogovoru, osnovna izdaja pa ima drugačno vlogo kot osnova jezikovnega modela. Pri izbiri modela ali primerjavi odzivanja na pozive jasno navedite ime izdaje. Učenje modela za sledenje navodilom in podajanje natančnega navodila pri uporabi sta dopolnjujoča se dela tega poteka dela.
Priprava pogovornega vhoda
Hitri začetek na kartici modela loči sistemsko navodilo od uporabnikovega vprašanja in pred generiranjem uporabi ustrezno pogovorno predlogo. Pri nalogi na ravni aplikacije je koristno isto praktično razlikovanje: vlogo pomočnika in pravila odgovora določite ločeno od izvornega odlomka ali kode, s katero mora delati. Besedilna oznaka, zapisana znotraj dokumenta, ne nadomesti pravilno oblikovanih pogovornih vlog v okoliškem vmesniku.
Naloga za tehnično razlago lahko vsebuje funkcijo in en primer vhoda ter zahteva pojasnilo, kaj počne vsaka veja in kateri pogoji vplivajo na rezultat. Programerska naloga lahko določi sprejeti vhod, pričakovano vrnjeno vrednost in omejitve pri spreminjanju obstoječega vedenja. Zahtevajte implementacijo, ki ji sledijo primeri za običajen in robni primer. To so uporabe dokumentiranih jezikovnih in programerskih zmožnosti; generiranje kode je besedilni rezultat, njeno izvajanje pa sodi v aplikacijsko okolje.
Pri večjezičnem urejanju podajte prvotni odlomek, ciljno občinstvo in kratek seznam terminologije. Zahtevajte popravljeno besedilo, ki ohrani prvotna imena in pogoje, nato pa kratko razlago sprememb. To je natančneje od zahteve po izboljšanju besedila: določa, kateri pomen se mora ohraniti in kakšen uporaben izhod mora model vrniti.
Obdelava dolgih besedil
Proizvajalec dokumentira podporo kontekstu do 131.072 žetonov, vendar so navodila za dolg kontekst pomembna. Vhodi, daljši od 32.768 žetonov, zahtevajo dokumentirano konfiguracijo razširitve YaRN. Objavljeni primer uporablja faktor skaliranja 4,0 s prvotno nastavitvijo položajev 32.768. Proizvajalec navaja, da statična nastavitev razširitve lahko vpliva na vedenje pri krajših besedilih, in priporoča njeno omogočanje, ko je obdelava dolgega konteksta dejansko potrebna.
Nalogo z dolgim dokumentom pripravite z usmerjenim vprašanjem, poimenovanimi izvornimi razdelki in jasno izhodno strukturo. Podajte na primer več delov tehnične specifikacije in zahtevajte zahteve, pomembne za določeno spremembo, pri čemer naj bo ob vsaki ugotovitvi ohranjen izvorni razdelek. Veliko vhodno okno je uporabno za skupno ohranjanje teh delov; odgovor je lahko še vedno strnjena tabela, ne ponovna pripoved celotnega dokumenta.
Pomembne meje
Število 131.072 žetonov pomeni podporo razširjenemu kontekstu, ne dovoljenja za zanemarjanje konfiguracije dolgega konteksta. 512 generiranih žetonov v primeru hitrega začetka je zgolj nastavitev primera, ne objavljena največja izhodna zmogljivost. Ta izdaja Instruct je besedilni model in ne sme prevzeti slikovnih ali video zmožnosti iz Qwen-VL oziroma specializiranega matematičnega učenja z integriranimi orodji iz Qwen2.5-Math. Izberite poimenovano izdajo in pripravite besedilo za konkretno razlago, kodo ali dokument, ki ga potrebujete.
POST /v1/chat/completionstexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Qwen/Qwen2-7B-Instruct | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— |
Poljemessages[].content | Vrstastring|content_part[]|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_calls | Vrstatool_call[] | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_call_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— |
Poljemessages[].name | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].reasoning_content | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— |
Poljemessages[].reasoning_details | Vrstaobject|array | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljemax_completion_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Poljestream_options.include_usage | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetemperature | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetop_p | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljestop | Vrstastring|string[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools | Vrstafunction_tool[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools[].type | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— |
Poljetools[].function.name | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— |
Poljetools[].function.description | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetools[].function.parameters | VrstaJSON_schema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetool_choice | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeparallel_tool_calls | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeresponse_format | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning_effort | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeservice_tier | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeinstructions | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— |
Poljefunctions | Vrstafunction[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljefunction_call | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeprompt_cache_options | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemodalities | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— |
Poljecache_control.ttl | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— |
Besedilo · Besedilo UTF8
messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages |
Parametermaterial_types | Specifikacijatext |
Parametermessages | Specifikacijapolje sporočil s strukturo role/content |
Parameterfile_material | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje |
Parameteroptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev |
Parameteroutput_modalities | Specifikacijatext |
Parameterhosted_operations | Specifikacijafalse |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous_or_streamed
Pošljite natančen ID modela skupaj z messages.
Dolžina konteksta ni zgornja meja izhoda.
Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo.
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.0001 / 1K žetonov Izhod · Izhodni žetoni $0.0001 / 1K žetonov Vhod · Branje predpomnilnika $0 / 1K žetonov Vhod · Zapis v predpomnilnik $0 / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2-7B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljechoices[].index | Vrstainteger |
Poljechoices[].message.content | Vrstastring|null |
Poljechoices[].message.tool_calls | Vrstatool_call[] |
Poljechoices[].message.reasoning_content | Vrstastring |
Poljechoices[].message.reasoning_details | Vrstaobject|array |
Poljechoices[].finish_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Uporabite zgoraj navedene poti metod.
Qwen/Qwen2-7B-InstructQwen2-7B-Instruct je besedilni model, prilagojen navodilom, za večjezični dialog, programiranje, matematiko in sklepanje. Njegov proizvajalec dokumentira kontekst do 131.072 žetonov, kadar je omogočena konfiguracija za dolg kontekst.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Qwen2-7B-Instruct je izdaja Qwen2 velikosti 7B, prilagojena navodilom, za pogovor in naloge, izražene v naravnem jeziku. Gre za model z besedilnim vhodom in izhodom: odgovor je lahko razlaga, prevod, osnutek dokumenta ali programska koda. Proizvajalec kot glavna področja uporabe navaja razumevanje jezika, generiranje, večjezično delo, programiranje, matematiko in sklepanje.
Podrobnosti modela
Qwen2 vključuje ločene osnovne izdaje in izdaje, prilagojene navodilom. Ta kartica se nanaša na izdajo Instruct, ne na osnovni model Qwen2-7B ali izdajo družine z mešanico strokovnjakov. Proizvajalčeva tabela informacij o modelu navaja 7,07 milijarde parametrov za model velikosti 7B. Njegov dekodirni Transformer uporablja SwiGLU, pristranskost QKV pri pozornosti in pozornost z združenimi poizvedbami, s tokenizatorjem, zasnovanim za naravne jezike in kodo. To so izbire arhitekture in predstavitve, ne dodatne vhodne modalnosti.
Najava izdaje opisuje učenje v angleščini in kitajščini ter 27 dodatnih jezikih. Ti vključujejo ruščino, češčino in poljščino; nemščino, francoščino in španščino; arabščino, perzijščino in turščino; japonščino in korejščino; ter druge jezike južne in jugovzhodne Azije. Večjezični pomočnik lahko zato prejme navodilo in izvorno gradivo v različnih jezikih, vendar je še vedno priporočljivo določiti jezik, terminologijo in občinstvo končnega izdelka.
Učenje in razlika izdaje Instruct
Po predhodnem učenju proizvajalec uporabi nadzorovano prilagajanje in neposredno optimizacijo preferenc. Izdaja, prilagojena navodilom, je namenjena odzivanju na zahtevo v pogovoru, osnovna izdaja pa ima drugačno vlogo kot osnova jezikovnega modela. Pri izbiri modela ali primerjavi odzivanja na pozive jasno navedite ime izdaje. Učenje modela za sledenje navodilom in podajanje natančnega navodila pri uporabi sta dopolnjujoča se dela tega poteka dela.
Priprava pogovornega vhoda
Hitri začetek na kartici modela loči sistemsko navodilo od uporabnikovega vprašanja in pred generiranjem uporabi ustrezno pogovorno predlogo. Pri nalogi na ravni aplikacije je koristno isto praktično razlikovanje: vlogo pomočnika in pravila odgovora določite ločeno od izvornega odlomka ali kode, s katero mora delati. Besedilna oznaka, zapisana znotraj dokumenta, ne nadomesti pravilno oblikovanih pogovornih vlog v okoliškem vmesniku.
Naloga za tehnično razlago lahko vsebuje funkcijo in en primer vhoda ter zahteva pojasnilo, kaj počne vsaka veja in kateri pogoji vplivajo na rezultat. Programerska naloga lahko določi sprejeti vhod, pričakovano vrnjeno vrednost in omejitve pri spreminjanju obstoječega vedenja. Zahtevajte implementacijo, ki ji sledijo primeri za običajen in robni primer. To so uporabe dokumentiranih jezikovnih in programerskih zmožnosti; generiranje kode je besedilni rezultat, njeno izvajanje pa sodi v aplikacijsko okolje.
Pri večjezičnem urejanju podajte prvotni odlomek, ciljno občinstvo in kratek seznam terminologije. Zahtevajte popravljeno besedilo, ki ohrani prvotna imena in pogoje, nato pa kratko razlago sprememb. To je natančneje od zahteve po izboljšanju besedila: določa, kateri pomen se mora ohraniti in kakšen uporaben izhod mora model vrniti.
Obdelava dolgih besedil
Proizvajalec dokumentira podporo kontekstu do 131.072 žetonov, vendar so navodila za dolg kontekst pomembna. Vhodi, daljši od 32.768 žetonov, zahtevajo dokumentirano konfiguracijo razširitve YaRN. Objavljeni primer uporablja faktor skaliranja 4,0 s prvotno nastavitvijo položajev 32.768. Proizvajalec navaja, da statična nastavitev razširitve lahko vpliva na vedenje pri krajših besedilih, in priporoča njeno omogočanje, ko je obdelava dolgega konteksta dejansko potrebna.
Nalogo z dolgim dokumentom pripravite z usmerjenim vprašanjem, poimenovanimi izvornimi razdelki in jasno izhodno strukturo. Podajte na primer več delov tehnične specifikacije in zahtevajte zahteve, pomembne za določeno spremembo, pri čemer naj bo ob vsaki ugotovitvi ohranjen izvorni razdelek. Veliko vhodno okno je uporabno za skupno ohranjanje teh delov; odgovor je lahko še vedno strnjena tabela, ne ponovna pripoved celotnega dokumenta.
Pomembne meje
Število 131.072 žetonov pomeni podporo razširjenemu kontekstu, ne dovoljenja za zanemarjanje konfiguracije dolgega konteksta. 512 generiranih žetonov v primeru hitrega začetka je zgolj nastavitev primera, ne objavljena največja izhodna zmogljivost. Ta izdaja Instruct je besedilni model in ne sme prevzeti slikovnih ali video zmožnosti iz Qwen-VL oziroma specializiranega matematičnega učenja z integriranimi orodji iz Qwen2.5-Math. Izberite poimenovano izdajo in pripravite besedilo za konkretno razlago, kodo ali dokument, ki ga potrebujete.
POST /v1/messagestextjson, sse| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Qwen/Qwen2-7B-Instruct | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— |
Poljemessages[].content | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Besedilo · Besedilo UTF-8
niz messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages, max_tokens |
Parameteroptional_controls | Specifikacijastream |
Parametermaterial_types | Specifikacijatext |
Parametertext_file_material | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. |
Življenjski cikel: synchronous_or_streamed
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.0001 / 1K žetonov Izhod · Izhodni žetoni $0.0001 / 1K žetonov Vhod · Branje predpomnilnika $0 / 1K žetonov Vhod · Zapis v predpomnilnik $0 / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
{\n "model": "Qwen/Qwen2-7B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljecontent[] | Vrstatext|thinking|tool_use|other content block |
Poljestop_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Uporabite zgoraj navedene poti metod.
Tehnični primer v angleščini
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.