Qwen2-7B-Instruct er den instruktionstilpassede version i 7B-størrelse af Qwen2 til samtaler og opgaver udtrykt på naturligt sprog. Det er en model med tekst som input og output: svaret kan være en forklaring, en oversættelse, et dokumentudkast eller programkode. Producenten angiver sprogforståelse, generering, flersproget arbejde, programmering, matematik og ræsonnementer som de vigtigste anvendelser.
Modeldetaljer
Qwen2 omfatter separate basisudgivelser og instruktionstilpassede udgivelser. Dette kort gælder Instruct-versionen, ikke basismodellen Qwen2-7B eller familiens mixture-of-experts-udgivelse. Producentens modelinformationstabel angiver 7,07 milliarder parametre for modellen i 7B-størrelse. Dens decoder-Transformer bruger SwiGLU, QKV-bias i attention-mekanismen og grouped-query attention med en tokenizer designet til naturlige sprog og kode. Dette er arkitektur- og repræsentationsvalg, ikke yderligere inputmodaliteter.
Udgivelsesmeddelelsen beskriver træning på engelsk og kinesisk plus 27 yderligere sprog. De omfatter russisk, tjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk samt flere sprog i Syd- og Sydøstasien. En flersproget assistent kan derfor modtage instruktioner og kildemateriale på forskellige sprog, men bør stadig få angivet sprog, terminologi og målgruppe for det endelige resultat.
Træning og forskellen for Instruct
Efter prætræning bruger producenten superviseret finjustering og direkte præferenceoptimering. Den instruktionstilpassede version er beregnet til at svare på en anmodning i en samtale, mens basisversionen har en anden rolle som grundlag for en sprogmodel. Hold versionsnavnet tydeligt ved modelvalg eller sammenligning af promptadfærd. Træning i at følge instruktioner og en præcis instruktion ved brug er supplerende dele af denne arbejdsgang.
Forberedelse af samtaleinput
Modelkortets hurtigstart adskiller en systeminstruktion fra brugerens spørgsmål og bruger den tilsvarende chatskabelon før generering. Ved en opgave på applikationsniveau er samme praktiske forskel nyttig: definér assistentens rolle og svarregler adskilt fra den kildepassage eller kode, den skal arbejde med. En tekstmærkning inde i et dokument erstatter ikke korrekt formaterede samtaleroller i den omgivende grænseflade.
En teknisk forklaringsopgave kan give en funktion og ét inputeksempel og spørge, hvad hver gren gør, og hvilke betingelser der påvirker resultatet. En kodeopgave kan angive accepteret input, forventet returværdi og begrænsninger for ændring af eksisterende adfærd. Bed om implementeringen efterfulgt af eksempler for et normalt tilfælde og et grænsetilfælde. Dette er anvendelser af de dokumenterede sprog- og kodeevner; generering af kode er et tekstresultat, mens udførelsen hører til applikationsmiljøet.
Ved flersproget redigering skal du give den oprindelige passage, målgruppen og en kort terminologiliste. Bed om en revision, der bevarer de oprindelige navne og betingelser, og derefter en kort forklaring af ændringerne. Dette er mere præcist end en anmodning om at forbedre teksten: det fastlægger den betydning, der skal bevares, og det nyttige output, der skal returneres.
Behandling af lange tekster
Producenten dokumenterer kontekstunderstøttelse på op til 131.072 tokens, men instruktionerne til lang kontekst er vigtige. Input ud over 32.768 tokens kræver den dokumenterede YaRN-udvidelseskonfiguration. Det offentliggjorte eksempel bruger skaleringsfaktoren 4,0 med en oprindelig positionsindstilling på 32.768. Producenten bemærker, at den statiske udvidelsesindstilling kan påvirke adfærden for kortere tekster, og anbefaler at aktivere den, når behandling med lang kontekst faktisk er nødvendig.
Forbered en lang dokumentopgave med et fokuseret spørgsmål, navngivne kildeafsnit og en tydelig outputstruktur. Giv for eksempel flere dele af en teknisk specifikation og bed om kravene til en bestemt ændring med kildeafsnittet ved siden af hvert fund. Et stort inputvindue hjælper med at holde delene sammen; svaret kan stadig være en kompakt tabel frem for en genfortælling af hele dokumentet.
Vigtige grænser
Tallet 131.072 tokens beskriver udvidet kontekstunderstøttelse, ikke tilladelse til at ignorere konfigurationen til lang kontekst. Hurtigstartens 512 genererede tokens er en eksempelindstilling, ikke en offentliggjort maksimal outputkapacitet. Denne Instruct-udgivelse er en tekstmodel og skal ikke arve billed- eller videoevner fra Qwen-VL eller den specialiserede værktøjsintegrerede matematiktræning i Qwen2.5-Math. Vælg den navngivne version, og forbered teksten til den konkrete forklaring, kode eller det dokument, du har brug for.
", "aboutText": "Qwen2-7B-Instruct er den instruktionstilpassede version i 7B-størrelse af Qwen2 til samtaler og opgaver udtrykt på naturligt sprog. Det er en model med tekst som input og output: svaret kan være en forklaring, en oversættelse, et dokumentudkast eller programkode. Producenten angiver sprogforståelse, generering, flersproget arbejde, programmering, matematik og ræsonnementer som de vigtigste anvendelser.\n\nModeldetaljer\n\nQwen2 omfatter separate basisudgivelser og instruktionstilpassede udgivelser. Dette kort gælder Instruct-versionen, ikke basismodellen Qwen2-7B eller familiens mixture-of-experts-udgivelse. Producentens modelinformationstabel angiver 7,07 milliarder parametre for modellen i 7B-størrelse. Dens decoder-Transformer bruger SwiGLU, QKV-bias i attention-mekanismen og grouped-query attention med en tokenizer designet til naturlige sprog og kode. Dette er arkitektur- og repræsentationsvalg, ikke yderligere inputmodaliteter.\n\nUdgivelsesmeddelelsen beskriver træning på engelsk og kinesisk plus 27 yderligere sprog. De omfatter russisk, tjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk samt flere sprog i Syd- og Sydøstasien. En flersproget assistent kan derfor modtage instruktioner og kildemateriale på forskellige sprog, men bør stadig få angivet sprog, terminologi og målgruppe for det endelige resultat.\n\nTræning og forskellen for Instruct\n\nEfter prætræning bruger producenten superviseret finjustering og direkte præferenceoptimering. Den instruktionstilpassede version er beregnet til at svare på en anmodning i en samtale, mens basisversionen har en anden rolle som grundlag for en sprogmodel. Hold versionsnavnet tydeligt ved modelvalg eller sammenligning af promptadfærd. Træning i at følge instruktioner og en præcis instruktion ved brug er supplerende dele af denne arbejdsgang.\n\nForberedelse af samtaleinput\n\nModelkortets hurtigstart adskiller en systeminstruktion fra brugerens spørgsmål og bruger den tilsvarende chatskabelon før generering. Ved en opgave på applikationsniveau er samme praktiske forskel nyttig: definér assistentens rolle og svarregler adskilt fra den kildepassage eller kode, den skal arbejde med. En tekstmærkning inde i et dokument erstatter ikke korrekt formaterede samtaleroller i den omgivende grænseflade.\n\nEn teknisk forklaringsopgave kan give en funktion og ét inputeksempel og spørge, hvad hver gren gør, og hvilke betingelser der påvirker resultatet. En kodeopgave kan angive accepteret input, forventet returværdi og begrænsninger for ændring af eksisterende adfærd. Bed om implementeringen efterfulgt af eksempler for et normalt tilfælde og et grænsetilfælde. Dette er anvendelser af de dokumenterede sprog- og kodeevner; generering af kode er et tekstresultat, mens udførelsen hører til applikationsmiljøet.\n\nVed flersproget redigering skal du give den oprindelige passage, målgruppen og en kort terminologiliste. Bed om en revision, der bevarer de oprindelige navne og betingelser, og derefter en kort forklaring af ændringerne. Dette er mere præcist end en anmodning om at forbedre teksten: det fastlægger den betydning, der skal bevares, og det nyttige output, der skal returneres.\n\nBehandling af lange tekster\n\nProducenten dokumenterer kontekstunderstøttelse på op til 131.072 tokens, men instruktionerne til lang kontekst er vigtige. Input ud over 32.768 tokens kræver den dokumenterede YaRN-udvidelseskonfiguration. Det offentliggjorte eksempel bruger skaleringsfaktoren 4,0 med en oprindelig positionsindstilling på 32.768. Producenten bemærker, at den statiske udvidelsesindstilling kan påvirke adfærden for kortere tekster, og anbefaler at aktivere den, når behandling med lang kontekst faktisk er nødvendig.\n\nForbered en lang dokumentopgave med et fokuseret spørgsmål, navngivne kildeafsnit og en tydelig outputstruktur. Giv for eksempel flere dele af en teknisk specifikation og bed om kravene til en bestemt ændring med kildeafsnittet ved siden af hvert fund. Et stort inputvindue hjælper med at holde delene sammen; svaret kan stadig være en kompakt tabel frem for en genfortælling af hele dokumentet.\n\nVigtige grænser\n\nTallet 131.072 tokens beskriver udvidet kontekstunderstøttelse, ikke tilladelse til at ignorere konfigurationen til lang kontekst. Hurtigstartens 512 genererede tokens er en eksempelindstilling, ikke en offentliggjort maksimal outputkapacitet. Denne Instruct-udgivelse er en tekstmodel og skal ikke arve billed- eller videoevner fra Qwen-VL eller den specialiserede værktøjsintegrerede matematiktræning i Qwen2.5-Math. Vælg den navngivne version, og forbered teksten til den konkrete forklaring, kode eller det dokument, du har brug for.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.Qwen/Qwen2-7B-InstructQwen2-7B-Instruct er en instruktionstilpasset tekstmodel til flersproget dialog, programmering, matematik og ræsonnementer. Producenten dokumenterer kontekst på op til 131.072 tokens, når konfigurationen til lang kontekst er aktiveret.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2-7B-Instruct er den instruktionstilpassede version i 7B-størrelse af Qwen2 til samtaler og opgaver udtrykt på naturligt sprog. Det er en model med tekst som input og output: svaret kan være en forklaring, en oversættelse, et dokumentudkast eller programkode. Producenten angiver sprogforståelse, generering, flersproget arbejde, programmering, matematik og ræsonnementer som de vigtigste anvendelser.
Modeldetaljer
Qwen2 omfatter separate basisudgivelser og instruktionstilpassede udgivelser. Dette kort gælder Instruct-versionen, ikke basismodellen Qwen2-7B eller familiens mixture-of-experts-udgivelse. Producentens modelinformationstabel angiver 7,07 milliarder parametre for modellen i 7B-størrelse. Dens decoder-Transformer bruger SwiGLU, QKV-bias i attention-mekanismen og grouped-query attention med en tokenizer designet til naturlige sprog og kode. Dette er arkitektur- og repræsentationsvalg, ikke yderligere inputmodaliteter.
Udgivelsesmeddelelsen beskriver træning på engelsk og kinesisk plus 27 yderligere sprog. De omfatter russisk, tjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk samt flere sprog i Syd- og Sydøstasien. En flersproget assistent kan derfor modtage instruktioner og kildemateriale på forskellige sprog, men bør stadig få angivet sprog, terminologi og målgruppe for det endelige resultat.
Træning og forskellen for Instruct
Efter prætræning bruger producenten superviseret finjustering og direkte præferenceoptimering. Den instruktionstilpassede version er beregnet til at svare på en anmodning i en samtale, mens basisversionen har en anden rolle som grundlag for en sprogmodel. Hold versionsnavnet tydeligt ved modelvalg eller sammenligning af promptadfærd. Træning i at følge instruktioner og en præcis instruktion ved brug er supplerende dele af denne arbejdsgang.
Forberedelse af samtaleinput
Modelkortets hurtigstart adskiller en systeminstruktion fra brugerens spørgsmål og bruger den tilsvarende chatskabelon før generering. Ved en opgave på applikationsniveau er samme praktiske forskel nyttig: definér assistentens rolle og svarregler adskilt fra den kildepassage eller kode, den skal arbejde med. En tekstmærkning inde i et dokument erstatter ikke korrekt formaterede samtaleroller i den omgivende grænseflade.
En teknisk forklaringsopgave kan give en funktion og ét inputeksempel og spørge, hvad hver gren gør, og hvilke betingelser der påvirker resultatet. En kodeopgave kan angive accepteret input, forventet returværdi og begrænsninger for ændring af eksisterende adfærd. Bed om implementeringen efterfulgt af eksempler for et normalt tilfælde og et grænsetilfælde. Dette er anvendelser af de dokumenterede sprog- og kodeevner; generering af kode er et tekstresultat, mens udførelsen hører til applikationsmiljøet.
Ved flersproget redigering skal du give den oprindelige passage, målgruppen og en kort terminologiliste. Bed om en revision, der bevarer de oprindelige navne og betingelser, og derefter en kort forklaring af ændringerne. Dette er mere præcist end en anmodning om at forbedre teksten: det fastlægger den betydning, der skal bevares, og det nyttige output, der skal returneres.
Behandling af lange tekster
Producenten dokumenterer kontekstunderstøttelse på op til 131.072 tokens, men instruktionerne til lang kontekst er vigtige. Input ud over 32.768 tokens kræver den dokumenterede YaRN-udvidelseskonfiguration. Det offentliggjorte eksempel bruger skaleringsfaktoren 4,0 med en oprindelig positionsindstilling på 32.768. Producenten bemærker, at den statiske udvidelsesindstilling kan påvirke adfærden for kortere tekster, og anbefaler at aktivere den, når behandling med lang kontekst faktisk er nødvendig.
Forbered en lang dokumentopgave med et fokuseret spørgsmål, navngivne kildeafsnit og en tydelig outputstruktur. Giv for eksempel flere dele af en teknisk specifikation og bed om kravene til en bestemt ændring med kildeafsnittet ved siden af hvert fund. Et stort inputvindue hjælper med at holde delene sammen; svaret kan stadig være en kompakt tabel frem for en genfortælling af hele dokumentet.
Vigtige grænser
Tallet 131.072 tokens beskriver udvidet kontekstunderstøttelse, ikke tilladelse til at ignorere konfigurationen til lang kontekst. Hurtigstartens 512 genererede tokens er en eksempelindstilling, ikke en offentliggjort maksimal outputkapacitet. Denne Instruct-udgivelse er en tekstmodel og skal ikke arve billed- eller videoevner fra Qwen-VL eller den specialiserede værktøjsintegrerede matematiktræning i Qwen2.5-Math. Vælg den navngivne version, og forbered teksten til den konkrete forklaring, kode eller det dokument, du har brug for.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser Qwen/Qwen2-7B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0001 / 1K tokens Output · Outputtokens $0.0001 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2-7B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Brug metodestierne vist ovenfor.
Qwen/Qwen2-7B-InstructQwen2-7B-Instruct er en instruktionstilpasset tekstmodel til flersproget dialog, programmering, matematik og ræsonnementer. Producenten dokumenterer kontekst på op til 131.072 tokens, når konfigurationen til lang kontekst er aktiveret.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2-7B-Instruct er den instruktionstilpassede version i 7B-størrelse af Qwen2 til samtaler og opgaver udtrykt på naturligt sprog. Det er en model med tekst som input og output: svaret kan være en forklaring, en oversættelse, et dokumentudkast eller programkode. Producenten angiver sprogforståelse, generering, flersproget arbejde, programmering, matematik og ræsonnementer som de vigtigste anvendelser.
Modeldetaljer
Qwen2 omfatter separate basisudgivelser og instruktionstilpassede udgivelser. Dette kort gælder Instruct-versionen, ikke basismodellen Qwen2-7B eller familiens mixture-of-experts-udgivelse. Producentens modelinformationstabel angiver 7,07 milliarder parametre for modellen i 7B-størrelse. Dens decoder-Transformer bruger SwiGLU, QKV-bias i attention-mekanismen og grouped-query attention med en tokenizer designet til naturlige sprog og kode. Dette er arkitektur- og repræsentationsvalg, ikke yderligere inputmodaliteter.
Udgivelsesmeddelelsen beskriver træning på engelsk og kinesisk plus 27 yderligere sprog. De omfatter russisk, tjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk samt flere sprog i Syd- og Sydøstasien. En flersproget assistent kan derfor modtage instruktioner og kildemateriale på forskellige sprog, men bør stadig få angivet sprog, terminologi og målgruppe for det endelige resultat.
Træning og forskellen for Instruct
Efter prætræning bruger producenten superviseret finjustering og direkte præferenceoptimering. Den instruktionstilpassede version er beregnet til at svare på en anmodning i en samtale, mens basisversionen har en anden rolle som grundlag for en sprogmodel. Hold versionsnavnet tydeligt ved modelvalg eller sammenligning af promptadfærd. Træning i at følge instruktioner og en præcis instruktion ved brug er supplerende dele af denne arbejdsgang.
Forberedelse af samtaleinput
Modelkortets hurtigstart adskiller en systeminstruktion fra brugerens spørgsmål og bruger den tilsvarende chatskabelon før generering. Ved en opgave på applikationsniveau er samme praktiske forskel nyttig: definér assistentens rolle og svarregler adskilt fra den kildepassage eller kode, den skal arbejde med. En tekstmærkning inde i et dokument erstatter ikke korrekt formaterede samtaleroller i den omgivende grænseflade.
En teknisk forklaringsopgave kan give en funktion og ét inputeksempel og spørge, hvad hver gren gør, og hvilke betingelser der påvirker resultatet. En kodeopgave kan angive accepteret input, forventet returværdi og begrænsninger for ændring af eksisterende adfærd. Bed om implementeringen efterfulgt af eksempler for et normalt tilfælde og et grænsetilfælde. Dette er anvendelser af de dokumenterede sprog- og kodeevner; generering af kode er et tekstresultat, mens udførelsen hører til applikationsmiljøet.
Ved flersproget redigering skal du give den oprindelige passage, målgruppen og en kort terminologiliste. Bed om en revision, der bevarer de oprindelige navne og betingelser, og derefter en kort forklaring af ændringerne. Dette er mere præcist end en anmodning om at forbedre teksten: det fastlægger den betydning, der skal bevares, og det nyttige output, der skal returneres.
Behandling af lange tekster
Producenten dokumenterer kontekstunderstøttelse på op til 131.072 tokens, men instruktionerne til lang kontekst er vigtige. Input ud over 32.768 tokens kræver den dokumenterede YaRN-udvidelseskonfiguration. Det offentliggjorte eksempel bruger skaleringsfaktoren 4,0 med en oprindelig positionsindstilling på 32.768. Producenten bemærker, at den statiske udvidelsesindstilling kan påvirke adfærden for kortere tekster, og anbefaler at aktivere den, når behandling med lang kontekst faktisk er nødvendig.
Forbered en lang dokumentopgave med et fokuseret spørgsmål, navngivne kildeafsnit og en tydelig outputstruktur. Giv for eksempel flere dele af en teknisk specifikation og bed om kravene til en bestemt ændring med kildeafsnittet ved siden af hvert fund. Et stort inputvindue hjælper med at holde delene sammen; svaret kan stadig være en kompakt tabel frem for en genfortælling af hele dokumentet.
Vigtige grænser
Tallet 131.072 tokens beskriver udvidet kontekstunderstøttelse, ikke tilladelse til at ignorere konfigurationen til lang kontekst. Hurtigstartens 512 genererede tokens er en eksempelindstilling, ikke en offentliggjort maksimal outputkapacitet. Denne Instruct-udgivelse er en tekstmodel og skal ikke arve billed- eller videoevner fra Qwen-VL eller den specialiserede værktøjsintegrerede matematiktræning i Qwen2.5-Math. Vælg den navngivne version, og forbered teksten til den konkrete forklaring, kode eller det dokument, du har brug for.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser Qwen/Qwen2-7B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0001 / 1K tokens Output · Outputtokens $0.0001 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "Qwen/Qwen2-7B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.