Qwen2-7B-Instruct er den instruksjonstilpassede utgaven av Qwen2 i 7B-størrelse for samtaler og oppgaver uttrykt i naturlig språk. Det er en modell med tekstinndata og tekstutdata: Svaret kan være en forklaring, en oversettelse, et dokumentutkast eller programkode. Produsenten oppgir språkforståelse, generering, flerspråklig arbeid, koding, matematikk og resonnement som de viktigste bruksområdene.
Modelldetaljer
Qwen2 inkluderer separate basis- og instruksjonstilpassede utgivelser. Dette kortet gjelder Instruct-utgaven, ikke Qwen2-7B-basismodellen eller familiens mixture-of-experts-utgivelse. Produsentens modellinformasjonstabell oppgir 7,07 milliarder parametere for modellen i 7B-størrelse. Dekoder-Transformeren bruker SwiGLU, attention-QKV-bias og grouped-query attention, med en tokenizer utformet for naturlige språk og kode. Dette er arkitektur- og representasjonsvalg, ikke ytterligere inndatamodaliteter.
Utgivelseskunngjøringen beskriver trening i engelsk og kinesisk pluss 27 andre språk. Disse inkluderer russisk, tsjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk; og flere språk i Sør- og Sørøst-Asia. En flerspråklig assistent kan derfor få en instruksjon og kildemateriale på ulike språk, men bør fortsatt angi språket, terminologien og målgruppen for den endelige leveransen.
Trening og Instruct-skillet
Etter forhåndstrening bruker produsenten veiledet finjustering og direkte preferanseoptimalisering. Den instruksjonstilpassede utgaven er ment å svare på en forespørsel i en samtale, mens basisutgaven har en annen rolle som språkmodellgrunnlag. Hold utgavenavnet tydelig når du velger en modell eller sammenligner hvordan instrukser virker. Å trene en modell til å følge instruksjoner og gi en presis instruksjon ved bruk er komplementære deler av denne arbeidsflyten.
Forberedelse av samtaleinndata
Modellkortets hurtigstart skiller en systeminstruksjon fra brukerens spørsmål og bruker den tilhørende samtalemalen før generering. For en oppgave på applikasjonsnivå er samme praktiske skille nyttig: Definer assistentens rolle og svarregler separat fra kildeutdraget eller koden den skal arbeide med. En tekstetikett skrevet i et dokument erstatter ikke korrekt formaterte samtaleroller i det omkringliggende grensesnittet.
En teknisk forklaringsoppgave kan gi en funksjon og ett inndataeksempel og deretter spørre hva hver gren gjør og hvilke betingelser som påvirker resultatet. En kodeoppgave kan angi aksepterte inndata, forventet returverdi og begrensninger på å endre eksisterende oppførsel. Be om implementasjonen etterfulgt av eksempler for et normalt tilfelle og et grensetilfelle. Dette er anvendelser av de dokumenterte språk- og kodefunksjonene; å generere kode er et tekstresultat, mens kjøring hører til applikasjonsmiljøet.
For flerspråklig redigering gir du det opprinnelige utdraget, målgruppen og en kort terminologiliste. Be om en revisjon som beholder opprinnelige navn og betingelser, og deretter en kort forklaring av endringene. Dette er mer spesifikt enn å be om å forbedre teksten: Det definerer hvilken mening som må bevares og hvilke brukbare utdata som skal returneres.
Behandling av lange tekster
Produsenten dokumenterer kontekststøtte opptil 131 072 tokener, men instruksjonene for lang kontekst er viktige. Inndata over 32 768 tokener krever den dokumenterte YaRN-utvidelseskonfigurasjonen. Det publiserte eksempelet bruker en skaleringsfaktor på 4,0 med en opprinnelig posisjonsinnstilling på 32 768. Produsenten påpeker at den statiske utvidelsesinnstillingen kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling faktisk trengs.
Forbered en lang dokumentoppgave med et fokusert spørsmål, navngitte kildedeler og en tydelig utdatastruktur. Gi for eksempel flere deler av en teknisk spesifikasjon og be om kravene som er relevante for en bestemt endring, med kildedelen ved hvert funn. Et stort inndatavindu er nyttig for å beholde disse delene samlet; svaret kan fortsatt være en kompakt tabell i stedet for en gjenfortelling av hele dokumentet.
Viktige grenser
Tallet på 131 072 tokener angir støtte for utvidet kontekst, ikke tillatelse til å ignorere langkontekstkonfigurasjonen. Hurtigstarteksemplets 512 genererte tokener er en eksempelinnstilling, ikke en publisert maksimal utdatakapasitet. Denne Instruct-utgivelsen er en tekstmodell og skal ikke overta bilde- eller videofunksjoner fra Qwen-VL eller den spesialiserte verktøyintegrerte matematikktreningen til Qwen2.5-Math. Velg den navngitte utgaven og forbered teksten for den aktuelle forklaringen, koden eller dokumentet du trenger.
", "aboutText": "Qwen2-7B-Instruct er den instruksjonstilpassede utgaven av Qwen2 i 7B-størrelse for samtaler og oppgaver uttrykt i naturlig språk. Det er en modell med tekstinndata og tekstutdata: Svaret kan være en forklaring, en oversettelse, et dokumentutkast eller programkode. Produsenten oppgir språkforståelse, generering, flerspråklig arbeid, koding, matematikk og resonnement som de viktigste bruksområdene.\n\nModelldetaljer\n\nQwen2 inkluderer separate basis- og instruksjonstilpassede utgivelser. Dette kortet gjelder Instruct-utgaven, ikke Qwen2-7B-basismodellen eller familiens mixture-of-experts-utgivelse. Produsentens modellinformasjonstabell oppgir 7,07 milliarder parametere for modellen i 7B-størrelse. Dekoder-Transformeren bruker SwiGLU, attention-QKV-bias og grouped-query attention, med en tokenizer utformet for naturlige språk og kode. Dette er arkitektur- og representasjonsvalg, ikke ytterligere inndatamodaliteter.\n\nUtgivelseskunngjøringen beskriver trening i engelsk og kinesisk pluss 27 andre språk. Disse inkluderer russisk, tsjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk; og flere språk i Sør- og Sørøst-Asia. En flerspråklig assistent kan derfor få en instruksjon og kildemateriale på ulike språk, men bør fortsatt angi språket, terminologien og målgruppen for den endelige leveransen.\n\nTrening og Instruct-skillet\n\nEtter forhåndstrening bruker produsenten veiledet finjustering og direkte preferanseoptimalisering. Den instruksjonstilpassede utgaven er ment å svare på en forespørsel i en samtale, mens basisutgaven har en annen rolle som språkmodellgrunnlag. Hold utgavenavnet tydelig når du velger en modell eller sammenligner hvordan instrukser virker. Å trene en modell til å følge instruksjoner og gi en presis instruksjon ved bruk er komplementære deler av denne arbeidsflyten.\n\nForberedelse av samtaleinndata\n\nModellkortets hurtigstart skiller en systeminstruksjon fra brukerens spørsmål og bruker den tilhørende samtalemalen før generering. For en oppgave på applikasjonsnivå er samme praktiske skille nyttig: Definer assistentens rolle og svarregler separat fra kildeutdraget eller koden den skal arbeide med. En tekstetikett skrevet i et dokument erstatter ikke korrekt formaterte samtaleroller i det omkringliggende grensesnittet.\n\nEn teknisk forklaringsoppgave kan gi en funksjon og ett inndataeksempel og deretter spørre hva hver gren gjør og hvilke betingelser som påvirker resultatet. En kodeoppgave kan angi aksepterte inndata, forventet returverdi og begrensninger på å endre eksisterende oppførsel. Be om implementasjonen etterfulgt av eksempler for et normalt tilfelle og et grensetilfelle. Dette er anvendelser av de dokumenterte språk- og kodefunksjonene; å generere kode er et tekstresultat, mens kjøring hører til applikasjonsmiljøet.\n\nFor flerspråklig redigering gir du det opprinnelige utdraget, målgruppen og en kort terminologiliste. Be om en revisjon som beholder opprinnelige navn og betingelser, og deretter en kort forklaring av endringene. Dette er mer spesifikt enn å be om å forbedre teksten: Det definerer hvilken mening som må bevares og hvilke brukbare utdata som skal returneres.\n\nBehandling av lange tekster\n\nProdusenten dokumenterer kontekststøtte opptil 131 072 tokener, men instruksjonene for lang kontekst er viktige. Inndata over 32 768 tokener krever den dokumenterte YaRN-utvidelseskonfigurasjonen. Det publiserte eksempelet bruker en skaleringsfaktor på 4,0 med en opprinnelig posisjonsinnstilling på 32 768. Produsenten påpeker at den statiske utvidelsesinnstillingen kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling faktisk trengs.\n\nForbered en lang dokumentoppgave med et fokusert spørsmål, navngitte kildedeler og en tydelig utdatastruktur. Gi for eksempel flere deler av en teknisk spesifikasjon og be om kravene som er relevante for en bestemt endring, med kildedelen ved hvert funn. Et stort inndatavindu er nyttig for å beholde disse delene samlet; svaret kan fortsatt være en kompakt tabell i stedet for en gjenfortelling av hele dokumentet.\n\nViktige grenser\n\nTallet på 131 072 tokener angir støtte for utvidet kontekst, ikke tillatelse til å ignorere langkontekstkonfigurasjonen. Hurtigstarteksemplets 512 genererte tokener er en eksempelinnstilling, ikke en publisert maksimal utdatakapasitet. Denne Instruct-utgivelsen er en tekstmodell og skal ikke overta bilde- eller videofunksjoner fra Qwen-VL eller den spesialiserte verktøyintegrerte matematikktreningen til Qwen2.5-Math. Velg den navngitte utgaven og forbered teksten for den aktuelle forklaringen, koden eller dokumentet du trenger.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.Qwen/Qwen2-7B-InstructQwen2-7B-Instruct er en instruksjonstilpasset tekstmodell for flerspråklig dialog, koding, matematikk og resonnement. Produsenten dokumenterer kontekst opptil 131 072 tokener når langkontekstkonfigurasjonen er aktivert.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2-7B-Instruct er den instruksjonstilpassede utgaven av Qwen2 i 7B-størrelse for samtaler og oppgaver uttrykt i naturlig språk. Det er en modell med tekstinndata og tekstutdata: Svaret kan være en forklaring, en oversettelse, et dokumentutkast eller programkode. Produsenten oppgir språkforståelse, generering, flerspråklig arbeid, koding, matematikk og resonnement som de viktigste bruksområdene.
Modelldetaljer
Qwen2 inkluderer separate basis- og instruksjonstilpassede utgivelser. Dette kortet gjelder Instruct-utgaven, ikke Qwen2-7B-basismodellen eller familiens mixture-of-experts-utgivelse. Produsentens modellinformasjonstabell oppgir 7,07 milliarder parametere for modellen i 7B-størrelse. Dekoder-Transformeren bruker SwiGLU, attention-QKV-bias og grouped-query attention, med en tokenizer utformet for naturlige språk og kode. Dette er arkitektur- og representasjonsvalg, ikke ytterligere inndatamodaliteter.
Utgivelseskunngjøringen beskriver trening i engelsk og kinesisk pluss 27 andre språk. Disse inkluderer russisk, tsjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk; og flere språk i Sør- og Sørøst-Asia. En flerspråklig assistent kan derfor få en instruksjon og kildemateriale på ulike språk, men bør fortsatt angi språket, terminologien og målgruppen for den endelige leveransen.
Trening og Instruct-skillet
Etter forhåndstrening bruker produsenten veiledet finjustering og direkte preferanseoptimalisering. Den instruksjonstilpassede utgaven er ment å svare på en forespørsel i en samtale, mens basisutgaven har en annen rolle som språkmodellgrunnlag. Hold utgavenavnet tydelig når du velger en modell eller sammenligner hvordan instrukser virker. Å trene en modell til å følge instruksjoner og gi en presis instruksjon ved bruk er komplementære deler av denne arbeidsflyten.
Forberedelse av samtaleinndata
Modellkortets hurtigstart skiller en systeminstruksjon fra brukerens spørsmål og bruker den tilhørende samtalemalen før generering. For en oppgave på applikasjonsnivå er samme praktiske skille nyttig: Definer assistentens rolle og svarregler separat fra kildeutdraget eller koden den skal arbeide med. En tekstetikett skrevet i et dokument erstatter ikke korrekt formaterte samtaleroller i det omkringliggende grensesnittet.
En teknisk forklaringsoppgave kan gi en funksjon og ett inndataeksempel og deretter spørre hva hver gren gjør og hvilke betingelser som påvirker resultatet. En kodeoppgave kan angi aksepterte inndata, forventet returverdi og begrensninger på å endre eksisterende oppførsel. Be om implementasjonen etterfulgt av eksempler for et normalt tilfelle og et grensetilfelle. Dette er anvendelser av de dokumenterte språk- og kodefunksjonene; å generere kode er et tekstresultat, mens kjøring hører til applikasjonsmiljøet.
For flerspråklig redigering gir du det opprinnelige utdraget, målgruppen og en kort terminologiliste. Be om en revisjon som beholder opprinnelige navn og betingelser, og deretter en kort forklaring av endringene. Dette er mer spesifikt enn å be om å forbedre teksten: Det definerer hvilken mening som må bevares og hvilke brukbare utdata som skal returneres.
Behandling av lange tekster
Produsenten dokumenterer kontekststøtte opptil 131 072 tokener, men instruksjonene for lang kontekst er viktige. Inndata over 32 768 tokener krever den dokumenterte YaRN-utvidelseskonfigurasjonen. Det publiserte eksempelet bruker en skaleringsfaktor på 4,0 med en opprinnelig posisjonsinnstilling på 32 768. Produsenten påpeker at den statiske utvidelsesinnstillingen kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling faktisk trengs.
Forbered en lang dokumentoppgave med et fokusert spørsmål, navngitte kildedeler og en tydelig utdatastruktur. Gi for eksempel flere deler av en teknisk spesifikasjon og be om kravene som er relevante for en bestemt endring, med kildedelen ved hvert funn. Et stort inndatavindu er nyttig for å beholde disse delene samlet; svaret kan fortsatt være en kompakt tabell i stedet for en gjenfortelling av hele dokumentet.
Viktige grenser
Tallet på 131 072 tokener angir støtte for utvidet kontekst, ikke tillatelse til å ignorere langkontekstkonfigurasjonen. Hurtigstarteksemplets 512 genererte tokener er en eksempelinnstilling, ikke en publisert maksimal utdatakapasitet. Denne Instruct-utgivelsen er en tekstmodell og skal ikke overta bilde- eller videofunksjoner fra Qwen-VL eller den spesialiserte verktøyintegrerte matematikktreningen til Qwen2.5-Math. Velg den navngitte utgaven og forbered teksten for den aktuelle forklaringen, koden eller dokumentet du trenger.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser Qwen/Qwen2-7B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.0001 / 1K tokener Utdata · Utgående tokener $0.0001 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2-7B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Bruk metodestiene som vises ovenfor.
Qwen/Qwen2-7B-InstructQwen2-7B-Instruct er en instruksjonstilpasset tekstmodell for flerspråklig dialog, koding, matematikk og resonnement. Produsenten dokumenterer kontekst opptil 131 072 tokener når langkontekstkonfigurasjonen er aktivert.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2-7B-Instruct er den instruksjonstilpassede utgaven av Qwen2 i 7B-størrelse for samtaler og oppgaver uttrykt i naturlig språk. Det er en modell med tekstinndata og tekstutdata: Svaret kan være en forklaring, en oversettelse, et dokumentutkast eller programkode. Produsenten oppgir språkforståelse, generering, flerspråklig arbeid, koding, matematikk og resonnement som de viktigste bruksområdene.
Modelldetaljer
Qwen2 inkluderer separate basis- og instruksjonstilpassede utgivelser. Dette kortet gjelder Instruct-utgaven, ikke Qwen2-7B-basismodellen eller familiens mixture-of-experts-utgivelse. Produsentens modellinformasjonstabell oppgir 7,07 milliarder parametere for modellen i 7B-størrelse. Dekoder-Transformeren bruker SwiGLU, attention-QKV-bias og grouped-query attention, med en tokenizer utformet for naturlige språk og kode. Dette er arkitektur- og representasjonsvalg, ikke ytterligere inndatamodaliteter.
Utgivelseskunngjøringen beskriver trening i engelsk og kinesisk pluss 27 andre språk. Disse inkluderer russisk, tsjekkisk og polsk; tysk, fransk og spansk; arabisk, persisk og tyrkisk; japansk og koreansk; og flere språk i Sør- og Sørøst-Asia. En flerspråklig assistent kan derfor få en instruksjon og kildemateriale på ulike språk, men bør fortsatt angi språket, terminologien og målgruppen for den endelige leveransen.
Trening og Instruct-skillet
Etter forhåndstrening bruker produsenten veiledet finjustering og direkte preferanseoptimalisering. Den instruksjonstilpassede utgaven er ment å svare på en forespørsel i en samtale, mens basisutgaven har en annen rolle som språkmodellgrunnlag. Hold utgavenavnet tydelig når du velger en modell eller sammenligner hvordan instrukser virker. Å trene en modell til å følge instruksjoner og gi en presis instruksjon ved bruk er komplementære deler av denne arbeidsflyten.
Forberedelse av samtaleinndata
Modellkortets hurtigstart skiller en systeminstruksjon fra brukerens spørsmål og bruker den tilhørende samtalemalen før generering. For en oppgave på applikasjonsnivå er samme praktiske skille nyttig: Definer assistentens rolle og svarregler separat fra kildeutdraget eller koden den skal arbeide med. En tekstetikett skrevet i et dokument erstatter ikke korrekt formaterte samtaleroller i det omkringliggende grensesnittet.
En teknisk forklaringsoppgave kan gi en funksjon og ett inndataeksempel og deretter spørre hva hver gren gjør og hvilke betingelser som påvirker resultatet. En kodeoppgave kan angi aksepterte inndata, forventet returverdi og begrensninger på å endre eksisterende oppførsel. Be om implementasjonen etterfulgt av eksempler for et normalt tilfelle og et grensetilfelle. Dette er anvendelser av de dokumenterte språk- og kodefunksjonene; å generere kode er et tekstresultat, mens kjøring hører til applikasjonsmiljøet.
For flerspråklig redigering gir du det opprinnelige utdraget, målgruppen og en kort terminologiliste. Be om en revisjon som beholder opprinnelige navn og betingelser, og deretter en kort forklaring av endringene. Dette er mer spesifikt enn å be om å forbedre teksten: Det definerer hvilken mening som må bevares og hvilke brukbare utdata som skal returneres.
Behandling av lange tekster
Produsenten dokumenterer kontekststøtte opptil 131 072 tokener, men instruksjonene for lang kontekst er viktige. Inndata over 32 768 tokener krever den dokumenterte YaRN-utvidelseskonfigurasjonen. Det publiserte eksempelet bruker en skaleringsfaktor på 4,0 med en opprinnelig posisjonsinnstilling på 32 768. Produsenten påpeker at den statiske utvidelsesinnstillingen kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling faktisk trengs.
Forbered en lang dokumentoppgave med et fokusert spørsmål, navngitte kildedeler og en tydelig utdatastruktur. Gi for eksempel flere deler av en teknisk spesifikasjon og be om kravene som er relevante for en bestemt endring, med kildedelen ved hvert funn. Et stort inndatavindu er nyttig for å beholde disse delene samlet; svaret kan fortsatt være en kompakt tabell i stedet for en gjenfortelling av hele dokumentet.
Viktige grenser
Tallet på 131 072 tokener angir støtte for utvidet kontekst, ikke tillatelse til å ignorere langkontekstkonfigurasjonen. Hurtigstarteksemplets 512 genererte tokener er en eksempelinnstilling, ikke en publisert maksimal utdatakapasitet. Denne Instruct-utgivelsen er en tekstmodell og skal ikke overta bilde- eller videofunksjoner fra Qwen-VL eller den spesialiserte verktøyintegrerte matematikktreningen til Qwen2.5-Math. Velg den navngitte utgaven og forbered teksten for den aktuelle forklaringen, koden eller dokumentet du trenger.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser Qwen/Qwen2-7B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.0001 / 1K tokener Utdata · Utgående tokener $0.0001 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "Qwen/Qwen2-7B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.