Qwen2-7B-Instruct är den instruktionsfinjusterade versionen i 7B-storlek av Qwen2 för samtal och uppgifter uttryckta på naturligt språk. Det är en modell med text som indata och utdata: svaret kan vara en förklaring, en översättning, ett dokumentutkast eller programkod. Tillverkaren anger språkförståelse, generering, flerspråkigt arbete, programmering, matematik och resonemang som dess huvudsakliga användningsområden.
Modelldetaljer
Qwen2 innehåller separata basversioner och instruktionsfinjusterade versioner. Detta kort gäller Instruct-versionen, inte basmodellen Qwen2-7B eller familjens mixture-of-experts-version. Tillverkarens modellinformationstabell anger 7,07 miljarder parametrar för modellen i 7B-storlek. Dess decoder-Transformer använder SwiGLU, QKV-bias i uppmärksamhetsmekanismen och grouped-query attention, med en tokenizer utformad för naturliga språk och kod. Det är val för arkitektur och representation, inte ytterligare indatamodaliteter.
Lanseringsmeddelandet beskriver träning på engelska och kinesiska plus 27 andra språk. De inkluderar ryska, tjeckiska och polska; tyska, franska och spanska; arabiska, persiska och turkiska; japanska och koreanska samt ytterligare språk i Syd- och Sydostasien. En flerspråkig assistent kan därför ta emot instruktioner och källmaterial på olika språk, men du bör ändå ange språk, terminologi och målgrupp för det slutliga resultatet.
Träning och skillnaden för Instruct
Efter förträningen använder tillverkaren övervakad finjustering och direkt preferensoptimering. Den instruktionsfinjusterade versionen är avsedd att svara på en begäran i ett samtal, medan basversionen har en annan roll som grund för en språkmodell. Ange versionsnamnet uttryckligt när du väljer modell eller jämför promptbeteende. Att träna en modell att följa instruktioner och att ge en precis instruktion vid användningen är kompletterande delar av arbetssättet.
Förberedelse av samtalsindata
Modellkortets snabbstart skiljer en systeminstruktion från användarens fråga och använder den matchande chattmallen före generering. Samma praktiska åtskillnad är användbar för en applikationsuppgift: definiera assistentens roll och svarsregler separat från det källavsnitt eller den kod den ska arbeta med. En textetikett inne i ett dokument ersätter inte korrekt formaterade samtalsroller i det omgivande gränssnittet.
En teknisk förklaringsuppgift kan ge en funktion och ett indatavärde som exempel och sedan fråga vad varje gren gör och vilka villkor som påverkar resultatet. En koduppgift kan ange godtagna indata, förväntat returvärde och begränsningar för ändringar av befintligt beteende. Be om implementationen följd av exempel för ett normalt fall och ett gränsfall. Det är användningar av de dokumenterade språk- och kodförmågorna; genererad kod är ett textresultat, medan körningen hör till applikationsmiljön.
För flerspråkig redigering ska du tillhandahålla originalavsnittet, målgruppen och en kort terminologilista. Be om en revidering som behåller de ursprungliga namnen och villkoren och sedan en kort förklaring av ändringarna. Det är mer specifikt än att be om förbättrad text: det definierar vilken betydelse som ska bevaras och vilket användbart resultat som ska returneras.
Bearbetning av långa texter
Tillverkaren dokumenterar stöd för kontext på upp till 131 072 token, men instruktionerna för lång kontext är viktiga. Indata över 32 768 token kräver den dokumenterade YaRN-utökningskonfigurationen. Det publicerade exemplet använder skalningsfaktorn 4,0 med en ursprunglig positionsinställning på 32 768. Tillverkaren påpekar att den statiska utökningsinställningen kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext faktiskt behövs.
Förbered en lång dokumentuppgift med en fokuserad fråga, namngivna källavsnitt och en uttrycklig utdatastruktur. Ge till exempel flera delar av en teknisk specifikation och be om de krav som är relevanta för en viss ändring, med källavsnittet bredvid varje resultat. Ett stort indatafönster är användbart för att hålla delarna tillsammans; svaret kan ändå vara en kompakt tabell i stället för en återberättelse av hela dokumentet.
Viktiga gränser
Siffran 131 072 token beskriver utökat kontextstöd, inte tillåtelse att bortse från konfigurationen för lång kontext. Snabbstartsexemplets 512 genererade token är en exempelinställning, inte en publicerad maximal utdatakapacitet. Denna Instruct-version är en textmodell och ska inte ärva bild- eller videoförmågor från Qwen-VL eller den specialiserade verktygsintegrerade matematikträningen i Qwen2.5-Math. Välj den namngivna versionen och förbered texten för den specifika förklaring, kod eller det dokument du behöver.
", "aboutText": "Qwen2-7B-Instruct är den instruktionsfinjusterade versionen i 7B-storlek av Qwen2 för samtal och uppgifter uttryckta på naturligt språk. Det är en modell med text som indata och utdata: svaret kan vara en förklaring, en översättning, ett dokumentutkast eller programkod. Tillverkaren anger språkförståelse, generering, flerspråkigt arbete, programmering, matematik och resonemang som dess huvudsakliga användningsområden.\n\nModelldetaljer\n\nQwen2 innehåller separata basversioner och instruktionsfinjusterade versioner. Detta kort gäller Instruct-versionen, inte basmodellen Qwen2-7B eller familjens mixture-of-experts-version. Tillverkarens modellinformationstabell anger 7,07 miljarder parametrar för modellen i 7B-storlek. Dess decoder-Transformer använder SwiGLU, QKV-bias i uppmärksamhetsmekanismen och grouped-query attention, med en tokenizer utformad för naturliga språk och kod. Det är val för arkitektur och representation, inte ytterligare indatamodaliteter.\n\nLanseringsmeddelandet beskriver träning på engelska och kinesiska plus 27 andra språk. De inkluderar ryska, tjeckiska och polska; tyska, franska och spanska; arabiska, persiska och turkiska; japanska och koreanska samt ytterligare språk i Syd- och Sydostasien. En flerspråkig assistent kan därför ta emot instruktioner och källmaterial på olika språk, men du bör ändå ange språk, terminologi och målgrupp för det slutliga resultatet.\n\nTräning och skillnaden för Instruct\n\nEfter förträningen använder tillverkaren övervakad finjustering och direkt preferensoptimering. Den instruktionsfinjusterade versionen är avsedd att svara på en begäran i ett samtal, medan basversionen har en annan roll som grund för en språkmodell. Ange versionsnamnet uttryckligt när du väljer modell eller jämför promptbeteende. Att träna en modell att följa instruktioner och att ge en precis instruktion vid användningen är kompletterande delar av arbetssättet.\n\nFörberedelse av samtalsindata\n\nModellkortets snabbstart skiljer en systeminstruktion från användarens fråga och använder den matchande chattmallen före generering. Samma praktiska åtskillnad är användbar för en applikationsuppgift: definiera assistentens roll och svarsregler separat från det källavsnitt eller den kod den ska arbeta med. En textetikett inne i ett dokument ersätter inte korrekt formaterade samtalsroller i det omgivande gränssnittet.\n\nEn teknisk förklaringsuppgift kan ge en funktion och ett indatavärde som exempel och sedan fråga vad varje gren gör och vilka villkor som påverkar resultatet. En koduppgift kan ange godtagna indata, förväntat returvärde och begränsningar för ändringar av befintligt beteende. Be om implementationen följd av exempel för ett normalt fall och ett gränsfall. Det är användningar av de dokumenterade språk- och kodförmågorna; genererad kod är ett textresultat, medan körningen hör till applikationsmiljön.\n\nFör flerspråkig redigering ska du tillhandahålla originalavsnittet, målgruppen och en kort terminologilista. Be om en revidering som behåller de ursprungliga namnen och villkoren och sedan en kort förklaring av ändringarna. Det är mer specifikt än att be om förbättrad text: det definierar vilken betydelse som ska bevaras och vilket användbart resultat som ska returneras.\n\nBearbetning av långa texter\n\nTillverkaren dokumenterar stöd för kontext på upp till 131 072 token, men instruktionerna för lång kontext är viktiga. Indata över 32 768 token kräver den dokumenterade YaRN-utökningskonfigurationen. Det publicerade exemplet använder skalningsfaktorn 4,0 med en ursprunglig positionsinställning på 32 768. Tillverkaren påpekar att den statiska utökningsinställningen kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext faktiskt behövs.\n\nFörbered en lång dokumentuppgift med en fokuserad fråga, namngivna källavsnitt och en uttrycklig utdatastruktur. Ge till exempel flera delar av en teknisk specifikation och be om de krav som är relevanta för en viss ändring, med källavsnittet bredvid varje resultat. Ett stort indatafönster är användbart för att hålla delarna tillsammans; svaret kan ändå vara en kompakt tabell i stället för en återberättelse av hela dokumentet.\n\nViktiga gränser\n\nSiffran 131 072 token beskriver utökat kontextstöd, inte tillåtelse att bortse från konfigurationen för lång kontext. Snabbstartsexemplets 512 genererade token är en exempelinställning, inte en publicerad maximal utdatakapacitet. Denna Instruct-version är en textmodell och ska inte ärva bild- eller videoförmågor från Qwen-VL eller den specialiserade verktygsintegrerade matematikträningen i Qwen2.5-Math. Välj den namngivna versionen och förbered texten för den specifika förklaring, kod eller det dokument du behöver.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "74fc8c9e17f4a7f1495fa5c8d44b26ba7a31e84f572fe5b9a8aeb7af48088bb3", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "sv", "methods": [ { "html": "qwen2-7b-instructQwen2-7B-Instruct är en instruktionsfinjusterad textmodell för flerspråkig dialog, programmering, matematik och resonemang. Tillverkaren dokumenterar kontext på upp till 131 072 token när konfigurationen för lång kontext är aktiverad.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen2-7B-Instruct är den instruktionsfinjusterade versionen i 7B-storlek av Qwen2 för samtal och uppgifter uttryckta på naturligt språk. Det är en modell med text som indata och utdata: svaret kan vara en förklaring, en översättning, ett dokumentutkast eller programkod. Tillverkaren anger språkförståelse, generering, flerspråkigt arbete, programmering, matematik och resonemang som dess huvudsakliga användningsområden.
Modelldetaljer
Qwen2 innehåller separata basversioner och instruktionsfinjusterade versioner. Detta kort gäller Instruct-versionen, inte basmodellen Qwen2-7B eller familjens mixture-of-experts-version. Tillverkarens modellinformationstabell anger 7,07 miljarder parametrar för modellen i 7B-storlek. Dess decoder-Transformer använder SwiGLU, QKV-bias i uppmärksamhetsmekanismen och grouped-query attention, med en tokenizer utformad för naturliga språk och kod. Det är val för arkitektur och representation, inte ytterligare indatamodaliteter.
Lanseringsmeddelandet beskriver träning på engelska och kinesiska plus 27 andra språk. De inkluderar ryska, tjeckiska och polska; tyska, franska och spanska; arabiska, persiska och turkiska; japanska och koreanska samt ytterligare språk i Syd- och Sydostasien. En flerspråkig assistent kan därför ta emot instruktioner och källmaterial på olika språk, men du bör ändå ange språk, terminologi och målgrupp för det slutliga resultatet.
Träning och skillnaden för Instruct
Efter förträningen använder tillverkaren övervakad finjustering och direkt preferensoptimering. Den instruktionsfinjusterade versionen är avsedd att svara på en begäran i ett samtal, medan basversionen har en annan roll som grund för en språkmodell. Ange versionsnamnet uttryckligt när du väljer modell eller jämför promptbeteende. Att träna en modell att följa instruktioner och att ge en precis instruktion vid användningen är kompletterande delar av arbetssättet.
Förberedelse av samtalsindata
Modellkortets snabbstart skiljer en systeminstruktion från användarens fråga och använder den matchande chattmallen före generering. Samma praktiska åtskillnad är användbar för en applikationsuppgift: definiera assistentens roll och svarsregler separat från det källavsnitt eller den kod den ska arbeta med. En textetikett inne i ett dokument ersätter inte korrekt formaterade samtalsroller i det omgivande gränssnittet.
En teknisk förklaringsuppgift kan ge en funktion och ett indatavärde som exempel och sedan fråga vad varje gren gör och vilka villkor som påverkar resultatet. En koduppgift kan ange godtagna indata, förväntat returvärde och begränsningar för ändringar av befintligt beteende. Be om implementationen följd av exempel för ett normalt fall och ett gränsfall. Det är användningar av de dokumenterade språk- och kodförmågorna; genererad kod är ett textresultat, medan körningen hör till applikationsmiljön.
För flerspråkig redigering ska du tillhandahålla originalavsnittet, målgruppen och en kort terminologilista. Be om en revidering som behåller de ursprungliga namnen och villkoren och sedan en kort förklaring av ändringarna. Det är mer specifikt än att be om förbättrad text: det definierar vilken betydelse som ska bevaras och vilket användbart resultat som ska returneras.
Bearbetning av långa texter
Tillverkaren dokumenterar stöd för kontext på upp till 131 072 token, men instruktionerna för lång kontext är viktiga. Indata över 32 768 token kräver den dokumenterade YaRN-utökningskonfigurationen. Det publicerade exemplet använder skalningsfaktorn 4,0 med en ursprunglig positionsinställning på 32 768. Tillverkaren påpekar att den statiska utökningsinställningen kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext faktiskt behövs.
Förbered en lång dokumentuppgift med en fokuserad fråga, namngivna källavsnitt och en uttrycklig utdatastruktur. Ge till exempel flera delar av en teknisk specifikation och be om de krav som är relevanta för en viss ändring, med källavsnittet bredvid varje resultat. Ett stort indatafönster är användbart för att hålla delarna tillsammans; svaret kan ändå vara en kompakt tabell i stället för en återberättelse av hela dokumentet.
Viktiga gränser
Siffran 131 072 token beskriver utökat kontextstöd, inte tillåtelse att bortse från konfigurationen för lång kontext. Snabbstartsexemplets 512 genererade token är en exempelinställning, inte en publicerad maximal utdatakapacitet. Denna Instruct-version är en textmodell och ska inte ärva bild- eller videoförmågor från Qwen-VL eller den specialiserade verktygsintegrerade matematikträningen i Qwen2.5-Math. Välj den namngivna versionen och förbered texten för den specifika förklaring, kod eller det dokument du behöver.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen2-7b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Beror på modellen | Standard— |
Fältmessages[].content | Typstring | KravValfritt | Värden & gränser Gäller när: Textsamtal | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream |
Parametercontrol_scope | AvtalTextsamtal; stream är ett booleskt värde och har false som standard. |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Metodalias: /chat/completions
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.000286 / 1K token Utdata · Utdatatoken $0.00058 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions
qwen2-7b-instructQwen2-7B-Instruct är en instruktionsfinjusterad textmodell för flerspråkig dialog, programmering, matematik och resonemang. Tillverkaren dokumenterar kontext på upp till 131 072 token när konfigurationen för lång kontext är aktiverad.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen2-7B-Instruct är den instruktionsfinjusterade versionen i 7B-storlek av Qwen2 för samtal och uppgifter uttryckta på naturligt språk. Det är en modell med text som indata och utdata: svaret kan vara en förklaring, en översättning, ett dokumentutkast eller programkod. Tillverkaren anger språkförståelse, generering, flerspråkigt arbete, programmering, matematik och resonemang som dess huvudsakliga användningsområden.
Modelldetaljer
Qwen2 innehåller separata basversioner och instruktionsfinjusterade versioner. Detta kort gäller Instruct-versionen, inte basmodellen Qwen2-7B eller familjens mixture-of-experts-version. Tillverkarens modellinformationstabell anger 7,07 miljarder parametrar för modellen i 7B-storlek. Dess decoder-Transformer använder SwiGLU, QKV-bias i uppmärksamhetsmekanismen och grouped-query attention, med en tokenizer utformad för naturliga språk och kod. Det är val för arkitektur och representation, inte ytterligare indatamodaliteter.
Lanseringsmeddelandet beskriver träning på engelska och kinesiska plus 27 andra språk. De inkluderar ryska, tjeckiska och polska; tyska, franska och spanska; arabiska, persiska och turkiska; japanska och koreanska samt ytterligare språk i Syd- och Sydostasien. En flerspråkig assistent kan därför ta emot instruktioner och källmaterial på olika språk, men du bör ändå ange språk, terminologi och målgrupp för det slutliga resultatet.
Träning och skillnaden för Instruct
Efter förträningen använder tillverkaren övervakad finjustering och direkt preferensoptimering. Den instruktionsfinjusterade versionen är avsedd att svara på en begäran i ett samtal, medan basversionen har en annan roll som grund för en språkmodell. Ange versionsnamnet uttryckligt när du väljer modell eller jämför promptbeteende. Att träna en modell att följa instruktioner och att ge en precis instruktion vid användningen är kompletterande delar av arbetssättet.
Förberedelse av samtalsindata
Modellkortets snabbstart skiljer en systeminstruktion från användarens fråga och använder den matchande chattmallen före generering. Samma praktiska åtskillnad är användbar för en applikationsuppgift: definiera assistentens roll och svarsregler separat från det källavsnitt eller den kod den ska arbeta med. En textetikett inne i ett dokument ersätter inte korrekt formaterade samtalsroller i det omgivande gränssnittet.
En teknisk förklaringsuppgift kan ge en funktion och ett indatavärde som exempel och sedan fråga vad varje gren gör och vilka villkor som påverkar resultatet. En koduppgift kan ange godtagna indata, förväntat returvärde och begränsningar för ändringar av befintligt beteende. Be om implementationen följd av exempel för ett normalt fall och ett gränsfall. Det är användningar av de dokumenterade språk- och kodförmågorna; genererad kod är ett textresultat, medan körningen hör till applikationsmiljön.
För flerspråkig redigering ska du tillhandahålla originalavsnittet, målgruppen och en kort terminologilista. Be om en revidering som behåller de ursprungliga namnen och villkoren och sedan en kort förklaring av ändringarna. Det är mer specifikt än att be om förbättrad text: det definierar vilken betydelse som ska bevaras och vilket användbart resultat som ska returneras.
Bearbetning av långa texter
Tillverkaren dokumenterar stöd för kontext på upp till 131 072 token, men instruktionerna för lång kontext är viktiga. Indata över 32 768 token kräver den dokumenterade YaRN-utökningskonfigurationen. Det publicerade exemplet använder skalningsfaktorn 4,0 med en ursprunglig positionsinställning på 32 768. Tillverkaren påpekar att den statiska utökningsinställningen kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext faktiskt behövs.
Förbered en lång dokumentuppgift med en fokuserad fråga, namngivna källavsnitt och en uttrycklig utdatastruktur. Ge till exempel flera delar av en teknisk specifikation och be om de krav som är relevanta för en viss ändring, med källavsnittet bredvid varje resultat. Ett stort indatafönster är användbart för att hålla delarna tillsammans; svaret kan ändå vara en kompakt tabell i stället för en återberättelse av hela dokumentet.
Viktiga gränser
Siffran 131 072 token beskriver utökat kontextstöd, inte tillåtelse att bortse från konfigurationen för lång kontext. Snabbstartsexemplets 512 genererade token är en exempelinställning, inte en publicerad maximal utdatakapacitet. Denna Instruct-version är en textmodell och ska inte ärva bild- eller videoförmågor från Qwen-VL eller den specialiserade verktygsintegrerade matematikträningen i Qwen2.5-Math. Välj den namngivna versionen och förbered texten för den specifika förklaring, kod eller det dokument du behöver.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen2-7b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.000286 / 1K token Utdata · Utdatatoken $0.00058 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "qwen2-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions