Qwen2-7B-Instruct is de op instructies afgestemde 7B-editie van Qwen2 voor gesprekken en taken in natuurlijke taal. Het is een model met tekstinvoer en tekstuitvoer: het antwoord kan een uitleg, vertaling, documentconcept of programmacode zijn. De maker noemt taalbegrip, generatie, meertalig werk, programmeren, wiskunde en redeneren als belangrijkste toepassingen.
Modeldetails
Qwen2 heeft aparte basis- en op instructies afgestemde releases. Deze kaart gaat over de Instruct-editie, niet het Qwen2-7B-basismodel of de mixture-of-experts-release van de familie. De modelinformatietabel van de maker vermeldt 7,07 miljard parameters voor het 7B-model. De decoder-Transformer gebruikt SwiGLU, attention-QKV-bias en grouped-query attention, met een tokenizer die is ontworpen voor natuurlijke talen en code. Dit zijn keuzes in architectuur en representatie, geen extra invoermodaliteiten.
De releaseaankondiging beschrijft training in Engels en Chinees plus 27 aanvullende talen. Daaronder vallen Russisch, Tsjechisch en Pools; Duits, Frans en Spaans; Arabisch, Perzisch en Turks; Japans en Koreaans; en verdere talen in Zuid- en Zuidoost-Azië. Een meertalige assistent kan daardoor een instructie en bronmateriaal in verschillende talen ontvangen, maar het blijft raadzaam de taal, terminologie en doelgroep van het eindresultaat aan te geven.
Training en het Instruct-onderscheid
Na pretraining gebruikt de maker supervised fine-tuning en direct preference optimization. De op instructies afgestemde editie is bedoeld om op een verzoek in een gesprek te reageren, terwijl de basiseditie een andere rol als taalmodelbasis heeft. Houd de editienaam expliciet wanneer je een model selecteert of promptgedrag vergelijkt. Een model trainen om instructies te volgen en bij gebruik een precieze instructie geven zijn aanvullende onderdelen van die werkstroom.
Gespreksinvoer voorbereiden
De snelstart op de modelkaart scheidt een systeeminstructie van de vraag van de gebruiker en past de bijbehorende chattemplate toe voordat wordt gegenereerd. Hetzelfde praktische onderscheid is nuttig voor een applicatietaak: definieer de rol en antwoordregels van de assistent apart van de bronpassage of code waarmee hij moet werken. Een tekstlabel in een document is geen vervanging voor correct opgemaakte gespreksrollen in de omringende interface.
Een technische uitlegtaak kan een functie en één invoervoorbeeld geven en vervolgens vragen wat elke tak doet en welke voorwaarden het resultaat beïnvloeden. Een codetaak kan de geaccepteerde invoer, verwachte retourwaarde en beperkingen op het veranderen van bestaand gedrag aangeven. Vraag om de implementatie gevolgd door voorbeelden voor een normaal geval en een grensgeval. Dit zijn toepassingen van de gedocumenteerde taal- en codevaardigheden; code genereren is een tekstresultaat, terwijl het uitvoeren ervan bij de applicatieomgeving hoort.
Lever bij meertalig redigeren de oorspronkelijke passage, de doelgroep en een korte terminologielijst aan. Vraag om een herziening die de oorspronkelijke namen en voorwaarden behoudt en daarna om een korte uitleg van de wijzigingen. Dit is specifieker dan vragen de tekst te verbeteren: het legt vast welke betekenis moet blijven bestaan en welke bruikbare uitvoer moet worden geleverd.
Lange teksten verwerken
De maker documenteert contextondersteuning tot 131.072 tokens, maar de instructies voor lange context zijn van belang. Invoer boven 32.768 tokens vereist de gedocumenteerde YaRN-uitbreidingsconfiguratie. Het gepubliceerde voorbeeld gebruikt een schaalfactor van 4,0 met een oorspronkelijke positie-instelling van 32.768. De maker merkt op dat de statische uitbreidingsinstelling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer lange context daadwerkelijk nodig is.
Bereid een lange-documenttaak voor met een gerichte vraag, benoemde bronsecties en een expliciete uitvoerstructuur. Lever bijvoorbeeld verschillende delen van een technische specificatie aan en vraag om de vereisten die voor een bepaalde wijziging relevant zijn, met de bronsectie naast elke bevinding. Een groot invoervenster helpt die delen samen te houden; het antwoord kan nog steeds een compacte tabel zijn in plaats van het hele document opnieuw te vertellen.
Belangrijke grenzen
Het getal van 131.072 tokens geeft uitgebreide contextondersteuning aan, geen reden om de langcontextconfiguratie te negeren. De 512 gegenereerde tokens in het snelstartvoorbeeld zijn een voorbeeldinstelling, geen gepubliceerde maximale uitvoercapaciteit. Deze Instruct-release is een tekstmodel en moet geen beeld- of videomogelijkheden van Qwen-VL overnemen, of de gespecialiseerde, met tools geïntegreerde wiskundetraining van Qwen2.5-Math. Kies de benoemde editie en bereid de tekst voor de specifieke uitleg, code of het document voor dat je nodig hebt.
", "aboutText": "Qwen2-7B-Instruct is de op instructies afgestemde 7B-editie van Qwen2 voor gesprekken en taken in natuurlijke taal. Het is een model met tekstinvoer en tekstuitvoer: het antwoord kan een uitleg, vertaling, documentconcept of programmacode zijn. De maker noemt taalbegrip, generatie, meertalig werk, programmeren, wiskunde en redeneren als belangrijkste toepassingen.\n\nModeldetails\n\nQwen2 heeft aparte basis- en op instructies afgestemde releases. Deze kaart gaat over de Instruct-editie, niet het Qwen2-7B-basismodel of de mixture-of-experts-release van de familie. De modelinformatietabel van de maker vermeldt 7,07 miljard parameters voor het 7B-model. De decoder-Transformer gebruikt SwiGLU, attention-QKV-bias en grouped-query attention, met een tokenizer die is ontworpen voor natuurlijke talen en code. Dit zijn keuzes in architectuur en representatie, geen extra invoermodaliteiten.\n\nDe releaseaankondiging beschrijft training in Engels en Chinees plus 27 aanvullende talen. Daaronder vallen Russisch, Tsjechisch en Pools; Duits, Frans en Spaans; Arabisch, Perzisch en Turks; Japans en Koreaans; en verdere talen in Zuid- en Zuidoost-Azië. Een meertalige assistent kan daardoor een instructie en bronmateriaal in verschillende talen ontvangen, maar het blijft raadzaam de taal, terminologie en doelgroep van het eindresultaat aan te geven.\n\nTraining en het Instruct-onderscheid\n\nNa pretraining gebruikt de maker supervised fine-tuning en direct preference optimization. De op instructies afgestemde editie is bedoeld om op een verzoek in een gesprek te reageren, terwijl de basiseditie een andere rol als taalmodelbasis heeft. Houd de editienaam expliciet wanneer je een model selecteert of promptgedrag vergelijkt. Een model trainen om instructies te volgen en bij gebruik een precieze instructie geven zijn aanvullende onderdelen van die werkstroom.\n\nGespreksinvoer voorbereiden\n\nDe snelstart op de modelkaart scheidt een systeeminstructie van de vraag van de gebruiker en past de bijbehorende chattemplate toe voordat wordt gegenereerd. Hetzelfde praktische onderscheid is nuttig voor een applicatietaak: definieer de rol en antwoordregels van de assistent apart van de bronpassage of code waarmee hij moet werken. Een tekstlabel in een document is geen vervanging voor correct opgemaakte gespreksrollen in de omringende interface.\n\nEen technische uitlegtaak kan een functie en één invoervoorbeeld geven en vervolgens vragen wat elke tak doet en welke voorwaarden het resultaat beïnvloeden. Een codetaak kan de geaccepteerde invoer, verwachte retourwaarde en beperkingen op het veranderen van bestaand gedrag aangeven. Vraag om de implementatie gevolgd door voorbeelden voor een normaal geval en een grensgeval. Dit zijn toepassingen van de gedocumenteerde taal- en codevaardigheden; code genereren is een tekstresultaat, terwijl het uitvoeren ervan bij de applicatieomgeving hoort.\n\nLever bij meertalig redigeren de oorspronkelijke passage, de doelgroep en een korte terminologielijst aan. Vraag om een herziening die de oorspronkelijke namen en voorwaarden behoudt en daarna om een korte uitleg van de wijzigingen. Dit is specifieker dan vragen de tekst te verbeteren: het legt vast welke betekenis moet blijven bestaan en welke bruikbare uitvoer moet worden geleverd.\n\nLange teksten verwerken\n\nDe maker documenteert contextondersteuning tot 131.072 tokens, maar de instructies voor lange context zijn van belang. Invoer boven 32.768 tokens vereist de gedocumenteerde YaRN-uitbreidingsconfiguratie. Het gepubliceerde voorbeeld gebruikt een schaalfactor van 4,0 met een oorspronkelijke positie-instelling van 32.768. De maker merkt op dat de statische uitbreidingsinstelling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer lange context daadwerkelijk nodig is.\n\nBereid een lange-documenttaak voor met een gerichte vraag, benoemde bronsecties en een expliciete uitvoerstructuur. Lever bijvoorbeeld verschillende delen van een technische specificatie aan en vraag om de vereisten die voor een bepaalde wijziging relevant zijn, met de bronsectie naast elke bevinding. Een groot invoervenster helpt die delen samen te houden; het antwoord kan nog steeds een compacte tabel zijn in plaats van het hele document opnieuw te vertellen.\n\nBelangrijke grenzen\n\nHet getal van 131.072 tokens geeft uitgebreide contextondersteuning aan, geen reden om de langcontextconfiguratie te negeren. De 512 gegenereerde tokens in het snelstartvoorbeeld zijn een voorbeeldinstelling, geen gepubliceerde maximale uitvoercapaciteit. Deze Instruct-release is een tekstmodel en moet geen beeld- of videomogelijkheden van Qwen-VL overnemen, of de gespecialiseerde, met tools geïntegreerde wiskundetraining van Qwen2.5-Math. Kies de benoemde editie en bereid de tekst voor de specifieke uitleg, code of het document voor dat je nodig hebt.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "a71d8aec7859ce4c6528da1959e60cce1368f4595a9e623d35bee114e76469db", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "nl", "methods": [ { "html": "qwen2-7b-instructQwen2-7B-Instruct is een op instructies afgestemd tekstmodel voor meertalige dialoog, programmeren, wiskunde en redeneren. De maker documenteert context tot 131.072 tokens wanneer de langcontextconfiguratie is ingeschakeld.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2-7B-Instruct is de op instructies afgestemde 7B-editie van Qwen2 voor gesprekken en taken in natuurlijke taal. Het is een model met tekstinvoer en tekstuitvoer: het antwoord kan een uitleg, vertaling, documentconcept of programmacode zijn. De maker noemt taalbegrip, generatie, meertalig werk, programmeren, wiskunde en redeneren als belangrijkste toepassingen.
Modeldetails
Qwen2 heeft aparte basis- en op instructies afgestemde releases. Deze kaart gaat over de Instruct-editie, niet het Qwen2-7B-basismodel of de mixture-of-experts-release van de familie. De modelinformatietabel van de maker vermeldt 7,07 miljard parameters voor het 7B-model. De decoder-Transformer gebruikt SwiGLU, attention-QKV-bias en grouped-query attention, met een tokenizer die is ontworpen voor natuurlijke talen en code. Dit zijn keuzes in architectuur en representatie, geen extra invoermodaliteiten.
De releaseaankondiging beschrijft training in Engels en Chinees plus 27 aanvullende talen. Daaronder vallen Russisch, Tsjechisch en Pools; Duits, Frans en Spaans; Arabisch, Perzisch en Turks; Japans en Koreaans; en verdere talen in Zuid- en Zuidoost-Azië. Een meertalige assistent kan daardoor een instructie en bronmateriaal in verschillende talen ontvangen, maar het blijft raadzaam de taal, terminologie en doelgroep van het eindresultaat aan te geven.
Training en het Instruct-onderscheid
Na pretraining gebruikt de maker supervised fine-tuning en direct preference optimization. De op instructies afgestemde editie is bedoeld om op een verzoek in een gesprek te reageren, terwijl de basiseditie een andere rol als taalmodelbasis heeft. Houd de editienaam expliciet wanneer je een model selecteert of promptgedrag vergelijkt. Een model trainen om instructies te volgen en bij gebruik een precieze instructie geven zijn aanvullende onderdelen van die werkstroom.
Gespreksinvoer voorbereiden
De snelstart op de modelkaart scheidt een systeeminstructie van de vraag van de gebruiker en past de bijbehorende chattemplate toe voordat wordt gegenereerd. Hetzelfde praktische onderscheid is nuttig voor een applicatietaak: definieer de rol en antwoordregels van de assistent apart van de bronpassage of code waarmee hij moet werken. Een tekstlabel in een document is geen vervanging voor correct opgemaakte gespreksrollen in de omringende interface.
Een technische uitlegtaak kan een functie en één invoervoorbeeld geven en vervolgens vragen wat elke tak doet en welke voorwaarden het resultaat beïnvloeden. Een codetaak kan de geaccepteerde invoer, verwachte retourwaarde en beperkingen op het veranderen van bestaand gedrag aangeven. Vraag om de implementatie gevolgd door voorbeelden voor een normaal geval en een grensgeval. Dit zijn toepassingen van de gedocumenteerde taal- en codevaardigheden; code genereren is een tekstresultaat, terwijl het uitvoeren ervan bij de applicatieomgeving hoort.
Lever bij meertalig redigeren de oorspronkelijke passage, de doelgroep en een korte terminologielijst aan. Vraag om een herziening die de oorspronkelijke namen en voorwaarden behoudt en daarna om een korte uitleg van de wijzigingen. Dit is specifieker dan vragen de tekst te verbeteren: het legt vast welke betekenis moet blijven bestaan en welke bruikbare uitvoer moet worden geleverd.
Lange teksten verwerken
De maker documenteert contextondersteuning tot 131.072 tokens, maar de instructies voor lange context zijn van belang. Invoer boven 32.768 tokens vereist de gedocumenteerde YaRN-uitbreidingsconfiguratie. Het gepubliceerde voorbeeld gebruikt een schaalfactor van 4,0 met een oorspronkelijke positie-instelling van 32.768. De maker merkt op dat de statische uitbreidingsinstelling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer lange context daadwerkelijk nodig is.
Bereid een lange-documenttaak voor met een gerichte vraag, benoemde bronsecties en een expliciete uitvoerstructuur. Lever bijvoorbeeld verschillende delen van een technische specificatie aan en vraag om de vereisten die voor een bepaalde wijziging relevant zijn, met de bronsectie naast elke bevinding. Een groot invoervenster helpt die delen samen te houden; het antwoord kan nog steeds een compacte tabel zijn in plaats van het hele document opnieuw te vertellen.
Belangrijke grenzen
Het getal van 131.072 tokens geeft uitgebreide contextondersteuning aan, geen reden om de langcontextconfiguratie te negeren. De 512 gegenereerde tokens in het snelstartvoorbeeld zijn een voorbeeldinstelling, geen gepubliceerde maximale uitvoercapaciteit. Deze Instruct-release is een tekstmodel en moet geen beeld- of videomogelijkheden van Qwen-VL overnemen, of de gespecialiseerde, met tools geïntegreerde wiskundetraining van Qwen2.5-Math. Kies de benoemde editie en bereid de tekst voor de specifieke uitleg, code of het document voor dat je nodig hebt.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen2-7b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Tekstgesprek | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream |
Parametercontrol_scope | ContractTekstgesprek; stream is een booleaanse waarde en is standaard false. |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Methodealiasnamen: /chat/completions
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.000286 / 1K tokens Uitvoer · Uitvoertokens $0.00058 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions
qwen2-7b-instructQwen2-7B-Instruct is een op instructies afgestemd tekstmodel voor meertalige dialoog, programmeren, wiskunde en redeneren. De maker documenteert context tot 131.072 tokens wanneer de langcontextconfiguratie is ingeschakeld.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2-7B-Instruct is de op instructies afgestemde 7B-editie van Qwen2 voor gesprekken en taken in natuurlijke taal. Het is een model met tekstinvoer en tekstuitvoer: het antwoord kan een uitleg, vertaling, documentconcept of programmacode zijn. De maker noemt taalbegrip, generatie, meertalig werk, programmeren, wiskunde en redeneren als belangrijkste toepassingen.
Modeldetails
Qwen2 heeft aparte basis- en op instructies afgestemde releases. Deze kaart gaat over de Instruct-editie, niet het Qwen2-7B-basismodel of de mixture-of-experts-release van de familie. De modelinformatietabel van de maker vermeldt 7,07 miljard parameters voor het 7B-model. De decoder-Transformer gebruikt SwiGLU, attention-QKV-bias en grouped-query attention, met een tokenizer die is ontworpen voor natuurlijke talen en code. Dit zijn keuzes in architectuur en representatie, geen extra invoermodaliteiten.
De releaseaankondiging beschrijft training in Engels en Chinees plus 27 aanvullende talen. Daaronder vallen Russisch, Tsjechisch en Pools; Duits, Frans en Spaans; Arabisch, Perzisch en Turks; Japans en Koreaans; en verdere talen in Zuid- en Zuidoost-Azië. Een meertalige assistent kan daardoor een instructie en bronmateriaal in verschillende talen ontvangen, maar het blijft raadzaam de taal, terminologie en doelgroep van het eindresultaat aan te geven.
Training en het Instruct-onderscheid
Na pretraining gebruikt de maker supervised fine-tuning en direct preference optimization. De op instructies afgestemde editie is bedoeld om op een verzoek in een gesprek te reageren, terwijl de basiseditie een andere rol als taalmodelbasis heeft. Houd de editienaam expliciet wanneer je een model selecteert of promptgedrag vergelijkt. Een model trainen om instructies te volgen en bij gebruik een precieze instructie geven zijn aanvullende onderdelen van die werkstroom.
Gespreksinvoer voorbereiden
De snelstart op de modelkaart scheidt een systeeminstructie van de vraag van de gebruiker en past de bijbehorende chattemplate toe voordat wordt gegenereerd. Hetzelfde praktische onderscheid is nuttig voor een applicatietaak: definieer de rol en antwoordregels van de assistent apart van de bronpassage of code waarmee hij moet werken. Een tekstlabel in een document is geen vervanging voor correct opgemaakte gespreksrollen in de omringende interface.
Een technische uitlegtaak kan een functie en één invoervoorbeeld geven en vervolgens vragen wat elke tak doet en welke voorwaarden het resultaat beïnvloeden. Een codetaak kan de geaccepteerde invoer, verwachte retourwaarde en beperkingen op het veranderen van bestaand gedrag aangeven. Vraag om de implementatie gevolgd door voorbeelden voor een normaal geval en een grensgeval. Dit zijn toepassingen van de gedocumenteerde taal- en codevaardigheden; code genereren is een tekstresultaat, terwijl het uitvoeren ervan bij de applicatieomgeving hoort.
Lever bij meertalig redigeren de oorspronkelijke passage, de doelgroep en een korte terminologielijst aan. Vraag om een herziening die de oorspronkelijke namen en voorwaarden behoudt en daarna om een korte uitleg van de wijzigingen. Dit is specifieker dan vragen de tekst te verbeteren: het legt vast welke betekenis moet blijven bestaan en welke bruikbare uitvoer moet worden geleverd.
Lange teksten verwerken
De maker documenteert contextondersteuning tot 131.072 tokens, maar de instructies voor lange context zijn van belang. Invoer boven 32.768 tokens vereist de gedocumenteerde YaRN-uitbreidingsconfiguratie. Het gepubliceerde voorbeeld gebruikt een schaalfactor van 4,0 met een oorspronkelijke positie-instelling van 32.768. De maker merkt op dat de statische uitbreidingsinstelling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer lange context daadwerkelijk nodig is.
Bereid een lange-documenttaak voor met een gerichte vraag, benoemde bronsecties en een expliciete uitvoerstructuur. Lever bijvoorbeeld verschillende delen van een technische specificatie aan en vraag om de vereisten die voor een bepaalde wijziging relevant zijn, met de bronsectie naast elke bevinding. Een groot invoervenster helpt die delen samen te houden; het antwoord kan nog steeds een compacte tabel zijn in plaats van het hele document opnieuw te vertellen.
Belangrijke grenzen
Het getal van 131.072 tokens geeft uitgebreide contextondersteuning aan, geen reden om de langcontextconfiguratie te negeren. De 512 gegenereerde tokens in het snelstartvoorbeeld zijn een voorbeeldinstelling, geen gepubliceerde maximale uitvoercapaciteit. Deze Instruct-release is een tekstmodel en moet geen beeld- of videomogelijkheden van Qwen-VL overnemen, of de gespecialiseerde, met tools geïntegreerde wiskundetraining van Qwen2.5-Math. Kies de benoemde editie en bereid de tekst voor de specifieke uitleg, code of het document voor dat je nodig hebt.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen2-7b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.000286 / 1K tokens Uitvoer · Uitvoertokens $0.00058 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "qwen2-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions