models

Qwen3 235B A22B FP8

Markdown · JSON

Qwen3 235B A22B FP8

Qwen3-235B-A22B-FP8 — Qwen3 үлкен сарапшылар қоспасы моделінің ресми ұсақтүйіршікті FP8 бақылау нүктесі. Ол гибридті мәтіндік пайымдау мен диалог қабілеттерін сақтайды, сонымен бірге өзінің кванттау сәйкестігі мен орындалу ортасына қатысты ерекшеліктері бар.

Модель туралы

Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.

Qwen3-235B-A22B-FP8 — Qwen3-235B-A22B моделінің ресми FP8 нұсқасы. Жарияланған мәтіндік қабілеттері 100-ден астам тіл мен диалектіде математикалық және логикалық пайымдауды, код жасауды, шығармашылық жазуды, рөлдік диалогты және бірнеше кезекті нұсқауларды орындауды қамтиды. Ол ойлану және тікелей жауап режимдерін біріктіреді. Оны бірнеше шартты біріктіретін тапсырмаға, мысалы, екі іске асыруды бір сипаттама бойынша салыстырып, сол салыстыруды нақты өзгеріс ұсынысына айналдыруға қолданыңыз.

Негізгі архитектура — сарапшылар қоспасы: жалпы 235 миллиард параметр, өңдеу кезінде 22 миллиарды белсенді, 94 қабат және 128 сарапшы, әр токенге сегізі таңдалады. Топталған сұрау назары 64 сұрау басын және төрт кілт/мән басын қолданады. FP8 жұрнағы қосымша жауап модальдылығын немесе басқа параметр санын емес, бөлек жарияланған бақылау нүктесін білдіреді. Модель мәтін қабылдап, мәтін жасайды. Кодты тексеретін көмекшіге сипаттаманы, тиісті бастапқы файлдарды және күтілетін әрекетті беріңіз; шешім кестесін, таңдалған өзгертуді және көзделген нәтижені көрсететін мысалдарды сұраңыз.

Өндірушінің бастапқы тәртібі дереккөз бен нұсқауларды әңгімелесу ретінде пішімдейді. Құжаттарды салыстыруда нұсқаларды белгілеп, әр дереккөздің беделін көрсетіңіз және өзгермеуі тиіс талаптарды анықтаңыз. Математикалық сұрақта толық шарт пен соңғы жауаптың қажетті пішімін қосыңыз. Іске асыру тапсырмасында тілді, нақты кіріс құрылымын, ақау жағдайын және сақталатын интерфейстерді көрсетіңіз. Ұзын жауап бастапқы сұрауды бәрібір шешуі үшін соңғы нәтижені нақтылаңыз. Жарияланған интеграция Qwen3-ті танитын орындалу ортасын күтеді; карта Transformers нұсқалары 4.51.0-ден төмен болса, қажетті архитектураны танымайтынын ескертеді.

Бұл нұсқада FP8-ге арналған жеке ескерту бар. Бақылау нүктесі блок өлшемі 128 болатын ұсақтүйіршікті FP8 кванттауын қолданады; жарияланған конфигурация кванттау схемасын тіркейді. Өндіруші инференс нұсқалары ретінде Transformers, SGLang және vLLM атайды, бірақ таратылған Transformers инференсіндегі ұсақтүйіршікті FP8 мәселелерін ескертеді. Бірнеше құрылғыда қолдану CUDA_LAUNCH_BLOCKING=1 параметрін қажет етуі мүмкін. Бұл — орындалу орталарының жылдамдығын, жад қолдануын не шығыс сапасын бірдей деп санауға негіз емес, нұсқаға тән үйлесімділік мәліметі. Нәтижелерді салыстырғанда немесе тіркегенде толық FP8 атауын сақтап, нақты бақылау нүктесін көзделген ортада бағалаңыз.

Берілген чат үлгісінде ойлану әдепкі режим, оны қатаң ауыстырғыш өшіре алады. Ойлану қосулы кезде /think және /no_think жеке кезектерді басқара алады; соңғы нұсқаудың басымдығы бар. Жұмсақ ауыстырғыштар қатаң өшіруді өзгерте алмайды. Соңғы жауапты жасалған пайымдау бөлімінен бөлек сақтап, кейінгі диалог тарихына соңғы жауапты енгізіңіз. Қайшылықтарды егжей-тегжейлі талдау ойлануды сұрай алады, ал қабылданған қорытындының пішімін өзгертетін келесі сұрау тікелей жауапты сұрай алады. Ойлану қосулы болса, жұмсақ тікелей жауап сұрауының өзінде пайымдау блогы сақталады; мазмұны бос болуы мүмкін. Қатаң өшіру сол блокты алып тастайды.

Карта құрал шақыру үлгілері мен талдау үшін Qwen-Agent ұсынады. Инженерлік көмекшіде қолданба тест орындағышын немесе тек оқуға арналған дереккөз іздеуін ұсынып, қабылданған шақыруды орындап, келесі жауап үшін дәлел қайтара алады. Құрал кірістерін, рұқсаттарын және нәтиже өрістерін көрсетіңіз. Көмекшіден ұсынылған өзгерісін қайтарылған нәтижемен байланыстыруды және өзі сұраған тестті қолданба шынымен аяқтаған тесттен ажыратуды талап етіңіз. Құралға қатысты модель қабілеттері осы сыртқы орындау процесіне тәуелді. Qwen3 нұсқаулығы параллель және көпқадамды құрал шақыруларын да сипаттайды; аргументтер объектілер түрінде беріліп, нәтижелер әңгімелесуге қайтарылады.

Төл контекст — 32 768 токен, YaRN кеңейтуі арқылы 131 072 құжатталған. Кіріс пен жасалған шығыс тізбектің ортақ көлемін пайдаланады. Үлкенірек терезе тиісті конфигурацияны қажет етеді, ал статикалық YaRN қысқа кірістерге әсер етуі мүмкін. Ұзын бастапқы материалды файл не бөлім бойынша ұйымдастырып, соңғы салыстыруға немесе кодқа орын қалдырыңыз. Жылдам бастау мен үздік тәжірибе ұсыныстарындағы шығыс ұзындықтары — бүкіл қызметтің жеке максималды шығысына дәлел емес, генерацияға арналған нұсқаулық. Qwen3 құжаттамасы оқыту ұзындығын түсіндіруде ойлану режиміндегі 38 912 токендік және тікелей жауап режиміндегі 16 384 токендік көмекші хабарларының ұзындығын талқылайды және ұзын генерация сапасын бағалауды ұсынады. Бұл сандар жалпы контекст терезесінен бөлек және endpoint-ке тән қатаң шек емес. Карта 40 960 токендік әдепкі позициялық бөлуді де әдеттегі prompt үшін 8 192 және шығыс үшін 32 768 ретінде түсіндіреді; бұл — төл оқыту контекстінен және кез келген endpoint шегінен бөлек өндірушінің конфигурация нұсқаулығы.

Ойлану режиміне ұсынылған іріктеу — temperature 0,6, top-p 0,95, top-k 20 және min-p 0; тікелей режим 0,7, 0,8, 20 және 0 мәндерін қолданады. Ойлану режиміндегі greedy декодтау қайталауға әкелуі мүмкін, ал күштірек presence penalty тілдердің араласуын тудыруы мүмкін. Нәтиже кестесінен кейін өзгертілген функция мен тиісті жағдайлар сияқты тексеруге болатын соңғы құрылымды сұраңыз. Ұсынылған өзгерісті қолданбас бұрын сандық қорытындыларды тексеріп, кодты мақсатты ортада орындаңыз және құрал нәтижелерін қараңыз. FP8 бақылау нүктесінің сәйкестігі мен орындалу ортасына қатысты ескертулері сол бағалаумен бірге сақталуы тиіс.

Практикалық тапсырма

Практикалық тапсырма

Ағылшын тіліндегі техникалық мысал

Compare two normalizers to a contract

The contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.

Күтілетін нәтиже

A two-implementation decision table, a selected implementation and two contract-focused tests.

Нәтижені тексеру

Check that sorting is recognized as an order violation and Blue remains distinct from blue.
Ailoot Ultra · OpenAI чаты POST /v1/chat/completions qwen/qwen3-235b-a22b-fp8

qwen/qwen3-235b-a22b-fp8

Alibaba /qwen/qwen3-235b-a22b-fp8

Бастау

Qwen3-235B-A22B-FP8 — Qwen3 үлкен сарапшылар қоспасы моделінің ресми ұсақтүйіршікті FP8 бақылау нүктесі. Ол гибридті мәтіндік пайымдау мен диалог қабілеттерін сақтайды, сонымен бірге өзінің кванттау сәйкестігі мен орындалу ортасына қатысты ерекшеліктері бар.

Қабылданатын кіріс деректері
Мәтін
Нәтижелер
Мәтін

Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер

Ailoot Ultra · OpenAI чаты POST /v1/chat/completions
Кіріс
text
Шығыс
text
Шығыс пішімі
json немесе SSE
ӨрісТүріТалапМәндер мен шектеулерӘдепкі
ӨрісmodelТүріstringТалапМіндеттіМәндер мен шектеулер
qwen/qwen3-235b-a22b-fp8
Әдепкі—
ӨрісmessagesТүріmessage[]ТалапМіндеттіМәндер мен шектеулер
Элементтердің ең аз саны: 1
Әдепкі—
Өрісmessages[].roleТүріstringТалапМіндеттіМәндер мен шектеулер
Мысалдар: system, user, assistant, tool, function
Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты.
Модельге байланысты
Әдепкі—
Өрісmessages[].contentТүріstring|content_part[]|nullТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_callsТүріtool_call[]ТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_call_idТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз
Әдепкі—
Өрісmessages[].nameТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].reasoning_contentТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз
Әдепкі—
Өрісmessages[].reasoning_detailsТүріobject|arrayТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісmax_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
Өрісmax_completion_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
ӨрісstreamТүріbooleanТалапМіндетті емесМәндер мен шектеулерӘдепкіfalse
Өрісstream_options.include_usageТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtemperatureТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtop_pТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісstopТүріstring|string[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtoolsТүріfunction_tool[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtools[].typeТүріstringТалапМіндетті емесМәндер мен шектеулер
function
Модельге байланысты
Әдепкі—
Өрісtools[].function.nameТүріstringТалапМіндеттіМәндер мен шектеулер
Мына жағдайда қолданылады: функция құралы берілген
Әдепкі—
Өрісtools[].function.descriptionТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtools[].function.parametersТүріJSON_schemaТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtool_choiceТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісparallel_tool_callsТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісresponse_formatТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісreasoning_effortТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісreasoningТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісservice_tierТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісinstructionsТүріstringТалапМіндетті емесМәндер мен шектеулер
Үйлесімділік өрісі
Әдепкі—
ӨрісfunctionsТүріfunction[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісfunction_callТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісprompt_cache_optionsТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісmodalitiesТүріstring[]ТалапМіндетті емесМәндер мен шектеулер
text
Әдепкі—
ӨрісproviderТүріobjectТалапМіндетті емесМәндер мен шектеулер
Шарттар: Осы Ultra мәтіндік бағытында provider.options қабылданбайды
Әдепкі—
Өрісcache_control.ttlТүріstringТалапМіндетті емесМәндер мен шектеулер
Шарттар: Сұрау кэшінің нақты орындарында 1h қабылданбайды
Әдепкі—
Кіріс материалдарының үйлесімдері

Мәтін · UTF8 мәтіні

messages[].content

Әдіс параметрлері мен өмірлік циклі
ПараметрПараметр талаптары
Параметрcontent_typeПараметр талаптарыapplication/json
ПараметрrequiredПараметр талаптарыmodel, messages
Параметрmaterial_typesПараметр талаптарыtext
ПараметрmessagesПараметр талаптарыrole/content құрылымы бар хабарламалар жиымы
Параметрfile_materialПараметр талаптарынақты UTF-8 құжаты сөзбе-сөз мәтін ретінде енгізіледі; файл ID-і болжанбайды
Параметрoptional_controlsПараметр талаптарыstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice
Параметрcontrol_scopeПараметр талаптарымодельге байланысты; пайдаланушының функция құралдары қызмет жағында орындалатын құралдардан өзгеше
Параметрoutput_modalitiesПараметр талаптарыtext
Параметрhosted_operationsПараметр талаптарыfalse
Параметрmultimodal_input_bindingПараметр талаптарыnull

Өмірлік цикл: synchronous_or_streamed

Модельдің дәл ID мәнін messages деректерімен бірге жіберіңіз.

Контекст ұзындығы шығыстың жоғарғы шегі емес.

Мәтіндік файл сөзбе-сөз мәтінді бере алады; кіріс суреттері, аудио және файл нысандары дәл байланыстыруды қажет етеді.

Тарифтер

Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.

Жылдам режим
Көрсетілмеген Жылдам режим таңдалғанда
Икемді режим
Көрсетілмеген flex режимі таңдалғанда
Ой қорытудың ең жоғары деңгейі
Көрсетілмеген Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда

Ailoot мөлшерлемелері

Баптаулар бойынша бағалар

БаптауМөлшерлемелер кестесіТөлем
БаптауТокендердің базалық тарифтеріМөлшерлемелер кестесіНегізгі мөлшерлемеТөлем
Кіріс · Кіріс токендері $0.0004 / 1K токен
Шығыс · Шығыс токендері $0.0016 / 1K токен
Кіріс · Кэшті оқу $0 / 1K токен
Кіріс · Кэшке жазу $0 / 1K токен
Кіріс · Кэшке жазу, 1 сағ — / 1K токен

Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →

Сұрау мысалдары

Ailoot Ultra · OpenAI чаты

curlPython SDKPython ағыны
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
    if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(result.to_dict(mode="json"))
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Нәтижелерді алу және сақтау

Ailoot Ultra · OpenAI чаты

json немесе SSE

Барлық дайын нәтижені сақтау

Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.

Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз.

Бастапқы жауапты тексеру қажет болса

Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.

Жауап өрістері
ӨрісТүрі
Өрісchoices[].indexТүріinteger
Өрісchoices[].message.contentТүріstring|null
Өрісchoices[].message.tool_callsТүріtool_call[]
Өрісchoices[].message.reasoning_contentТүріstring
Өрісchoices[].message.reasoning_detailsТүріobject|array
Өрісchoices[].finish_reasonТүріstring|null
ӨрісusageТүріobject
Қателер және келесі қадамдар
ЖауапШартКелесі қадам
Жауап400 · invalid_request_errorШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қатеКелесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз.

Балама атаулар

Модельдердің балама атаулары

Ailoot Ultra qwen/qwen3-235b-a22b-fp8

Әдіс жолдарының балама атаулары

Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.

Шақыруға арналған байланысты ID

qwen/qwen3-235b-a22b-fp8

Ailoot Ultra · Anthropic хабарламалары POST /v1/messages qwen/qwen3-235b-a22b-fp8

qwen/qwen3-235b-a22b-fp8

Alibaba /qwen/qwen3-235b-a22b-fp8

Бастау

Qwen3-235B-A22B-FP8 — Qwen3 үлкен сарапшылар қоспасы моделінің ресми ұсақтүйіршікті FP8 бақылау нүктесі. Ол гибридті мәтіндік пайымдау мен диалог қабілеттерін сақтайды, сонымен бірге өзінің кванттау сәйкестігі мен орындалу ортасына қатысты ерекшеліктері бар.

Қабылданатын кіріс деректері
Мәтін
Нәтижелер
json · sse

Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер

Ailoot Ultra · Anthropic хабарламалары POST /v1/messages
Кіріс
text
Шығыс
json, sse
Шығыс пішімі
JSON немесе SSE
ӨрісТүріТалапМәндер мен шектеулерӘдепкі
ӨрісmodelТүріstringТалапМіндеттіМәндер мен шектеулер
qwen/qwen3-235b-a22b-fp8
Әдепкі—
ӨрісmessagesТүріmessage[]ТалапМіндеттіМәндер мен шектеулерӘдепкі—
Өрісmessages[].roleТүріstringТалапМіндеттіМәндер мен шектеулер
user, assistant
Әдепкі—
Өрісmessages[].contentТүріstringТалапМіндеттіМәндер мен шектеулерӘдепкі—
Өрісmax_tokensТүріintegerТалапМіндеттіМәндер мен шектеулерӘдепкі—
ӨрісstreamТүріbooleanТалапМіндетті емесМәндер мен шектеулерӘдепкіfalse
Кіріс материалдарының үйлесімдері

Мәтін · UTF-8 мәтіні

messages[].content жолы

Әдіс параметрлері мен өмірлік циклі
ПараметрПараметр талаптары
Параметрcontent_typeПараметр талаптарыapplication/json
ПараметрrequiredПараметр талаптарыmodel, messages, max_tokens
Параметрoptional_controlsПараметр талаптарыstream
Параметрmaterial_typesПараметр талаптарыtext
Параметрtext_file_materialПараметр талаптарыНақты UTF-8 құжатын оқып, оның мәтінін көрсетілген кіріс жолына немесе хабарлама мазмұнының жолына қойыңыз.

Өмірлік цикл: synchronous_or_streamed

Тарифтер

Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.

Жылдам режим
Көрсетілмеген Жылдам режим таңдалғанда
Икемді режим
Көрсетілмеген flex режимі таңдалғанда
Ой қорытудың ең жоғары деңгейі
Көрсетілмеген Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда

Ailoot мөлшерлемелері

Баптаулар бойынша бағалар

БаптауМөлшерлемелер кестесіТөлем
БаптауТокендердің базалық тарифтеріМөлшерлемелер кестесіНегізгі мөлшерлемеТөлем
Кіріс · Кіріс токендері $0.0004 / 1K токен
Шығыс · Шығыс токендері $0.0016 / 1K токен
Кіріс · Кэшті оқу $0 / 1K токен
Кіріс · Кэшке жазу $0 / 1K токен
Кіріс · Кэшке жазу, 1 сағ — / 1K токен

Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →

Сұрау мысалдары

Ailoot Ultra · Anthropic хабарламалары

Ең ықшам толық JSON сұрау денесіcurl · өзіңіздің UTF-8 құжатыңызды қолданыңызPython · нәтижені толық сақтаңыз
{
  "model": "qwen/qwen3-235b-a22b-fp8",
  "max_tokens": 128,
  "messages": [
    {
      "role": "user",
      "content": "Summarize the incident report."
    }
  ],
  "stream": false
}
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
  -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError

api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
    raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
    with urlopen(request, timeout=120) as response:
        raw = response.read()
        Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
    Path('result.json').write_bytes(error.read())
    Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
    raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))

Нәтижелерді алу және сақтау

Ailoot Ultra · Anthropic хабарламалары

JSON немесе SSE

Барлық дайын нәтижені сақтау

Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.

Барлық мазмұн блоктарын, пайымдау қолтаңбаларын және құрал қолданудың нақты ID мәндерін сақтаңыз. SSE блоктарының барлық өзгерістерін жинаңыз; алғашқы мәтіндік блок толық шығыс емес.

Бастапқы жауапты тексеру қажет болса

Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.

Жауап өрістері
ӨрісТүрі
ӨрісidТүріstring
ӨрісmodelТүріstring
Өрісcontent[]Түріtext|thinking|tool_use|other content block
Өрісstop_reasonТүріstring|null
ӨрісusageТүріobject
Қателер және келесі қадамдар
ЖауапШартКелесі қадам
Жауап400 · invalid_request_errorШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қатеКелесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз.

Балама атаулар

Модельдердің балама атаулары

Ailoot Ultra qwen/qwen3-235b-a22b-fp8

Әдіс жолдарының балама атаулары

Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.

Шақыруға арналған байланысты ID

qwen/qwen3-235b-a22b-fp8

FAQ · qwen/qwen3-235b-a22b-fp8
Қандай кіріс деректері мен нәтижелер қолжетімді?

POST /v1/chat/completions · qwen/qwen3-235b-a22b-fp8: text → text

POST /v1/messages · qwen/qwen3-235b-a22b-fp8: text → json, sse

Сұрау қандай өрістерді пайдаланады?

POST /v1/chat/completions · qwen/qwen3-235b-a22b-fp8: model, messages, stream, modalities, provider

POST /v1/messages · qwen/qwen3-235b-a22b-fp8: model, messages, max_tokens, stream

Қандай шектеулер қолданылады?

POST /v1/chat/completions · qwen/qwen3-235b-a22b-fp8: messages.min_items: 1

Толығырақ

Ailoot-ты Claude Code, OpenCode, Hermes не қолданбаңызға қосыңыз.

Компания және оның жобалар портфелі

Компания және оның жобалар портфелі: миллиондаған клиент; ай сайынғы сату көлемі миллиардтармен есептеледі.

Токенді жеңілдікпен сатып алыңыз.

Тұрақты жұмысқа жазылым жеңілдігі. Токен сатып алуға промокодтар — 50% дейін.

Жазылым
Тұрақты сұрауыңызға жеңілдікті тариф таңдаңыз.
50% дейінгі промокод
Сатып алғанда код енгізіңіз. Баға қазіргі науқанмен қайта есептеледі.
Тарихтағы шығындар
Әр сұрауға модель, токен және сома сақталады.

Жазылым таңдау · Модель бағасын көру

API-ді сататын өніміңізге қосыңыз.

SaaS, қолданба мен бот Ailoot офертасы және лицензиялық шартына сай. Қайта сатуға реселлер лицензиясын сұраңыз.

Коммерциялық қолданба
Қызметіңіздің ақылы функциясына мәтін, сурет, бейне және дыбыс жасауды қосыңыз.
Реселлер лицензиясы
Жоба сипаттамасы мен кіру схемасын жіберіңіз. Пайдалану мен қайта сатуға жазбаша шарт сұраңыз.
Сайттағы құжаттар
Оферта, лицензиялық шарт және дерек саясаты қоспай тұрып қолжетімді.

Реселлер лицензиясын сұрау · Оферта мен лицензиялық шарт