MoonshotAI: Kimi K3 (batch)
A Kimi K3 a Moonshot AI natív multimodális következtető modellje hosszú programozási feladatokhoz és tudásmunkához. Szöveget, képeket és videót olvas, szöveget állít elő, és eszközvezérelt munkafolyamatokat támogat 1 048 576 tokenes kontextussal és a lépések között megőrzött gondolkodási előzményekkel.
A modellről
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Kimi K3 a Moonshot AI nyílt modellsúlyú, multimodális ügynökmodellje hosszú távú programozáshoz, tudásmunkához és következtetéshez. A szöveget képek és videók natív vizuális értelmezésével egyesíti, és szöveges választ vagy eszközkérést állít elő. A gyártó hosszú mérnöki munkameneteket, nagy kódtárakat és a kód mellett képernyőképet vagy vizuális visszajelzést használó feladatokat emel ki. Hasznos feladatleírás meghatározza a kívánt eredményanyagot, a felhasználandó bizonyítékot és a munka befejezését jelző feltételt.
Architektúra és hosszú kontextus
A modellkártya ritka szakértőkeveréket ír le 2,8 billió összes paraméterrel és 104 milliárd aktivált paraméterrel. Stable LatentMoE felépítése tokenenként a 896 szakértőből 16-ot választ ki, Kimi Delta Attentiont és Attention Residualst használva kapuzott figyelemmel együtt. A pontos kontextushossz 1 048 576 token. Ez jelentős feladatkontextusnak ad helyet, nem indok a forráshatárok vagy az eredményhez szükséges hely elhagyására.
A közzétett natív modellanyag kvantálást figyelembe vevő tanítást használ MXFP4 modellsúlyokkal és MXFP8 aktivációkkal. Ez a gyártó kiadási formátuma, külön egy önállóan biztosított kvantált kiadástól vagy arra vonatkozó állítástól, hogyan szolgálja ki a modellt egy adott útvonal. A nyílt modellsúlyok és a nagy paraméterszám nem teszik az aktív paraméterszámot a teljes tárhely- vagy hardverigénnyé.
Készíts elő jelentős programozási feladatot
Add meg a releváns kódtáranyagot, a meglévő működést, a kért változtatást és a kompatibilitási korlátokat. Azonosítsd az eredmény által érintendő fájlokat vagy interfészt, a sikert meghatározó ellenőrzéseket és a problémát feltáró megadott hibát vagy bemenetet. Hasznos eredmény lehet célzott kódmódosítás magyarázattal és a ténylegesen lefutott ellenőrzések bizonyítékával, soha végre nem hajtott műveletek leírása helyett.
Vizuális fejlesztési feladathoz mellékelj képernyőképet vagy a kívánt eredmény egyértelmű nézetét a releváns kóddal és egy konkrét eltéréssel. A gyártó frontendmunkára, játékokra és CAD-re kiterjedő, vizuális visszajelzést használó munkafolyamatokat ír le. Kérd a kódot a megfigyelt eredményhez kapcsoló változtatást, és őrizd meg a referenciát, hogy az átadott anyag ellenőrizhető legyen hozzá mérten.
Képek, videó és tudásmunka előkészítése
A gyártó gyorsútmutatója típusozott tartalomobjektumokat használ vizuális üzenetekhez; a content tömb, nem e tömb szerializált ábrázolása. Képi munkafolyamata kódolt képadatot vagy támogatott fájlhivatkozást használ, nem nyilvános képcímet. A videópélda videófájlt tölt fel, és az eredményül kapott hivatkozást a tartalmára vonatkozó kérdéssel adja meg. Adj olvasható forrást, és határozd meg a fontos megfigyelést, időszakot vagy kapcsolatot. A gyártó vizuális munkafolyamata JPEG-, PNG-, GIF-, WebP-, BMP-, HEIC- és HEIF-képeket, valamint MP4-, MPEG-, MOV-, AVI-, FLV-, MPG-, WebM-, WMV- és 3GPP-videókat fogad. Animált GIF vagy WebP videóként dekódolható. Az SVG-forrást szövegként add meg. A gyártó legfeljebb 4096 × 2160 méretű képeket és 1920 × 1080 méretű videót ajánl; ezek felbontási ajánlások, nem elutasítási küszöbök. A kérés törzse maradjon a dokumentált 100M méretkorláton belül, a nagy vagy ismételten használt médiát pedig fájlként töltsd fel.
Dokumentumokban gazdag kutatáshoz címkézd a forrásokat, és add meg a végső jelentés által megválaszolandó kérdéseket. Videómagyarázatnál azonosítsd az elemzendő eseményeket vagy sorozatot korlátlan kommentár kérése helyett. A K3 a vizuális tartalmat következtetési bizonyítékként használja, és szöveget vagy eszközkéréseket ad vissza. Egy alkalmazás médiakészítő eszközökhöz továbbíthatja e kéréseket külön képi vagy videós anyagok létrehozásához.
A gondolkodás mindig be van kapcsolva
A K3 gyártói felületén a gondolkodás mindig be van kapcsolva. A legfelső szintű reasoning_effort beállítás low, high és max értéket fogad, alapértelmezése max. E választások modellspecifikusak; nem szabad nem gondolkodó beállítást vagy másik családból származó erőfeszítési értéket feltételezni. A gyártó migrációs útmutatója a K3-at azzal különbözteti meg a K2.x-től, hogy reasoning_effort beállítást használ a régebbi thinking konfiguráció átvitele helyett.
A gyártó a folyamatosan továbbított eredményekben külön reasoning_content és végső válaszhoz tartozó content mezőt dokumentál. Többfordulós beszélgetéshez vagy eszközös munkafolyamathoz előírja a teljes visszaadott asszisztensüzenet változatlan visszaadását, beleértve a reasoning_content és tool_calls mezőket. Pusztán a látható végső válasz megtartása elveszíti azt az információt, amelyet a modell megőrzött gondolkodási munkafolyamata a következő lépésben vár.
Strukturált végső válaszok és részleges folytatás
A gyorsútmutató szigorú JSON-séma szerinti kimenetet dokumentál a végső üzenettartalomhoz. A mezőket és jelentésüket az alkalmazás által igényelt eredményanyag köré határozd meg, és ezt a végső tartalmat dolgozd fel, ne egyesítsd a következtetési mezővel. Strukturált eredmény megjeleníthet a megadott anyagból kinyert információt vagy meghatározott jelentésformátumot; a séma a formáját korlátozza, a forrásbizonyíték pedig azt határozza meg, helyesek-e az értékei.
A partial mód folytathat egy megadott szövegprefixet. A gyártó példája részleges asszisztensüzenetet helyez az előzmények végére, és megjelenítéskor e prefixet egyesíti a visszaadott folytatással. Ezt akkor használd, ha a szükséges eredményanyagnak jelentéssel bíró, rögzített kezdete van, a prefixet a generált maradéktól külön tartva.
Eszközök és eredményeik folytonossága
A K3 egyéni függvényeszközöket támogat. A gyártó példája az első fordulóban eszközt követel meg, megőrzi a teljes asszisztensüzenetet, végrehajt minden visszaadott hívást, és hozzáfűz egy megfelelő eszközeredményt a végső válasz kérése előtt. A javasolt hívás nem bizonyíték a művelet sikerére; a ténylegesen visszaadott eredmény válik a következő lépés bizonyítékává.
Dinamikus betöltési munkafolyamata teljes eszközdefiníciót vezet be az üzenetelőzmények meghatározott pontján. A definícióhoz név, cél és paraméterek szükségesek, és a további előzményekben meg kell maradnia, mert a szerver nem tárolja önállóan ezt a deklarációt. Az eszközképességeket, megadott argumentumokat és valós megfigyeléseket tartsd egymáshoz kapcsolva, hogy egy hosszú feladat a már befejezett munkából folytatódhasson.
Kimeneti vezérlők és ismétlődő kontextus
A gyártó 131 072 tokenes alapértelmezett válaszgenerálási keretet dokumentál, amely a modell teljes kontextuskorlátain belül 1 048 576-ig állítható. Jelenlegi K3 API-ja a temperature értékét 1.0-ra, a top_p értékét 0.95-ra, az eredmények számát egyre, a presence és frequency büntetéseket pedig nullára rögzíti, és e mintavételezési vezérlők elhagyását kéri a hívóktól. Ezek a pontos gyártói modellváltozat beállításai, nem átvihető lista állítható vezérlőkről.
A kontextusgyorsítótárazás automatikus az alkalmas ismétlődő prefixeknél, dokumentált 5 perces és 1 órás TTL-lehetőségekkel, alapértelmezésben 5 perccel. A részleges gyorsítótárblokkok továbbra is találat nélkülinek számítanak. A többször használható kontextus maradjon változatlan, és ellenőrizd a tényleges használati adatokat ahelyett, hogy pusztán ismétlődő szövegből gyorsítótár-találatot állítanál. A végső eredményanyaghoz őrizd meg a megadott forrásokat, a tényleges eszközbizonyítékot és a szükséges kimeneti szerkezetet, és ellenőrizd, hogy a hosszú válasz vagy mérnöki eredmény teljesíti-e a megadott befejezési feltételeket.
Ailoot Ultra · Kötegelt feldolgozás POST /v1/batches moonshotai/kimi-k3:batch
moonshotai/kimi-k3:batchKezdő lépések
A Kimi K3 a Moonshot AI natív multimodális következtető modellje hosszú programozási feladatokhoz és tudásmunkához. Szöveget, képeket és videót olvas, szöveget állít elő, és eszközvezérelt munkafolyamatokat támogat 1 048 576 tokenes kontextussal és a lépések között megőrzött gondolkodási előzményekkel.
- Elfogadott bemenetek
- Szöveg
- Eredmények
- Szöveg
Elérhető az Ailootban · bemenetek és metódusok
Ailoot Ultra · Kötegelt feldolgozás POST /v1/batches
- Bemenet
text- Kimenet
text- Kimeneti formátum
- Beágyazott results[].response.body JSON-adatok
| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőendpoint | Típusstring | KövetelményKötelező | Értékek és korlátok /v1/chat/completions | Alapértelmezett— |
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok moonshotai/kimi-k3:batch | Alapértelmezett— |
Mezőrequests | Típusbatch_item[] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 | Alapértelmezett— |
Mezőrequests[].custom_id | Típusstring | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőrequests[].body.messages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőcompletion_window | Típusstring | KövetelményOpcionális | Értékek és korlátok 24h | Alapértelmezett— |
Mezőprovider | Típusobject|null | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőrequests[].body.model | Típusstring | KövetelményOpcionális | Értékek és korlátok moonshotai/kimi-k3:batch, moonshotai/kimi-k3 | Alapértelmezett— |
Mezőprovider.only | Típusstring[] | KövetelményOpcionális | Értékek és korlátok deepinfra/bf16 | Alapértelmezett— |
Mezőprovider.allow_fallbacks | Típusboolean|null | KövetelményOpcionális | Értékek és korlátok false, null | Alapértelmezett— |
Metódus paraméterei és életciklusa
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésendpoint, model, requests |
Paramétermaterial_types | Szerződéstext |
Paraméterrepresentation | SzerződésA kérésbe ágyazott requests[]; minden elemhez custom_id és body tartozik |
Paraméterrequest_endpoint_profile | Szerződés/v1/chat/completions |
Paraméterfile_material | SzerződésA hívó helyben beolvashatja a tényleges UTF-8 JSONL-adatokat a requests[] tömbbe. A kérés nem használ feltöltési célt, input_file_id mezőt vagy fájlhivatkozást. Hiányzó vagy üres ügyfélanyag esetén az előkészítés még a POST előtt leáll. |
Paraméterserialization_order | Szerződésendpoint, model, provider (ha meg van adva), completion_window (ha meg van adva), requests utoljára |
Paraméteroptional_controls | Szerződésprovider.only, provider.allow_fallbacks, completion_window |
Paraméterschema_scope | SzerződésText Chat Completions-kéréstörzsek a dokumentált, kérésbe ágyazott Batch-borítékban. |
Életciklus: asynchronous
GET /v1/batches/{operation_id} · Az eredeti létrehozási válasz tényleges response.id értéke; ugyanaz a felhasználó/kulcs/csoport
Díjcsomagok
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
- Gyors mód
- Nincs megadva Ha a gyors mód van kiválasztva
- Flex mód
- Nincs megadva Ha a flex mód van kiválasztva
- Maximális gondolkodási ráfordítás
- Nincs megadva Ha a maximális gondolkodási ráfordításra a default beállításhoz tartozó korrekció vonatkozik
- Explicit gyorsítótárazás díjai
- Nincs engedélyezve Ha explicit gyorsítótárazást kérnek
Ailoot-díjak
Árak beállításonként
Minden díjat a megjelenített feltételekhez rendeljen. Az alternatív beállítások minden csoportjához egy díjtételt használjon.
| Beállítás | Díjtáblázat | Kontextustokenek, több mint | Kontextustokenek, legfeljebb | Díj |
|---|---|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Kontextustokenek, több mint— | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00456 / 1K token Kimenet · Kimeneti tokenek $0.0228 / 1K token Bemenet · Gyorsítótár olvasása $0.000456 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
| BeállításA kéréshossz szerinti 1. ársáv | Díjtáblázat— | Kontextustokenek, több mint0 | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00456 / 1K token Kimenet · Kimeneti tokenek $0.0228 / 1K token Bemenet · Gyorsítótár olvasása $0.000456 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
Példakérések
Ailoot Ultra · Kötegelt feldolgozás
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"moonshotai/kimi-k3:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['moonshotai/kimi-k3:batch', 'moonshotai/kimi-k3']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"moonshotai/kimi-k3:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Eredmények fogadása és mentése
Ailoot Ultra · Kötegelt feldolgozás
Beágyazott results[].response.body JSON-adatok
GET /v1/batches/{operation_id}
Feladatállapot ellenőrzése
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Őrizzen meg minden elkészült eredményt
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg a teljes eredeti állapot-JSON-t, minden eredményt/custom_id értéket, valamint a teljes válasz- vagy hibatörzset. A befejezett results[] elemeket szűrés nélkül mentse JSONL-ként.
Ha az eredeti választ ellenőrizni kell
Őrizze meg az eredeti műveletazonosítót. A 503 result_pending_check válasz X-Should-Retry:false fejlécet tartalmaz; soha ne küldje be újra az ismeretlen kimenetelű eredeti köteget.
Válaszmezők
| Mező | Típus |
|---|---|
Mezőresults[].custom_id | Típusstring |
Mezőresults[].response.body.choices[].message.content | Típusstring|null |
Mezőresults[].error | Típusobject|null |
Mezőusage | Típusobject|null |
Mezőid | Típusstring |
Mezőmodel | Típusstring |
Mezőendpoint | Típusstring |
Mezőstatus | Típusstring |
Mezőrequest_counts | Típusobject |
Mezőresults[].id | Típusstring |
Mezőresults[].response.status_code | Típusinteger |
Mezőresults[].response.request_id | Típusstring |
Hibák és következő lépések
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen a dokumentált, kérésbe ágyazott boríték, ismétlődő kulcsok vagy az elemek azonosságával kapcsolatos hiba található benne, vagy ütközés van a beállított modellképességekkel. | Következő lépésBármilyen új beküldés előtt javítsa ki a megjelölt mezőket. |
Válasz401 · authentication_error | FeltételÉrvénytelen API-kulcs. | Következő lépésHasználja az engedélyezett Ailoot-kulcsot. |
Válasz403 · permission_error | FeltételA Batch-csoport nem érhető el. | Következő lépésEllenőrizze a kulcs/csoport jogosultságát. |
Válasz422 · invalid_request_error | FeltételA Batch az egyenlegből számol el; az előfizetés terhére indított létrehozási kérés elutasításra kerül. | Következő lépésHasználja az engedélyezett, egyenlegből elszámoló csoportot. |
Válasz422 · price_unavailable | FeltételA Batch-bemenethez nem készíthető árajánlat. | Következő lépésŐrizze meg a választ; használja az API-család dokumentált bemenetét. |
Válasz402 · billing_error | FeltételA Batch költségfedezeti foglalása nem érhető el. | Következő lépésAz új kérés előtt rendezze a befogadási feltételeket. |
Válasz503 · price_unavailable | FeltételA Batch-módszer ára vagy natív díjtételei nem érhetők el. | Következő lépésŐrizze meg a választ; ne helyettesítse az árakat más árakkal. |
Válasz503 · api_error | FeltételA pontos szolgáltatói útvonal nem érhető el. | Következő lépésŐrizze meg a választ az útvonal javításához. |
Válasz503 · result_pending_check | FeltételAz eredeti eredmény ellenőrzést igényel; X-Should-Retry:false. | Következő lépésŐrizze meg az eredeti operation_id/id értéket, és kérdezze le az állapotát; soha ne ismételje meg az eredeti POST kérést. |
Válasz404 · not_found | FeltételA Batch állapotlekérdezési művelete nem létezik, vagy más identitáshoz tartozik. | Következő lépésHasználja az eredeti id pontos értékét és ugyanazt a felhasználót/kulcsot/csoportot. |
Álnevek
Modell álnevei
Ailoot Ultra moonshotai/kimi-k3:batch
Metódusútvonalak álnevei
Használja a fent látható metódusútvonalakat.
Kapcsolódó modellazonosítók
FAQ · MoonshotAI: Kimi K3 (batch)
- Milyen bemenetek és eredmények érhetők el?
POST /v1/batches·moonshotai/kimi-k3:batch:text→text- Mely mezőket használja a kérés?
POST /v1/batches·moonshotai/kimi-k3:batch:endpoint,model,requests,completion_window,provider- Milyen korlátok érvényesek?
POST /v1/batches·moonshotai/kimi-k3:batch:requests.min_items:1