Kimi K3 er Moonshot AI's multimodale agentmodel med åbne vægte til langvarige kodeopgaver, vidensarbejde og ræsonnement. Den kombinerer tekst med indbygget visuel forståelse af billeder og video og producerer et tekstligt svar eller en værktøjsanmodning. Producenten fremhæver udvidede udviklingssessioner, store kodebaser og opgaver, der bruger skærmbilleder eller visuel feedback sammen med kode. En nyttig opgavebeskrivelse definerer den ønskede artefakt, det bevismateriale, der skal bruges, og den betingelse, der markerer arbejdets afslutning.
Modelkortet beskriver en sparsom Mixture of Experts med i alt 2,8 billioner parametre og 104 milliarder aktiverede parametre. Dens Stable LatentMoE-design vælger 16 af 896 eksperter pr. token og bruger Kimi Delta Attention og Attention Residuals sammen med gated attention. Den præcise kontekstlængde er 1.048.576 tokens. Det giver plads til en omfattende opgavekontekst, men er ikke en grund til at tilsidesætte kildegrænser eller den plads, resultatet kræver.
Den offentliggjorte oprindelige artefakt bruger kvantiseringsbevidst træning med MXFP4-vægte og MXFP8-aktiveringer. Det er producentens udgivelsesformat, adskilt fra en særskilt leveret kvantiseret udgave eller en påstand om, hvordan en bestemt rute leverer modellen. Åbne vægte og et stort parameterantal gør ikke tallet for aktive parametre til det samlede lager- eller hardwarekrav.
Giv det relevante materiale fra kodebasen, den eksisterende adfærd, den ønskede ændring og kompatibilitetsbegrænsningerne. Identificer de filer eller den grænseflade, resultatet skal påvirke, de kontroller, der bestemmer succes, og eventuelle givne fejl eller input, der viser problemet. Et nyttigt resultat kan være en fokuseret kodeændring med forklaring og dokumentation fra de kontroller, der faktisk blev kørt, frem for en beskrivelse af handlinger, der aldrig blev udført.
Til en visuel udviklingsopgave skal du medtage et skærmbillede eller en tydelig visning af det tilsigtede resultat med den relevante kode og en konkret afvigelse. Producenten beskriver arbejdsgange inden for frontendarbejde, spil og CAD, der bruger visuel feedback. Bed om den ændring, der forbinder koden med det observerede resultat, og bevar referencen, så den leverede artefakt kan kontrolleres mod den.
Producentens hurtigstart bruger typede indholdsobjekter til visuelle beskeder; content er et array og ikke en serialiseret repræsentation af dette array. Billedarbejdsgangen bruger kodede billeddata eller en understøttet filreference frem for en offentlig billedadresse. Videoeksemplet uploader en videofil og leverer den resulterende reference med et spørgsmål om indholdet. Giv en læselig kilde, og angiv den observation, det interval eller den relation, der betyder noget. Producentens synsarbejdsgang accepterer JPEG-, PNG-, GIF-, WebP-, BMP-, HEIC- og HEIF-billeder samt MP4-, MPEG-, MOV-, AVI-, FLV-, MPG-, WebM-, WMV- og 3GPP-video. Animeret GIF eller WebP kan afkodes som video. Giv SVG-kilde som tekst. Producenten anbefaler billeder op til 4096 × 2160 og video op til 1920 × 1080; det er opløsningsanbefalinger og ikke afvisningsgrænser. Hold anmodningskroppen inden for den dokumenterede størrelsesgrænse på 100M, og upload store eller gentagne gange anvendte medier som filer.
Til dokumenttung research skal du mærke kilderne og angive de spørgsmål, slutrapporten skal besvare. Til en videoforklaring skal du identificere de hændelser eller den sekvens, der skal analyseres, frem for at bede om ubegrænsede kommentarer. K3 bruger visuelt indhold som bevismateriale til ræsonnement og returnerer tekst eller værktøjsanmodninger. En applikation kan sende anmodningerne videre til medieværktøjer for at oprette særskilte billed- eller videoartefakter.
K3's producentgrænseflade har altid tænkning aktiveret. Topniveauindstillingen reasoning_effort accepterer low, high og max med max som standard. Valgene er modelspecifikke; en indstilling uden tænkning eller en indsatsværdi fra en anden familie bør ikke antages. Producentens migreringsvejledning adskiller K3 fra K2.x ved at bruge reasoning_effort frem for at videreføre den ældre thinking-konfiguration.
Producenten dokumenterer særskilt reasoning_content og indhold til det endelige svar i streamede resultater. Til en samtale over flere samtaleture eller en værktøjsarbejdsgang kræver den, at hele den returnerede assistentbesked sendes tilbage uændret, inklusive reasoning_content og tool_calls. Hvis kun det synlige endelige svar bevares, går oplysninger tabt, som modellens arbejdsgang med bevaret tænkning forventer i næste trin.
Hurtigstarten dokumenterer strengt JSON-schema-output til den endelige beskeds indhold. Definer felterne og deres betydning omkring den artefakt, applikationen kræver, og parse det endelige indhold frem for at kombinere det med ræsonnementsfeltet. Et struktureret resultat kan repræsentere udtrukne oplysninger fra givet materiale eller et defineret rapportformat; skemaet begrænser formen, mens kildebeviserne bestemmer, om værdierne er korrekte.
Partial-tilstand kan fortsætte et angivet tekstpræfiks. Producentens eksempel placerer en delvis assistentbesked sidst i historikken og kombinerer præfikset med den returnerede fortsættelse til visning. Brug det, når den krævede artefakt har en meningsfuld fast begyndelse, og hold præfikset adskilt fra den genererede rest.
K3 understøtter brugerdefinerede funktionsværktøjer. Producentens eksempel kræver et værktøj i første samtaletur, bevarer hele assistentbeskeden, udfører hvert returneret kald og tilføjer et matchende værktøjsresultat, før der anmodes om det endelige svar. Et foreslået kald er ikke bevis for, at operationen lykkedes; det faktiske returnerede resultat bliver bevismaterialet til næste trin.
Dens arbejdsgang med dynamisk indlæsning introducerer en komplet værktøjsdefinition på et bestemt punkt i beskedhistorikken. Definitionen kræver navn, formål og parametre og skal forblive i efterfølgende historik, fordi serveren ikke bevarer erklæringen selvstændigt. Hold værktøjsfunktioner, givne argumenter og faktiske observationer knyttet sammen, så en lang opgave kan fortsætte fra det allerede afsluttede arbejde.
Producenten dokumenterer en standardramme for fuldførelse på 131.072 tokens, som kan konfigureres op til 1.048.576 inden for modellens overordnede kontekstbegrænsninger. Dens aktuelle K3 API fastsætter temperature til 1.0, top_p til 0.95, ét resultat og nul presence- og frequency-penalties og instruerer kaldere i at udelade disse samplingindstillinger. Det er indstillinger i præcis denne producentmodelprofil og ikke en overførbar liste over justerbare indstillinger.
Kontekstcache er automatisk for kvalificerede gentagne præfikser med dokumenterede TTL-valg på 5 minutter og 1 time og 5 minutter som standard. Delvise cacheblokke forbliver cache-miss. Hold genbrugelig kontekst stabil, og kontroller faktisk forbrug frem for at hævde et cache-hit ud fra gentaget tekst alene. Til den endelige artefakt skal du bevare de givne kilder, faktisk værktøjsdokumentation og den krævede outputstruktur og kontrollere, at et langt svar eller udviklingsresultat opfylder de angivne afslutningskriterier.
", "aboutText": "Kimi K3 er Moonshot AI's multimodale agentmodel med åbne vægte til langvarige kodeopgaver, vidensarbejde og ræsonnement. Den kombinerer tekst med indbygget visuel forståelse af billeder og video og producerer et tekstligt svar eller en værktøjsanmodning. Producenten fremhæver udvidede udviklingssessioner, store kodebaser og opgaver, der bruger skærmbilleder eller visuel feedback sammen med kode. En nyttig opgavebeskrivelse definerer den ønskede artefakt, det bevismateriale, der skal bruges, og den betingelse, der markerer arbejdets afslutning.\n\n### Arkitektur og lang kontekst\n\nModelkortet beskriver en sparsom Mixture of Experts med i alt 2,8 billioner parametre og 104 milliarder aktiverede parametre. Dens Stable LatentMoE-design vælger 16 af 896 eksperter pr. token og bruger Kimi Delta Attention og Attention Residuals sammen med gated attention. Den præcise kontekstlængde er 1.048.576 tokens. Det giver plads til en omfattende opgavekontekst, men er ikke en grund til at tilsidesætte kildegrænser eller den plads, resultatet kræver.\n\nDen offentliggjorte oprindelige artefakt bruger kvantiseringsbevidst træning med MXFP4-vægte og MXFP8-aktiveringer. Det er producentens udgivelsesformat, adskilt fra en særskilt leveret kvantiseret udgave eller en påstand om, hvordan en bestemt rute leverer modellen. Åbne vægte og et stort parameterantal gør ikke tallet for aktive parametre til det samlede lager- eller hardwarekrav.\n\n### Forbered en omfattende kodeopgave\n\nGiv det relevante materiale fra kodebasen, den eksisterende adfærd, den ønskede ændring og kompatibilitetsbegrænsningerne. Identificer de filer eller den grænseflade, resultatet skal påvirke, de kontroller, der bestemmer succes, og eventuelle givne fejl eller input, der viser problemet. Et nyttigt resultat kan være en fokuseret kodeændring med forklaring og dokumentation fra de kontroller, der faktisk blev kørt, frem for en beskrivelse af handlinger, der aldrig blev udført.\n\nTil en visuel udviklingsopgave skal du medtage et skærmbillede eller en tydelig visning af det tilsigtede resultat med den relevante kode og en konkret afvigelse. Producenten beskriver arbejdsgange inden for frontendarbejde, spil og CAD, der bruger visuel feedback. Bed om den ændring, der forbinder koden med det observerede resultat, og bevar referencen, så den leverede artefakt kan kontrolleres mod den.\n\n### Forberedelse af billeder, video og vidensarbejde\n\nProducentens hurtigstart bruger typede indholdsobjekter til visuelle beskeder; content er et array og ikke en serialiseret repræsentation af dette array. Billedarbejdsgangen bruger kodede billeddata eller en understøttet filreference frem for en offentlig billedadresse. Videoeksemplet uploader en videofil og leverer den resulterende reference med et spørgsmål om indholdet. Giv en læselig kilde, og angiv den observation, det interval eller den relation, der betyder noget. Producentens synsarbejdsgang accepterer JPEG-, PNG-, GIF-, WebP-, BMP-, HEIC- og HEIF-billeder samt MP4-, MPEG-, MOV-, AVI-, FLV-, MPG-, WebM-, WMV- og 3GPP-video. Animeret GIF eller WebP kan afkodes som video. Giv SVG-kilde som tekst. Producenten anbefaler billeder op til 4096 × 2160 og video op til 1920 × 1080; det er opløsningsanbefalinger og ikke afvisningsgrænser. Hold anmodningskroppen inden for den dokumenterede størrelsesgrænse på 100M, og upload store eller gentagne gange anvendte medier som filer.\n\nTil dokumenttung research skal du mærke kilderne og angive de spørgsmål, slutrapporten skal besvare. Til en videoforklaring skal du identificere de hændelser eller den sekvens, der skal analyseres, frem for at bede om ubegrænsede kommentarer. K3 bruger visuelt indhold som bevismateriale til ræsonnement og returnerer tekst eller værktøjsanmodninger. En applikation kan sende anmodningerne videre til medieværktøjer for at oprette særskilte billed- eller videoartefakter.\n\n### Tænkning er altid aktiveret\n\nK3's producentgrænseflade har altid tænkning aktiveret. Topniveauindstillingen reasoning_effort accepterer low, high og max med max som standard. Valgene er modelspecifikke; en indstilling uden tænkning eller en indsatsværdi fra en anden familie bør ikke antages. Producentens migreringsvejledning adskiller K3 fra K2.x ved at bruge reasoning_effort frem for at videreføre den ældre thinking-konfiguration.\n\nProducenten dokumenterer særskilt reasoning_content og indhold til det endelige svar i streamede resultater. Til en samtale over flere samtaleture eller en værktøjsarbejdsgang kræver den, at hele den returnerede assistentbesked sendes tilbage uændret, inklusive reasoning_content og tool_calls. Hvis kun det synlige endelige svar bevares, går oplysninger tabt, som modellens arbejdsgang med bevaret tænkning forventer i næste trin.\n\n### Strukturerede slutsvar og delvis fortsættelse\n\nHurtigstarten dokumenterer strengt JSON-schema-output til den endelige beskeds indhold. Definer felterne og deres betydning omkring den artefakt, applikationen kræver, og parse det endelige indhold frem for at kombinere det med ræsonnementsfeltet. Et struktureret resultat kan repræsentere udtrukne oplysninger fra givet materiale eller et defineret rapportformat; skemaet begrænser formen, mens kildebeviserne bestemmer, om værdierne er korrekte.\n\nPartial-tilstand kan fortsætte et angivet tekstpræfiks. Producentens eksempel placerer en delvis assistentbesked sidst i historikken og kombinerer præfikset med den returnerede fortsættelse til visning. Brug det, når den krævede artefakt har en meningsfuld fast begyndelse, og hold præfikset adskilt fra den genererede rest.\n\n### Værktøjer og kontinuitet i deres resultater\n\nK3 understøtter brugerdefinerede funktionsværktøjer. Producentens eksempel kræver et værktøj i første samtaletur, bevarer hele assistentbeskeden, udfører hvert returneret kald og tilføjer et matchende værktøjsresultat, før der anmodes om det endelige svar. Et foreslået kald er ikke bevis for, at operationen lykkedes; det faktiske returnerede resultat bliver bevismaterialet til næste trin.\n\nDens arbejdsgang med dynamisk indlæsning introducerer en komplet værktøjsdefinition på et bestemt punkt i beskedhistorikken. Definitionen kræver navn, formål og parametre og skal forblive i efterfølgende historik, fordi serveren ikke bevarer erklæringen selvstændigt. Hold værktøjsfunktioner, givne argumenter og faktiske observationer knyttet sammen, så en lang opgave kan fortsætte fra det allerede afsluttede arbejde.\n\n### Outputstyring og gentaget kontekst\n\nProducenten dokumenterer en standardramme for fuldførelse på 131.072 tokens, som kan konfigureres op til 1.048.576 inden for modellens overordnede kontekstbegrænsninger. Dens aktuelle K3 API fastsætter temperature til 1.0, top_p til 0.95, ét resultat og nul presence- og frequency-penalties og instruerer kaldere i at udelade disse samplingindstillinger. Det er indstillinger i præcis denne producentmodelprofil og ikke en overførbar liste over justerbare indstillinger.\n\nKontekstcache er automatisk for kvalificerede gentagne præfikser med dokumenterede TTL-valg på 5 minutter og 1 time og 5 minutter som standard. Delvise cacheblokke forbliver cache-miss. Hold genbrugelig kontekst stabil, og kontroller faktisk forbrug frem for at hævde et cache-hit ud fra gentaget tekst alene. Til den endelige artefakt skal du bevare de givne kilder, faktisk værktøjsdokumentation og den krævede outputstruktur og kontrollere, at et langt svar eller udviklingsresultat opfylder de angivne afslutningskriterier.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "e7b3dd3124e8b464ba00b4d44683cf96a813e4dd0cb5cc18c69a0fa5a80cc7e8", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "da", "methods": [ { "html": "moonshotai/kimi-k3:batchKimi K3 er Moonshot AI's indbyggede multimodale ræsonnementsmodel til lange kodeopgaver og vidensarbejde. Den læser tekst, billeder og video, producerer tekst og understøtter værktøjsdrevne arbejdsgange med en kontekst på 1.048.576 tokens og bevaret tænkningshistorik på tværs af trin.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Kimi K3 er Moonshot AI's multimodale agentmodel med åbne vægte til langvarige kodeopgaver, vidensarbejde og ræsonnement. Den kombinerer tekst med indbygget visuel forståelse af billeder og video og producerer et tekstligt svar eller en værktøjsanmodning. Producenten fremhæver udvidede udviklingssessioner, store kodebaser og opgaver, der bruger skærmbilleder eller visuel feedback sammen med kode. En nyttig opgavebeskrivelse definerer den ønskede artefakt, det bevismateriale, der skal bruges, og den betingelse, der markerer arbejdets afslutning.
Modelkortet beskriver en sparsom Mixture of Experts med i alt 2,8 billioner parametre og 104 milliarder aktiverede parametre. Dens Stable LatentMoE-design vælger 16 af 896 eksperter pr. token og bruger Kimi Delta Attention og Attention Residuals sammen med gated attention. Den præcise kontekstlængde er 1.048.576 tokens. Det giver plads til en omfattende opgavekontekst, men er ikke en grund til at tilsidesætte kildegrænser eller den plads, resultatet kræver.
Den offentliggjorte oprindelige artefakt bruger kvantiseringsbevidst træning med MXFP4-vægte og MXFP8-aktiveringer. Det er producentens udgivelsesformat, adskilt fra en særskilt leveret kvantiseret udgave eller en påstand om, hvordan en bestemt rute leverer modellen. Åbne vægte og et stort parameterantal gør ikke tallet for aktive parametre til det samlede lager- eller hardwarekrav.
Giv det relevante materiale fra kodebasen, den eksisterende adfærd, den ønskede ændring og kompatibilitetsbegrænsningerne. Identificer de filer eller den grænseflade, resultatet skal påvirke, de kontroller, der bestemmer succes, og eventuelle givne fejl eller input, der viser problemet. Et nyttigt resultat kan være en fokuseret kodeændring med forklaring og dokumentation fra de kontroller, der faktisk blev kørt, frem for en beskrivelse af handlinger, der aldrig blev udført.
Til en visuel udviklingsopgave skal du medtage et skærmbillede eller en tydelig visning af det tilsigtede resultat med den relevante kode og en konkret afvigelse. Producenten beskriver arbejdsgange inden for frontendarbejde, spil og CAD, der bruger visuel feedback. Bed om den ændring, der forbinder koden med det observerede resultat, og bevar referencen, så den leverede artefakt kan kontrolleres mod den.
Producentens hurtigstart bruger typede indholdsobjekter til visuelle beskeder; content er et array og ikke en serialiseret repræsentation af dette array. Billedarbejdsgangen bruger kodede billeddata eller en understøttet filreference frem for en offentlig billedadresse. Videoeksemplet uploader en videofil og leverer den resulterende reference med et spørgsmål om indholdet. Giv en læselig kilde, og angiv den observation, det interval eller den relation, der betyder noget. Producentens synsarbejdsgang accepterer JPEG-, PNG-, GIF-, WebP-, BMP-, HEIC- og HEIF-billeder samt MP4-, MPEG-, MOV-, AVI-, FLV-, MPG-, WebM-, WMV- og 3GPP-video. Animeret GIF eller WebP kan afkodes som video. Giv SVG-kilde som tekst. Producenten anbefaler billeder op til 4096 × 2160 og video op til 1920 × 1080; det er opløsningsanbefalinger og ikke afvisningsgrænser. Hold anmodningskroppen inden for den dokumenterede størrelsesgrænse på 100M, og upload store eller gentagne gange anvendte medier som filer.
Til dokumenttung research skal du mærke kilderne og angive de spørgsmål, slutrapporten skal besvare. Til en videoforklaring skal du identificere de hændelser eller den sekvens, der skal analyseres, frem for at bede om ubegrænsede kommentarer. K3 bruger visuelt indhold som bevismateriale til ræsonnement og returnerer tekst eller værktøjsanmodninger. En applikation kan sende anmodningerne videre til medieværktøjer for at oprette særskilte billed- eller videoartefakter.
K3's producentgrænseflade har altid tænkning aktiveret. Topniveauindstillingen reasoning_effort accepterer low, high og max med max som standard. Valgene er modelspecifikke; en indstilling uden tænkning eller en indsatsværdi fra en anden familie bør ikke antages. Producentens migreringsvejledning adskiller K3 fra K2.x ved at bruge reasoning_effort frem for at videreføre den ældre thinking-konfiguration.
Producenten dokumenterer særskilt reasoning_content og indhold til det endelige svar i streamede resultater. Til en samtale over flere samtaleture eller en værktøjsarbejdsgang kræver den, at hele den returnerede assistentbesked sendes tilbage uændret, inklusive reasoning_content og tool_calls. Hvis kun det synlige endelige svar bevares, går oplysninger tabt, som modellens arbejdsgang med bevaret tænkning forventer i næste trin.
Hurtigstarten dokumenterer strengt JSON-schema-output til den endelige beskeds indhold. Definer felterne og deres betydning omkring den artefakt, applikationen kræver, og parse det endelige indhold frem for at kombinere det med ræsonnementsfeltet. Et struktureret resultat kan repræsentere udtrukne oplysninger fra givet materiale eller et defineret rapportformat; skemaet begrænser formen, mens kildebeviserne bestemmer, om værdierne er korrekte.
Partial-tilstand kan fortsætte et angivet tekstpræfiks. Producentens eksempel placerer en delvis assistentbesked sidst i historikken og kombinerer præfikset med den returnerede fortsættelse til visning. Brug det, når den krævede artefakt har en meningsfuld fast begyndelse, og hold præfikset adskilt fra den genererede rest.
K3 understøtter brugerdefinerede funktionsværktøjer. Producentens eksempel kræver et værktøj i første samtaletur, bevarer hele assistentbeskeden, udfører hvert returneret kald og tilføjer et matchende værktøjsresultat, før der anmodes om det endelige svar. Et foreslået kald er ikke bevis for, at operationen lykkedes; det faktiske returnerede resultat bliver bevismaterialet til næste trin.
Dens arbejdsgang med dynamisk indlæsning introducerer en komplet værktøjsdefinition på et bestemt punkt i beskedhistorikken. Definitionen kræver navn, formål og parametre og skal forblive i efterfølgende historik, fordi serveren ikke bevarer erklæringen selvstændigt. Hold værktøjsfunktioner, givne argumenter og faktiske observationer knyttet sammen, så en lang opgave kan fortsætte fra det allerede afsluttede arbejde.
Producenten dokumenterer en standardramme for fuldførelse på 131.072 tokens, som kan konfigureres op til 1.048.576 inden for modellens overordnede kontekstbegrænsninger. Dens aktuelle K3 API fastsætter temperature til 1.0, top_p til 0.95, ét resultat og nul presence- og frequency-penalties og instruerer kaldere i at udelade disse samplingindstillinger. Det er indstillinger i præcis denne producentmodelprofil og ikke en overførbar liste over justerbare indstillinger.
Kontekstcache er automatisk for kvalificerede gentagne præfikser med dokumenterede TTL-valg på 5 minutter og 1 time og 5 minutter som standard. Delvise cacheblokke forbliver cache-miss. Hold genbrugelig kontekst stabil, og kontroller faktisk forbrug frem for at hævde et cache-hit ud fra gentaget tekst alene. Til den endelige artefakt skal du bevare de givne kilder, faktisk værktøjsdokumentation og den krævede outputstruktur og kontrollere, at et langt svar eller udviklingsresultat opfylder de angivne afslutningskriterier.
POST /v1/batchestexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltendpoint | Typestring | KravPåkrævet | Værdier og grænser /v1/chat/completions | Standard— |
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser moonshotai/kimi-k3:batch | Standard— |
Feltrequests | Typebatch_item[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltrequests[].custom_id | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltrequests[].body.messages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltcompletion_window | Typestring | KravValgfrit | Værdier og grænser 24h | Standard— |
Feltprovider | Typeobject|null | KravValgfrit | Værdier og grænser | Standard— |
Feltrequests[].body.model | Typestring | KravValgfrit | Værdier og grænser moonshotai/kimi-k3:batch, moonshotai/kimi-k3 | Standard— |
Feltprovider.only | Typestring[] | KravValgfrit | Værdier og grænser deepinfra/bf16 | Standard— |
Feltprovider.allow_fallbacks | Typeboolean|null | KravValgfrit | Værdier og grænser false, null | Standard— |
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktendpoint, model, requests |
Parametermaterial_types | Kontrakttext |
Parameterrepresentation | Kontraktrequests[] direkte i anmodningen; hvert element har custom_id og body |
Parameterrequest_endpoint_profile | Kontrakt/v1/chat/completions |
Parameterfile_material | KontraktDen kaldende part kan læse det faktiske JSONL-indhold i UTF-8 lokalt ind i requests[]. Der angives hverken purpose til upload, input_file_id eller en filreference. Hvis kundematerialet mangler eller er tomt, stoppes forberedelsen før POST. |
Parameterserialization_order | Kontraktendpoint, model, provider (hvis angivet), completion_window (hvis angivet), requests til sidst |
Parameteroptional_controls | Kontraktprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontraktAnmodningsindhold for Chat Completions med tekst i den dokumenterede inline Batch-struktur. |
Livscyklus: asynchronous
GET /v1/batches/{operation_id} · det faktiske response.id fra den oprindelige oprettelse; samme bruger/nøgle/gruppe
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.00456 / 1K tokens Output · Outputtokens $0.0228 / 1K tokens Input · Cachelæsning $0.000456 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.00456 / 1K tokens Output · Outputtokens $0.0228 / 1K tokens Input · Cachelæsning $0.000456 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"moonshotai/kimi-k3:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['moonshotai/kimi-k3:batch', 'moonshotai/kimi-k3']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"moonshotai/kimi-k3:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON direkte i results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nGem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Gem hele den oprindelige status i JSON, hvert resultat/custom_id og det fulde svar- eller fejlindhold. Gem færdige results[] som JSONL uden filtrering.
Gem det oprindelige operations-ID. 503 result_pending_check har X-Should-Retry:false; send aldrig en oprindelig batch igen, hvis dens udfald er ukendt.
| Felt | Type |
|---|---|
Feltresults[].custom_id | Typestring |
Feltresults[].response.body.choices[].message.content | Typestring|null |
Feltresults[].error | Typeobject|null |
Feltusage | Typeobject|null |
Feltid | Typestring |
Feltmodel | Typestring |
Feltendpoint | Typestring |
Feltstatus | Typestring |
Feltrequest_counts | Typeobject |
Feltresults[].id | Typestring |
Feltresults[].response.status_code | Typeinteger |
Feltresults[].response.request_id | Typestring |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldig dokumenteret inline-struktur, dublerede nøgler, ugyldig elementidentitet eller konflikt med modellens konfigurerede funktioner. | Næste trinRet de angivne felter, før du sender en ny anmodning. |
Svar401 · authentication_error | BetingelseUgyldig API-nøgle. | Næste trinBrug den godkendte Ailoot-nøgle. |
Svar403 · permission_error | BetingelseBatch-gruppen er ikke tilgængelig. | Næste trinKontrollér nøglens/gruppens adgangsrettigheder. |
Svar422 · invalid_request_error | BetingelseBatch afregnes via saldoen; oprettelse via et abonnement afvises. | Næste trinBrug den godkendte gruppe med saldoafregning. |
Svar422 · price_unavailable | BetingelseDer kan ikke beregnes en pris for Batch-inputtet. | Næste trinGem svaret; brug det dokumenterede input for API-familien. |
Svar402 · billing_error | BetingelseReservationen til Batch er ikke tilgængelig. | Næste trinAfklar adgangen, før du sender en ny anmodning. |
Svar503 · price_unavailable | BetingelsePrisen for Batch-metoden eller de native satser er ikke tilgængelige. | Næste trinGem svaret; erstat ikke priserne med andre priser. |
Svar503 · api_error | BetingelseDen præcise leverandørrute er ikke tilgængelig. | Næste trinGem svaret, så ruten kan repareres. |
Svar503 · result_pending_check | BetingelseDet oprindelige resultat skal kontrolleres; X-Should-Retry:false. | Næste trinGem det oprindelige operation_id/id, og læs dets status; gentag aldrig den oprindelige POST. |
Svar404 · not_found | BetingelseOperationen til Batch-status findes ikke eller tilhører en anden identitet. | Næste trinBrug det nøjagtige oprindelige id og samme bruger/nøgle/gruppe. |
Ailoot Ultra moonshotai/kimi-k3:batch
Brug metodestierne vist ovenfor.