Inkling-Small er Thinking Machines Labs mindre multimodale model til generelle formål. Dens officielle modelkort angiver i alt 276 milliarder parametre og 12B aktive parametre. Den accepterer tekst, billeder og lyd og genererer tekst til samtale-, kode-, ræsonnements-, informationsudvidede og værktøjsorienterede applikationer. Den er en særskilt udgave i forhold til den større Inkling-model.
Arkitekturen bruger 42 decoderlag og en sparsom ekspertgrundarkitektur. Et token vælger seks af 256 routede eksperter plus to delte eksperter med en blanding af lokal og global attention. Billedpatches og diskrete lydtokens projiceres ind i decoderens fælles repræsentation. Særskilte BF16- og NVFP4-artefakter har deres egen præcisionsidentitet.
Producenten beskriver en modelkontekst på 1M, mens træningstjenesten tilbyder konfigurationer på 64K og 256K. Det er særskilte omfang frem for udskiftelige vinduesstørrelser. Ved langt materiale skal du identificere den faktiske kontekst, opgaven bruger, og efterlade plads til modellens tænkning og endelige svar. Producentens delte Inkling-renderer accepterer en endelig indsatsværdi fra 0.0 til, men ikke inklusive, 1.0 og bruger 0.9, når værdien udelades. Nul fremmer et direkte svar uden at håndhæve et hårdt forbud mod ræsonnement.
Forberedelsen af input er specifik. Modelkortet anbefaler billeder, hvis dimensioner ideelt ligger mellem 40 og 4096 pixels. Lyd bør være WAV ved 16 kHz og helst kortere end to minutter for denne Small-udgave. Det er anbefalinger om optimalt input, ikke løfter om, at modellen afviser ethvert input uden for dem. Outputtet er UTF-8-tekst, ikke genereret tale eller video.
Ved et billedspørgsmål skal du angive den egenskab, der skal undersøges, og hvordan den relaterer sig til den skriftlige opgave. Ved lyd skal du identificere, om det nyttige resultat er en forklaring af indholdet, et resumé eller en anden tekstanalyse. Lever det ordforråd og den baggrund, der er nødvendige for at fortolke materialet. En kode- eller informationshentningsopgave bør levere den relevante kilde eller de hentede tekststykker og det ønskede produkt.
I en værktøjsforbundet applikation foreslår modellen interaktioner, og applikationen returnerer deres resultater. Bevar disse observationer gennem opfølgninger, så næste trin kan bruge det, der skete. Producenten udgiver modellen til tilpasning og finjustering, mens et særskilt tilpasset checkpoint forbliver adskilt fra den oprindelige Small-model.
Producenten identificerer lejlighedsvise fejl i instruktionsefterlevelse, udokumenterede faktuelle udsagn og forringelse i lange samtaler med ujævn ydeevne på tværs af mindre repræsenterede sprog og domæner. Producenten beskriver også multimodal sikkerhedsevaluering og fortsat sårbarhed over for visse indirekte formulerede prompts. Hold kildebelæg og applikationsspecifikke outputkontroller tilgængelige, når modellens resultat bruges i en arbejdsgang.
", "aboutText": "Inkling-Small er Thinking Machines Labs mindre multimodale model til generelle formål. Dens officielle modelkort angiver i alt 276 milliarder parametre og 12B aktive parametre. Den accepterer tekst, billeder og lyd og genererer tekst til samtale-, kode-, ræsonnements-, informationsudvidede og værktøjsorienterede applikationer. Den er en særskilt udgave i forhold til den større Inkling-model.\n\nArkitekturen bruger 42 decoderlag og en sparsom ekspertgrundarkitektur. Et token vælger seks af 256 routede eksperter plus to delte eksperter med en blanding af lokal og global attention. Billedpatches og diskrete lydtokens projiceres ind i decoderens fælles repræsentation. Særskilte BF16- og NVFP4-artefakter har deres egen præcisionsidentitet.\n\nProducenten beskriver en modelkontekst på 1M, mens træningstjenesten tilbyder konfigurationer på 64K og 256K. Det er særskilte omfang frem for udskiftelige vinduesstørrelser. Ved langt materiale skal du identificere den faktiske kontekst, opgaven bruger, og efterlade plads til modellens tænkning og endelige svar. Producentens delte Inkling-renderer accepterer en endelig indsatsværdi fra 0.0 til, men ikke inklusive, 1.0 og bruger 0.9, når værdien udelades. Nul fremmer et direkte svar uden at håndhæve et hårdt forbud mod ræsonnement.\n\nForberedelsen af input er specifik. Modelkortet anbefaler billeder, hvis dimensioner ideelt ligger mellem 40 og 4096 pixels. Lyd bør være WAV ved 16 kHz og helst kortere end to minutter for denne Small-udgave. Det er anbefalinger om optimalt input, ikke løfter om, at modellen afviser ethvert input uden for dem. Outputtet er UTF-8-tekst, ikke genereret tale eller video.\n\nVed et billedspørgsmål skal du angive den egenskab, der skal undersøges, og hvordan den relaterer sig til den skriftlige opgave. Ved lyd skal du identificere, om det nyttige resultat er en forklaring af indholdet, et resumé eller en anden tekstanalyse. Lever det ordforråd og den baggrund, der er nødvendige for at fortolke materialet. En kode- eller informationshentningsopgave bør levere den relevante kilde eller de hentede tekststykker og det ønskede produkt.\n\nI en værktøjsforbundet applikation foreslår modellen interaktioner, og applikationen returnerer deres resultater. Bevar disse observationer gennem opfølgninger, så næste trin kan bruge det, der skete. Producenten udgiver modellen til tilpasning og finjustering, mens et særskilt tilpasset checkpoint forbliver adskilt fra den oprindelige Small-model.\n\nProducenten identificerer lejlighedsvise fejl i instruktionsefterlevelse, udokumenterede faktuelle udsagn og forringelse i lange samtaler med ujævn ydeevne på tværs af mindre repræsenterede sprog og domæner. Producenten beskriver også multimodal sikkerhedsevaluering og fortsat sårbarhed over for visse indirekte formulerede prompts. Hold kildebelæg og applikationsspecifikke outputkontroller tilgængelige, når modellens resultat bruges i en arbejdsgang.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.thinkingmachines/inkling-smallThinking Machines Labs Inkling-Small er en MoE-model med 276B parametre og 12B aktive parametre til ræsonnement over tekst, billeder og lyd. Den producerer tekst, understøtter værktøjsorienterede applikationer og har en modelkontekst på 1M, mens producenttjenestens kortere kontekster holdes adskilt.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Inkling-Small er Thinking Machines Labs mindre multimodale model til generelle formål. Dens officielle modelkort angiver i alt 276 milliarder parametre og 12B aktive parametre. Den accepterer tekst, billeder og lyd og genererer tekst til samtale-, kode-, ræsonnements-, informationsudvidede og værktøjsorienterede applikationer. Den er en særskilt udgave i forhold til den større Inkling-model.
Arkitekturen bruger 42 decoderlag og en sparsom ekspertgrundarkitektur. Et token vælger seks af 256 routede eksperter plus to delte eksperter med en blanding af lokal og global attention. Billedpatches og diskrete lydtokens projiceres ind i decoderens fælles repræsentation. Særskilte BF16- og NVFP4-artefakter har deres egen præcisionsidentitet.
Producenten beskriver en modelkontekst på 1M, mens træningstjenesten tilbyder konfigurationer på 64K og 256K. Det er særskilte omfang frem for udskiftelige vinduesstørrelser. Ved langt materiale skal du identificere den faktiske kontekst, opgaven bruger, og efterlade plads til modellens tænkning og endelige svar. Producentens delte Inkling-renderer accepterer en endelig indsatsværdi fra 0.0 til, men ikke inklusive, 1.0 og bruger 0.9, når værdien udelades. Nul fremmer et direkte svar uden at håndhæve et hårdt forbud mod ræsonnement.
Forberedelsen af input er specifik. Modelkortet anbefaler billeder, hvis dimensioner ideelt ligger mellem 40 og 4096 pixels. Lyd bør være WAV ved 16 kHz og helst kortere end to minutter for denne Small-udgave. Det er anbefalinger om optimalt input, ikke løfter om, at modellen afviser ethvert input uden for dem. Outputtet er UTF-8-tekst, ikke genereret tale eller video.
Ved et billedspørgsmål skal du angive den egenskab, der skal undersøges, og hvordan den relaterer sig til den skriftlige opgave. Ved lyd skal du identificere, om det nyttige resultat er en forklaring af indholdet, et resumé eller en anden tekstanalyse. Lever det ordforråd og den baggrund, der er nødvendige for at fortolke materialet. En kode- eller informationshentningsopgave bør levere den relevante kilde eller de hentede tekststykker og det ønskede produkt.
I en værktøjsforbundet applikation foreslår modellen interaktioner, og applikationen returnerer deres resultater. Bevar disse observationer gennem opfølgninger, så næste trin kan bruge det, der skete. Producenten udgiver modellen til tilpasning og finjustering, mens et særskilt tilpasset checkpoint forbliver adskilt fra den oprindelige Small-model.
Producenten identificerer lejlighedsvise fejl i instruktionsefterlevelse, udokumenterede faktuelle udsagn og forringelse i lange samtaler med ujævn ydeevne på tværs af mindre repræsenterede sprog og domæner. Producenten beskriver også multimodal sikkerhedsevaluering og fortsat sårbarhed over for visse indirekte formulerede prompts. Hold kildebelæg og applikationsspecifikke outputkontroller tilgængelige, når modellens resultat bruges i en arbejdsgang.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser thinkingmachines/inkling-small | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0009 / 1K tokens Output · Outputtokens $0.0024 / 1K tokens Input · Cachelæsning $0.0002 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0009 / 1K tokens Output · Outputtokens $0.0024 / 1K tokens Input · Cachelæsning $0.0002 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra thinkingmachines/inkling-small
Brug metodestierne vist ovenfor.
thinkingmachines/inkling-smallThinking Machines Labs Inkling-Small er en MoE-model med 276B parametre og 12B aktive parametre til ræsonnement over tekst, billeder og lyd. Den producerer tekst, understøtter værktøjsorienterede applikationer og har en modelkontekst på 1M, mens producenttjenestens kortere kontekster holdes adskilt.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Inkling-Small er Thinking Machines Labs mindre multimodale model til generelle formål. Dens officielle modelkort angiver i alt 276 milliarder parametre og 12B aktive parametre. Den accepterer tekst, billeder og lyd og genererer tekst til samtale-, kode-, ræsonnements-, informationsudvidede og værktøjsorienterede applikationer. Den er en særskilt udgave i forhold til den større Inkling-model.
Arkitekturen bruger 42 decoderlag og en sparsom ekspertgrundarkitektur. Et token vælger seks af 256 routede eksperter plus to delte eksperter med en blanding af lokal og global attention. Billedpatches og diskrete lydtokens projiceres ind i decoderens fælles repræsentation. Særskilte BF16- og NVFP4-artefakter har deres egen præcisionsidentitet.
Producenten beskriver en modelkontekst på 1M, mens træningstjenesten tilbyder konfigurationer på 64K og 256K. Det er særskilte omfang frem for udskiftelige vinduesstørrelser. Ved langt materiale skal du identificere den faktiske kontekst, opgaven bruger, og efterlade plads til modellens tænkning og endelige svar. Producentens delte Inkling-renderer accepterer en endelig indsatsværdi fra 0.0 til, men ikke inklusive, 1.0 og bruger 0.9, når værdien udelades. Nul fremmer et direkte svar uden at håndhæve et hårdt forbud mod ræsonnement.
Forberedelsen af input er specifik. Modelkortet anbefaler billeder, hvis dimensioner ideelt ligger mellem 40 og 4096 pixels. Lyd bør være WAV ved 16 kHz og helst kortere end to minutter for denne Small-udgave. Det er anbefalinger om optimalt input, ikke løfter om, at modellen afviser ethvert input uden for dem. Outputtet er UTF-8-tekst, ikke genereret tale eller video.
Ved et billedspørgsmål skal du angive den egenskab, der skal undersøges, og hvordan den relaterer sig til den skriftlige opgave. Ved lyd skal du identificere, om det nyttige resultat er en forklaring af indholdet, et resumé eller en anden tekstanalyse. Lever det ordforråd og den baggrund, der er nødvendige for at fortolke materialet. En kode- eller informationshentningsopgave bør levere den relevante kilde eller de hentede tekststykker og det ønskede produkt.
I en værktøjsforbundet applikation foreslår modellen interaktioner, og applikationen returnerer deres resultater. Bevar disse observationer gennem opfølgninger, så næste trin kan bruge det, der skete. Producenten udgiver modellen til tilpasning og finjustering, mens et særskilt tilpasset checkpoint forbliver adskilt fra den oprindelige Small-model.
Producenten identificerer lejlighedsvise fejl i instruktionsefterlevelse, udokumenterede faktuelle udsagn og forringelse i lange samtaler med ujævn ydeevne på tværs af mindre repræsenterede sprog og domæner. Producenten beskriver også multimodal sikkerhedsevaluering og fortsat sårbarhed over for visse indirekte formulerede prompts. Hold kildebelæg og applikationsspecifikke outputkontroller tilgængelige, når modellens resultat bruges i en arbejdsgang.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser thinkingmachines/inkling-small | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0009 / 1K tokens Output · Outputtokens $0.0024 / 1K tokens Input · Cachelæsning $0.0002 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0009 / 1K tokens Output · Outputtokens $0.0024 / 1K tokens Input · Cachelæsning $0.0002 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "thinkingmachines/inkling-small",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra thinkingmachines/inkling-small
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.