Inkling-Small er Thinking Machines Labs mindre multimodale modell for generell bruk. Det offisielle kortet angir totalt 276 milliarder parametere og 12B aktive parametere. Den tar imot tekst, bilder og lyd og genererer tekst for samtale-, kode-, resonnerings-, innhentingsstøttede og verktøyorienterte applikasjoner. Den er en egen utgave atskilt fra den større Inkling-modellen.
Arkitekturen bruker 42 dekoderlag og en sparsom ekspertgrunnarkitektur. Et token velger seks av 256 rutede eksperter pluss to delte eksperter, med en blanding av lokal og global attention. Bildeutsnitt og diskrete lydtokener projiseres inn i dekoderens felles representasjon. Separate BF16- og NVFP4-artefakter har sin egen presisjonsidentitet.
Produsenten beskriver en modellkontekst på 1M, mens treningstjenesten tilbyr konfigurasjoner på 64K og 256K. Dette er separate omfang, ikke utskiftbare vindusstørrelser. For langt materiale identifiserer du den faktiske konteksten oppgaven bruker, og gir plass til modellens tenking og endelige svar. Produsentens delte Inkling-renderer godtar en endelig innsatsverdi fra 0.0 til, men ikke inkludert, 1.0, og bruker 0.9 når verdien utelates. Null oppmuntrer til et direkte svar uten å håndheve et hardt forbud mot resonnering.
Forberedelsen av inndata er spesifikk. Kortet anbefaler bilder med dimensjoner som ideelt sett er mellom 40 og 4096 piksler. Lyd bør være WAV ved 16 kHz, ideelt sett kortere enn to minutter for denne Small-utgaven. Dette er anbefalinger for optimale inndata, ikke løfter om at modellen avviser alle inndata utenfor dem. Utdataene er UTF-8-tekst, ikke generert tale eller video.
For et bildespørsmål angir du egenskapen som skal undersøkes, og hvordan den er knyttet til den skriftlige oppgaven. For lyd identifiserer du om det nyttige resultatet er en forklaring av innholdet, et sammendrag eller en annen tekstanalyse. Gi ordforrådet og bakgrunnen som trengs for å tolke materialet. En kode- eller innhentingsoppgave bør gi relevant kilde eller innhentede tekstutdrag og ønsket leveranse.
I en verktøytilkoblet applikasjon foreslår modellen interaksjoner, og applikasjonen returnerer resultatene deres. Behold disse observasjonene gjennom oppfølginger, slik at neste trinn kan bruke det som skjedde. Produsenten utgir modellen for tilpasning og finjustering, mens et separat tilpasset kontrollpunkt forblir atskilt fra den opprinnelige Small-modellen.
Produsenten identifiserer sporadiske feil i å følge instruksjoner, faktapåstander uten støtte og svekkelse i lange samtaler, med ujevn ytelse på tvers av mindre representerte språk og domener. Den beskriver også multimodal sikkerhetsevaluering og gjenværende mottakelighet for enkelte indirekte formulerte prompter. Hold kildebelegg og applikasjonsspesifikke utdatakontroller tilgjengelige når du bruker modellens resultat i en arbeidsflyt.
", "aboutText": "Inkling-Small er Thinking Machines Labs mindre multimodale modell for generell bruk. Det offisielle kortet angir totalt 276 milliarder parametere og 12B aktive parametere. Den tar imot tekst, bilder og lyd og genererer tekst for samtale-, kode-, resonnerings-, innhentingsstøttede og verktøyorienterte applikasjoner. Den er en egen utgave atskilt fra den større Inkling-modellen.\n\nArkitekturen bruker 42 dekoderlag og en sparsom ekspertgrunnarkitektur. Et token velger seks av 256 rutede eksperter pluss to delte eksperter, med en blanding av lokal og global attention. Bildeutsnitt og diskrete lydtokener projiseres inn i dekoderens felles representasjon. Separate BF16- og NVFP4-artefakter har sin egen presisjonsidentitet.\n\nProdusenten beskriver en modellkontekst på 1M, mens treningstjenesten tilbyr konfigurasjoner på 64K og 256K. Dette er separate omfang, ikke utskiftbare vindusstørrelser. For langt materiale identifiserer du den faktiske konteksten oppgaven bruker, og gir plass til modellens tenking og endelige svar. Produsentens delte Inkling-renderer godtar en endelig innsatsverdi fra 0.0 til, men ikke inkludert, 1.0, og bruker 0.9 når verdien utelates. Null oppmuntrer til et direkte svar uten å håndheve et hardt forbud mot resonnering.\n\nForberedelsen av inndata er spesifikk. Kortet anbefaler bilder med dimensjoner som ideelt sett er mellom 40 og 4096 piksler. Lyd bør være WAV ved 16 kHz, ideelt sett kortere enn to minutter for denne Small-utgaven. Dette er anbefalinger for optimale inndata, ikke løfter om at modellen avviser alle inndata utenfor dem. Utdataene er UTF-8-tekst, ikke generert tale eller video.\n\nFor et bildespørsmål angir du egenskapen som skal undersøkes, og hvordan den er knyttet til den skriftlige oppgaven. For lyd identifiserer du om det nyttige resultatet er en forklaring av innholdet, et sammendrag eller en annen tekstanalyse. Gi ordforrådet og bakgrunnen som trengs for å tolke materialet. En kode- eller innhentingsoppgave bør gi relevant kilde eller innhentede tekstutdrag og ønsket leveranse.\n\nI en verktøytilkoblet applikasjon foreslår modellen interaksjoner, og applikasjonen returnerer resultatene deres. Behold disse observasjonene gjennom oppfølginger, slik at neste trinn kan bruke det som skjedde. Produsenten utgir modellen for tilpasning og finjustering, mens et separat tilpasset kontrollpunkt forblir atskilt fra den opprinnelige Small-modellen.\n\nProdusenten identifiserer sporadiske feil i å følge instruksjoner, faktapåstander uten støtte og svekkelse i lange samtaler, med ujevn ytelse på tvers av mindre representerte språk og domener. Den beskriver også multimodal sikkerhetsevaluering og gjenværende mottakelighet for enkelte indirekte formulerte prompter. Hold kildebelegg og applikasjonsspesifikke utdatakontroller tilgjengelige når du bruker modellens resultat i en arbeidsflyt.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.thinkingmachines/inkling-smallThinking Machines Labs Inkling-Small er en MoE-modell med 276B parametere og 12B aktive parametere for resonnering over tekst, bilder og lyd. Den produserer tekst, støtter verktøyorienterte applikasjoner og har en modellkontekst på 1M, mens kortere kontekster i produsentens tjeneste holdes atskilt.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Inkling-Small er Thinking Machines Labs mindre multimodale modell for generell bruk. Det offisielle kortet angir totalt 276 milliarder parametere og 12B aktive parametere. Den tar imot tekst, bilder og lyd og genererer tekst for samtale-, kode-, resonnerings-, innhentingsstøttede og verktøyorienterte applikasjoner. Den er en egen utgave atskilt fra den større Inkling-modellen.
Arkitekturen bruker 42 dekoderlag og en sparsom ekspertgrunnarkitektur. Et token velger seks av 256 rutede eksperter pluss to delte eksperter, med en blanding av lokal og global attention. Bildeutsnitt og diskrete lydtokener projiseres inn i dekoderens felles representasjon. Separate BF16- og NVFP4-artefakter har sin egen presisjonsidentitet.
Produsenten beskriver en modellkontekst på 1M, mens treningstjenesten tilbyr konfigurasjoner på 64K og 256K. Dette er separate omfang, ikke utskiftbare vindusstørrelser. For langt materiale identifiserer du den faktiske konteksten oppgaven bruker, og gir plass til modellens tenking og endelige svar. Produsentens delte Inkling-renderer godtar en endelig innsatsverdi fra 0.0 til, men ikke inkludert, 1.0, og bruker 0.9 når verdien utelates. Null oppmuntrer til et direkte svar uten å håndheve et hardt forbud mot resonnering.
Forberedelsen av inndata er spesifikk. Kortet anbefaler bilder med dimensjoner som ideelt sett er mellom 40 og 4096 piksler. Lyd bør være WAV ved 16 kHz, ideelt sett kortere enn to minutter for denne Small-utgaven. Dette er anbefalinger for optimale inndata, ikke løfter om at modellen avviser alle inndata utenfor dem. Utdataene er UTF-8-tekst, ikke generert tale eller video.
For et bildespørsmål angir du egenskapen som skal undersøkes, og hvordan den er knyttet til den skriftlige oppgaven. For lyd identifiserer du om det nyttige resultatet er en forklaring av innholdet, et sammendrag eller en annen tekstanalyse. Gi ordforrådet og bakgrunnen som trengs for å tolke materialet. En kode- eller innhentingsoppgave bør gi relevant kilde eller innhentede tekstutdrag og ønsket leveranse.
I en verktøytilkoblet applikasjon foreslår modellen interaksjoner, og applikasjonen returnerer resultatene deres. Behold disse observasjonene gjennom oppfølginger, slik at neste trinn kan bruke det som skjedde. Produsenten utgir modellen for tilpasning og finjustering, mens et separat tilpasset kontrollpunkt forblir atskilt fra den opprinnelige Small-modellen.
Produsenten identifiserer sporadiske feil i å følge instruksjoner, faktapåstander uten støtte og svekkelse i lange samtaler, med ujevn ytelse på tvers av mindre representerte språk og domener. Den beskriver også multimodal sikkerhetsevaluering og gjenværende mottakelighet for enkelte indirekte formulerte prompter. Hold kildebelegg og applikasjonsspesifikke utdatakontroller tilgjengelige når du bruker modellens resultat i en arbeidsflyt.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser thinkingmachines/inkling-small | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0009 / 1K tokener Utdata · Utgående tokener $0.0024 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0002 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0009 / 1K tokener Utdata · Utgående tokener $0.0024 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0002 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra thinkingmachines/inkling-small
Bruk metodestiene som vises ovenfor.
thinkingmachines/inkling-smallThinking Machines Labs Inkling-Small er en MoE-modell med 276B parametere og 12B aktive parametere for resonnering over tekst, bilder og lyd. Den produserer tekst, støtter verktøyorienterte applikasjoner og har en modellkontekst på 1M, mens kortere kontekster i produsentens tjeneste holdes atskilt.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Inkling-Small er Thinking Machines Labs mindre multimodale modell for generell bruk. Det offisielle kortet angir totalt 276 milliarder parametere og 12B aktive parametere. Den tar imot tekst, bilder og lyd og genererer tekst for samtale-, kode-, resonnerings-, innhentingsstøttede og verktøyorienterte applikasjoner. Den er en egen utgave atskilt fra den større Inkling-modellen.
Arkitekturen bruker 42 dekoderlag og en sparsom ekspertgrunnarkitektur. Et token velger seks av 256 rutede eksperter pluss to delte eksperter, med en blanding av lokal og global attention. Bildeutsnitt og diskrete lydtokener projiseres inn i dekoderens felles representasjon. Separate BF16- og NVFP4-artefakter har sin egen presisjonsidentitet.
Produsenten beskriver en modellkontekst på 1M, mens treningstjenesten tilbyr konfigurasjoner på 64K og 256K. Dette er separate omfang, ikke utskiftbare vindusstørrelser. For langt materiale identifiserer du den faktiske konteksten oppgaven bruker, og gir plass til modellens tenking og endelige svar. Produsentens delte Inkling-renderer godtar en endelig innsatsverdi fra 0.0 til, men ikke inkludert, 1.0, og bruker 0.9 når verdien utelates. Null oppmuntrer til et direkte svar uten å håndheve et hardt forbud mot resonnering.
Forberedelsen av inndata er spesifikk. Kortet anbefaler bilder med dimensjoner som ideelt sett er mellom 40 og 4096 piksler. Lyd bør være WAV ved 16 kHz, ideelt sett kortere enn to minutter for denne Small-utgaven. Dette er anbefalinger for optimale inndata, ikke løfter om at modellen avviser alle inndata utenfor dem. Utdataene er UTF-8-tekst, ikke generert tale eller video.
For et bildespørsmål angir du egenskapen som skal undersøkes, og hvordan den er knyttet til den skriftlige oppgaven. For lyd identifiserer du om det nyttige resultatet er en forklaring av innholdet, et sammendrag eller en annen tekstanalyse. Gi ordforrådet og bakgrunnen som trengs for å tolke materialet. En kode- eller innhentingsoppgave bør gi relevant kilde eller innhentede tekstutdrag og ønsket leveranse.
I en verktøytilkoblet applikasjon foreslår modellen interaksjoner, og applikasjonen returnerer resultatene deres. Behold disse observasjonene gjennom oppfølginger, slik at neste trinn kan bruke det som skjedde. Produsenten utgir modellen for tilpasning og finjustering, mens et separat tilpasset kontrollpunkt forblir atskilt fra den opprinnelige Small-modellen.
Produsenten identifiserer sporadiske feil i å følge instruksjoner, faktapåstander uten støtte og svekkelse i lange samtaler, med ujevn ytelse på tvers av mindre representerte språk og domener. Den beskriver også multimodal sikkerhetsevaluering og gjenværende mottakelighet for enkelte indirekte formulerte prompter. Hold kildebelegg og applikasjonsspesifikke utdatakontroller tilgjengelige når du bruker modellens resultat i en arbeidsflyt.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser thinkingmachines/inkling-small | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0009 / 1K tokener Utdata · Utgående tokener $0.0024 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0002 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0009 / 1K tokener Utdata · Utgående tokener $0.0024 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0002 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "thinkingmachines/inkling-small",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra thinkingmachines/inkling-small
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.