Inkling-Small är Thinking Machines Labs mindre multimodala modell för allmän användning. Det officiella kortet anger totalt 276 miljarder parametrar och 12 miljarder aktiva parametrar. Den accepterar text, bilder och ljud och genererar text för konversations-, kodnings-, resonemangs-, hämtningsförstärkta och verktygsinriktade applikationer. Den är en separat utgåva från den större Inkling-modellen.
Arkitekturen använder 42 avkodarlager och en gles expertbas. En token väljer sex av 256 dirigerade experter plus två gemensamma experter, med en blandning av lokal och global attention. Bildutsnitt och diskreta ljudtoken projiceras in i avkodarens gemensamma representation. Separata BF16- och NVFP4-artefakter har egna precisionsidentiteter.
Tillverkaren beskriver en modellkontext på 1 miljon token, medan dess träningstjänst erbjuder konfigurationerna 64K och 256K. Dessa är separata omfattningar snarare än utbytbara fönsterstorlekar. För långt material identifierar du den faktiska kontexten som uppgiften använder och lämnar utrymme för modellens tänkande och slutliga svar. Tillverkarens gemensamma Inkling-renderare accepterar ett ändligt ansträngningsvärde från 0.0 upp till, men inte inklusive, 1.0 och använder 0.9 när värdet utelämnas. Noll uppmuntrar ett direkt svar utan att införa ett hårt förbud mot resonemang.
Förberedelsen av indata är specifik. Kortet rekommenderar bilder med dimensioner helst mellan 40 och 4 096 pixlar. Ljud bör vara WAV vid 16 kHz, helst kortare än två minuter för denna Small-utgåva. Detta är rekommendationer för optimala indata, inga löften om att modellen avvisar alla indata utanför dem. Utdata är UTF-8-text, inget genererat tal eller video.
För en bildfråga anger du egenskapen som ska undersökas och hur den hänger ihop med den skriftliga uppgiften. För ljud identifierar du om det användbara resultatet är en förklaring av innehållet, en sammanfattning eller en annan textanalys. Tillhandahåll ordförrådet och bakgrunden som behövs för att tolka materialet. En kod- eller hämtningsuppgift bör tillhandahålla relevant källmaterial eller hämtade textavsnitt och önskad artefakt.
I en verktygsansluten applikation föreslår modellen interaktioner och applikationen returnerar deras resultat. Bevara dessa observationer genom följdfrågor så att nästa steg kan använda det som hände. Tillverkaren släpper modellen för anpassning och finjustering, medan en separat anpassad modellversion förblir åtskild från den ursprungliga Small-modellen.
Tillverkaren anger tillfälliga fel i instruktionsföljning, obelagda faktapåståenden och försämring i långa konversationer, med ojämn prestanda mellan mindre representerade språk och domäner. Den beskriver även multimodal säkerhetsutvärdering och kvarvarande sårbarhet för vissa indirekt formulerade promptar. Håll källbelägg och applikationsspecifika utdatakontroller tillgängliga när modellens resultat används i ett arbetsflöde.
", "aboutText": "Inkling-Small är Thinking Machines Labs mindre multimodala modell för allmän användning. Det officiella kortet anger totalt 276 miljarder parametrar och 12 miljarder aktiva parametrar. Den accepterar text, bilder och ljud och genererar text för konversations-, kodnings-, resonemangs-, hämtningsförstärkta och verktygsinriktade applikationer. Den är en separat utgåva från den större Inkling-modellen.\n\nArkitekturen använder 42 avkodarlager och en gles expertbas. En token väljer sex av 256 dirigerade experter plus två gemensamma experter, med en blandning av lokal och global attention. Bildutsnitt och diskreta ljudtoken projiceras in i avkodarens gemensamma representation. Separata BF16- och NVFP4-artefakter har egna precisionsidentiteter.\n\nTillverkaren beskriver en modellkontext på 1 miljon token, medan dess träningstjänst erbjuder konfigurationerna 64K och 256K. Dessa är separata omfattningar snarare än utbytbara fönsterstorlekar. För långt material identifierar du den faktiska kontexten som uppgiften använder och lämnar utrymme för modellens tänkande och slutliga svar. Tillverkarens gemensamma Inkling-renderare accepterar ett ändligt ansträngningsvärde från 0.0 upp till, men inte inklusive, 1.0 och använder 0.9 när värdet utelämnas. Noll uppmuntrar ett direkt svar utan att införa ett hårt förbud mot resonemang.\n\nFörberedelsen av indata är specifik. Kortet rekommenderar bilder med dimensioner helst mellan 40 och 4 096 pixlar. Ljud bör vara WAV vid 16 kHz, helst kortare än två minuter för denna Small-utgåva. Detta är rekommendationer för optimala indata, inga löften om att modellen avvisar alla indata utanför dem. Utdata är UTF-8-text, inget genererat tal eller video.\n\nFör en bildfråga anger du egenskapen som ska undersökas och hur den hänger ihop med den skriftliga uppgiften. För ljud identifierar du om det användbara resultatet är en förklaring av innehållet, en sammanfattning eller en annan textanalys. Tillhandahåll ordförrådet och bakgrunden som behövs för att tolka materialet. En kod- eller hämtningsuppgift bör tillhandahålla relevant källmaterial eller hämtade textavsnitt och önskad artefakt.\n\nI en verktygsansluten applikation föreslår modellen interaktioner och applikationen returnerar deras resultat. Bevara dessa observationer genom följdfrågor så att nästa steg kan använda det som hände. Tillverkaren släpper modellen för anpassning och finjustering, medan en separat anpassad modellversion förblir åtskild från den ursprungliga Small-modellen.\n\nTillverkaren anger tillfälliga fel i instruktionsföljning, obelagda faktapåståenden och försämring i långa konversationer, med ojämn prestanda mellan mindre representerade språk och domäner. Den beskriver även multimodal säkerhetsutvärdering och kvarvarande sårbarhet för vissa indirekt formulerade promptar. Håll källbelägg och applikationsspecifika utdatakontroller tillgängliga när modellens resultat används i ett arbetsflöde.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.thinkingmachines/inkling-smallThinking Machines Labs Inkling-Small är en MoE-modell med totalt 276 miljarder parametrar, varav 12 miljarder är aktiva, för resonemang över text, bild och ljud. Den producerar text, stöder verktygsinriktade applikationer och har en modellkontext på 1 miljon token, medan tillverkarens kortare tjänstekontexter hålls åtskilda.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Inkling-Small är Thinking Machines Labs mindre multimodala modell för allmän användning. Det officiella kortet anger totalt 276 miljarder parametrar och 12 miljarder aktiva parametrar. Den accepterar text, bilder och ljud och genererar text för konversations-, kodnings-, resonemangs-, hämtningsförstärkta och verktygsinriktade applikationer. Den är en separat utgåva från den större Inkling-modellen.
Arkitekturen använder 42 avkodarlager och en gles expertbas. En token väljer sex av 256 dirigerade experter plus två gemensamma experter, med en blandning av lokal och global attention. Bildutsnitt och diskreta ljudtoken projiceras in i avkodarens gemensamma representation. Separata BF16- och NVFP4-artefakter har egna precisionsidentiteter.
Tillverkaren beskriver en modellkontext på 1 miljon token, medan dess träningstjänst erbjuder konfigurationerna 64K och 256K. Dessa är separata omfattningar snarare än utbytbara fönsterstorlekar. För långt material identifierar du den faktiska kontexten som uppgiften använder och lämnar utrymme för modellens tänkande och slutliga svar. Tillverkarens gemensamma Inkling-renderare accepterar ett ändligt ansträngningsvärde från 0.0 upp till, men inte inklusive, 1.0 och använder 0.9 när värdet utelämnas. Noll uppmuntrar ett direkt svar utan att införa ett hårt förbud mot resonemang.
Förberedelsen av indata är specifik. Kortet rekommenderar bilder med dimensioner helst mellan 40 och 4 096 pixlar. Ljud bör vara WAV vid 16 kHz, helst kortare än två minuter för denna Small-utgåva. Detta är rekommendationer för optimala indata, inga löften om att modellen avvisar alla indata utanför dem. Utdata är UTF-8-text, inget genererat tal eller video.
För en bildfråga anger du egenskapen som ska undersökas och hur den hänger ihop med den skriftliga uppgiften. För ljud identifierar du om det användbara resultatet är en förklaring av innehållet, en sammanfattning eller en annan textanalys. Tillhandahåll ordförrådet och bakgrunden som behövs för att tolka materialet. En kod- eller hämtningsuppgift bör tillhandahålla relevant källmaterial eller hämtade textavsnitt och önskad artefakt.
I en verktygsansluten applikation föreslår modellen interaktioner och applikationen returnerar deras resultat. Bevara dessa observationer genom följdfrågor så att nästa steg kan använda det som hände. Tillverkaren släpper modellen för anpassning och finjustering, medan en separat anpassad modellversion förblir åtskild från den ursprungliga Small-modellen.
Tillverkaren anger tillfälliga fel i instruktionsföljning, obelagda faktapåståenden och försämring i långa konversationer, med ojämn prestanda mellan mindre representerade språk och domäner. Den beskriver även multimodal säkerhetsutvärdering och kvarvarande sårbarhet för vissa indirekt formulerade promptar. Håll källbelägg och applikationsspecifika utdatakontroller tillgängliga när modellens resultat används i ett arbetsflöde.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser thinkingmachines/inkling-small | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0009 / 1K token Utdata · Utdatatoken $0.0024 / 1K token Indata · Cacheläsning $0.0002 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0009 / 1K token Utdata · Utdatatoken $0.0024 / 1K token Indata · Cacheläsning $0.0002 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra thinkingmachines/inkling-small
Använd metodsökvägarna som visas ovan.
thinkingmachines/inkling-smallThinking Machines Labs Inkling-Small är en MoE-modell med totalt 276 miljarder parametrar, varav 12 miljarder är aktiva, för resonemang över text, bild och ljud. Den producerar text, stöder verktygsinriktade applikationer och har en modellkontext på 1 miljon token, medan tillverkarens kortare tjänstekontexter hålls åtskilda.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Inkling-Small är Thinking Machines Labs mindre multimodala modell för allmän användning. Det officiella kortet anger totalt 276 miljarder parametrar och 12 miljarder aktiva parametrar. Den accepterar text, bilder och ljud och genererar text för konversations-, kodnings-, resonemangs-, hämtningsförstärkta och verktygsinriktade applikationer. Den är en separat utgåva från den större Inkling-modellen.
Arkitekturen använder 42 avkodarlager och en gles expertbas. En token väljer sex av 256 dirigerade experter plus två gemensamma experter, med en blandning av lokal och global attention. Bildutsnitt och diskreta ljudtoken projiceras in i avkodarens gemensamma representation. Separata BF16- och NVFP4-artefakter har egna precisionsidentiteter.
Tillverkaren beskriver en modellkontext på 1 miljon token, medan dess träningstjänst erbjuder konfigurationerna 64K och 256K. Dessa är separata omfattningar snarare än utbytbara fönsterstorlekar. För långt material identifierar du den faktiska kontexten som uppgiften använder och lämnar utrymme för modellens tänkande och slutliga svar. Tillverkarens gemensamma Inkling-renderare accepterar ett ändligt ansträngningsvärde från 0.0 upp till, men inte inklusive, 1.0 och använder 0.9 när värdet utelämnas. Noll uppmuntrar ett direkt svar utan att införa ett hårt förbud mot resonemang.
Förberedelsen av indata är specifik. Kortet rekommenderar bilder med dimensioner helst mellan 40 och 4 096 pixlar. Ljud bör vara WAV vid 16 kHz, helst kortare än två minuter för denna Small-utgåva. Detta är rekommendationer för optimala indata, inga löften om att modellen avvisar alla indata utanför dem. Utdata är UTF-8-text, inget genererat tal eller video.
För en bildfråga anger du egenskapen som ska undersökas och hur den hänger ihop med den skriftliga uppgiften. För ljud identifierar du om det användbara resultatet är en förklaring av innehållet, en sammanfattning eller en annan textanalys. Tillhandahåll ordförrådet och bakgrunden som behövs för att tolka materialet. En kod- eller hämtningsuppgift bör tillhandahålla relevant källmaterial eller hämtade textavsnitt och önskad artefakt.
I en verktygsansluten applikation föreslår modellen interaktioner och applikationen returnerar deras resultat. Bevara dessa observationer genom följdfrågor så att nästa steg kan använda det som hände. Tillverkaren släpper modellen för anpassning och finjustering, medan en separat anpassad modellversion förblir åtskild från den ursprungliga Small-modellen.
Tillverkaren anger tillfälliga fel i instruktionsföljning, obelagda faktapåståenden och försämring i långa konversationer, med ojämn prestanda mellan mindre representerade språk och domäner. Den beskriver även multimodal säkerhetsutvärdering och kvarvarande sårbarhet för vissa indirekt formulerade promptar. Håll källbelägg och applikationsspecifika utdatakontroller tillgängliga när modellens resultat används i ett arbetsflöde.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser thinkingmachines/inkling-small | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0009 / 1K token Utdata · Utdatatoken $0.0024 / 1K token Indata · Cacheläsning $0.0002 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0009 / 1K token Utdata · Utdatatoken $0.0024 / 1K token Indata · Cacheläsning $0.0002 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "thinkingmachines/inkling-small",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra thinkingmachines/inkling-small
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.