Inkling-Small est le modèle multimodal généraliste de plus petite taille de Thinking Machines Lab. Sa fiche officielle précise 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio et génère du texte pour les applications conversationnelles, de code, de raisonnement, augmentées par récupération et orientées outils. C’est une édition distincte du plus grand modèle Inkling.
L’architecture utilise 42 couches de décodeur et une base d’experts parcimonieuse. Un jeton sélectionne six des 256 experts routés et deux experts partagés, avec un mélange d’attention locale et globale. Les portions d’images et les jetons audio discrets sont projetés dans la représentation commune du décodeur. Les éléments BF16 et NVFP4 distincts possèdent leur propre identité de précision.
Le fournisseur décrit un contexte de modèle de 1M, tandis que son service d’entraînement offre des configurations de 64K et de 256K. Ce sont des portées distinctes, et non des tailles de fenêtre interchangeables. Pour un long contenu, identifiez le contexte réellement utilisé pour la tâche et réservez de la place pour la réflexion du modèle et sa réponse finale. Le moteur de rendu Inkling commun du fournisseur accepte une valeur d’effort finie de 0.0 à moins de 1.0 et utilise 0.9 lorsqu’elle est omise. Zéro favorise une réponse directe sans imposer une interdiction stricte de raisonnement.
La préparation des entrées est précise. La fiche recommande des images dont les dimensions sont idéalement entre 40 et 4096 pixels. L’audio doit être en WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.
Pour une question sur une image, précisez l’élément à examiner et son lien avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires à l’interprétation du contenu. Une tâche de code ou de récupération doit fournir la source ou les passages récupérés pertinents ainsi que le livrable souhaité.
Dans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des suivis pour que l’étape suivante puisse utiliser ce qui s’est produit. Le fournisseur publie le modèle pour la personnalisation et l’ajustement fin, tandis qu’un point de contrôle personnalisé séparément reste distinct du modèle Small d’origine.
Le fabricant relève des échecs occasionnels de suivi des consignes, des affirmations factuelles non étayées et une dégradation dans les longues conversations, avec des performances inégales dans les langues et les domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une vulnérabilité résiduelle à certaines invites formulées indirectement. Gardez les sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un flux de travail.
", "aboutText": "Inkling-Small est le modèle multimodal généraliste de plus petite taille de Thinking Machines Lab. Sa fiche officielle précise 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio et génère du texte pour les applications conversationnelles, de code, de raisonnement, augmentées par récupération et orientées outils. C’est une édition distincte du plus grand modèle Inkling.\n\nL’architecture utilise 42 couches de décodeur et une base d’experts parcimonieuse. Un jeton sélectionne six des 256 experts routés et deux experts partagés, avec un mélange d’attention locale et globale. Les portions d’images et les jetons audio discrets sont projetés dans la représentation commune du décodeur. Les éléments BF16 et NVFP4 distincts possèdent leur propre identité de précision.\n\nLe fournisseur décrit un contexte de modèle de 1M, tandis que son service d’entraînement offre des configurations de 64K et de 256K. Ce sont des portées distinctes, et non des tailles de fenêtre interchangeables. Pour un long contenu, identifiez le contexte réellement utilisé pour la tâche et réservez de la place pour la réflexion du modèle et sa réponse finale. Le moteur de rendu Inkling commun du fournisseur accepte une valeur d’effort finie de 0.0 à moins de 1.0 et utilise 0.9 lorsqu’elle est omise. Zéro favorise une réponse directe sans imposer une interdiction stricte de raisonnement.\n\nLa préparation des entrées est précise. La fiche recommande des images dont les dimensions sont idéalement entre 40 et 4096 pixels. L’audio doit être en WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.\n\nPour une question sur une image, précisez l’élément à examiner et son lien avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires à l’interprétation du contenu. Une tâche de code ou de récupération doit fournir la source ou les passages récupérés pertinents ainsi que le livrable souhaité.\n\nDans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des suivis pour que l’étape suivante puisse utiliser ce qui s’est produit. Le fournisseur publie le modèle pour la personnalisation et l’ajustement fin, tandis qu’un point de contrôle personnalisé séparément reste distinct du modèle Small d’origine.\n\nLe fabricant relève des échecs occasionnels de suivi des consignes, des affirmations factuelles non étayées et une dégradation dans les longues conversations, avec des performances inégales dans les langues et les domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une vulnérabilité résiduelle à certaines invites formulées indirectement. Gardez les sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un flux de travail.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.thinkingmachines/inkling-smallInkling-Small de Thinking Machines Lab est un modèle MoE de 276B paramètres, dont 12B actifs, pour le raisonnement sur le texte, les images et l’audio. Il produit du texte, prend en charge les applications orientées outils et possède un contexte de modèle de 1M, distinct des contextes plus courts du service du fournisseur.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Inkling-Small est le modèle multimodal généraliste de plus petite taille de Thinking Machines Lab. Sa fiche officielle précise 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio et génère du texte pour les applications conversationnelles, de code, de raisonnement, augmentées par récupération et orientées outils. C’est une édition distincte du plus grand modèle Inkling.
L’architecture utilise 42 couches de décodeur et une base d’experts parcimonieuse. Un jeton sélectionne six des 256 experts routés et deux experts partagés, avec un mélange d’attention locale et globale. Les portions d’images et les jetons audio discrets sont projetés dans la représentation commune du décodeur. Les éléments BF16 et NVFP4 distincts possèdent leur propre identité de précision.
Le fournisseur décrit un contexte de modèle de 1M, tandis que son service d’entraînement offre des configurations de 64K et de 256K. Ce sont des portées distinctes, et non des tailles de fenêtre interchangeables. Pour un long contenu, identifiez le contexte réellement utilisé pour la tâche et réservez de la place pour la réflexion du modèle et sa réponse finale. Le moteur de rendu Inkling commun du fournisseur accepte une valeur d’effort finie de 0.0 à moins de 1.0 et utilise 0.9 lorsqu’elle est omise. Zéro favorise une réponse directe sans imposer une interdiction stricte de raisonnement.
La préparation des entrées est précise. La fiche recommande des images dont les dimensions sont idéalement entre 40 et 4096 pixels. L’audio doit être en WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.
Pour une question sur une image, précisez l’élément à examiner et son lien avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires à l’interprétation du contenu. Une tâche de code ou de récupération doit fournir la source ou les passages récupérés pertinents ainsi que le livrable souhaité.
Dans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des suivis pour que l’étape suivante puisse utiliser ce qui s’est produit. Le fournisseur publie le modèle pour la personnalisation et l’ajustement fin, tandis qu’un point de contrôle personnalisé séparément reste distinct du modèle Small d’origine.
Le fabricant relève des échecs occasionnels de suivi des consignes, des affirmations factuelles non étayées et une dégradation dans les longues conversations, avec des performances inégales dans les langues et les domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une vulnérabilité résiduelle à certaines invites formulées indirectement. Gardez les sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un flux de travail.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites thinkingmachines/inkling-small | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’ID réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: Fonction fournie comme outil | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est refusé sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: La valeur 1h est refusée là où le cache des prompts est configuré | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | ContratTableau de messages avec une structure role/content |
Paramètrefile_material | ContratDocument UTF-8 réel inséré comme texte littéral ; aucun ID de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | ContratPropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’ID exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objet fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Jetons de contexte, plus de | Jetons de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Jetons de contexte, plus de— | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0009 / 1K jetons Sortie · Jetons en sortie $0.0024 / 1K jetons Entrée · Lecture du cache $0.0002 / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Jetons de contexte, plus de0 | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0009 / 1K jetons Sortie · Jetons en sortie $0.0024 / 1K jetons Entrée · Lecture du cache $0.0002 / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, et conservez le motif final d’arrêt et les données d’utilisation.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra thinkingmachines/inkling-small
Utilisez les chemins de méthode indiqués ci-dessus.
thinkingmachines/inkling-smallInkling-Small de Thinking Machines Lab est un modèle MoE de 276B paramètres, dont 12B actifs, pour le raisonnement sur le texte, les images et l’audio. Il produit du texte, prend en charge les applications orientées outils et possède un contexte de modèle de 1M, distinct des contextes plus courts du service du fournisseur.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Inkling-Small est le modèle multimodal généraliste de plus petite taille de Thinking Machines Lab. Sa fiche officielle précise 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio et génère du texte pour les applications conversationnelles, de code, de raisonnement, augmentées par récupération et orientées outils. C’est une édition distincte du plus grand modèle Inkling.
L’architecture utilise 42 couches de décodeur et une base d’experts parcimonieuse. Un jeton sélectionne six des 256 experts routés et deux experts partagés, avec un mélange d’attention locale et globale. Les portions d’images et les jetons audio discrets sont projetés dans la représentation commune du décodeur. Les éléments BF16 et NVFP4 distincts possèdent leur propre identité de précision.
Le fournisseur décrit un contexte de modèle de 1M, tandis que son service d’entraînement offre des configurations de 64K et de 256K. Ce sont des portées distinctes, et non des tailles de fenêtre interchangeables. Pour un long contenu, identifiez le contexte réellement utilisé pour la tâche et réservez de la place pour la réflexion du modèle et sa réponse finale. Le moteur de rendu Inkling commun du fournisseur accepte une valeur d’effort finie de 0.0 à moins de 1.0 et utilise 0.9 lorsqu’elle est omise. Zéro favorise une réponse directe sans imposer une interdiction stricte de raisonnement.
La préparation des entrées est précise. La fiche recommande des images dont les dimensions sont idéalement entre 40 et 4096 pixels. L’audio doit être en WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.
Pour une question sur une image, précisez l’élément à examiner et son lien avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires à l’interprétation du contenu. Une tâche de code ou de récupération doit fournir la source ou les passages récupérés pertinents ainsi que le livrable souhaité.
Dans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des suivis pour que l’étape suivante puisse utiliser ce qui s’est produit. Le fournisseur publie le modèle pour la personnalisation et l’ajustement fin, tandis qu’un point de contrôle personnalisé séparément reste distinct du modèle Small d’origine.
Le fabricant relève des échecs occasionnels de suivi des consignes, des affirmations factuelles non étayées et une dégradation dans les longues conversations, avec des performances inégales dans les langues et les domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une vulnérabilité résiduelle à certaines invites formulées indirectement. Gardez les sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un flux de travail.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites thinkingmachines/inkling-small | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
Chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Jetons de contexte, plus de | Jetons de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Jetons de contexte, plus de— | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0009 / 1K jetons Sortie · Jetons en sortie $0.0024 / 1K jetons Entrée · Lecture du cache $0.0002 / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Jetons de contexte, plus de0 | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0009 / 1K jetons Sortie · Jetons en sortie $0.0024 / 1K jetons Entrée · Lecture du cache $0.0002 / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "thinkingmachines/inkling-small",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les ID réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra thinkingmachines/inkling-small
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.