Inkling-Small est le plus petit modèle multimodal généraliste de Thinking Machines Lab. Sa fiche officielle indique 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio, et génère du texte pour les applications conversationnelles, de programmation, de raisonnement, augmentées par récupération et utilisant des outils. Il s’agit d’une édition distincte du plus grand modèle Inkling.
L’architecture utilise 42 couches de décodeur et une structure principale d’experts parcimonieuse. Un token sélectionne six des 256 experts routés ainsi que deux experts partagés, avec un mélange d’attention locale et globale. Les patchs d’image et les tokens audio discrets sont projetés dans la représentation partagée du décodeur. Les artefacts BF16 et NVFP4 distincts possèdent leur propre identité de précision.
Le producteur décrit un contexte de modèle de 1M, tandis que son service d’entraînement propose des configurations de 64K et 256K. Ces périmètres sont distincts et ne constituent pas des tailles de fenêtre interchangeables. Pour un contenu long, identifiez le contexte réellement utilisé par la tâche et laissez de la place pour la réflexion du modèle et la réponse finale. Le moteur partagé de mise en forme Inkling du producteur accepte une valeur d’effort finie allant de 0.0 inclus à 1.0 exclu, et utilise 0.9 si elle est omise. Zéro encourage une réponse directe sans imposer d’interdiction stricte de raisonnement.
La préparation des entrées est précise. La fiche recommande des dimensions d’image idéalement comprises entre 40 et 4096 pixels. L’audio doit être du WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.
Pour une question sur une image, précisez la caractéristique à examiner et son rapport avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires pour interpréter le contenu. Une tâche de code ou de recherche d’informations doit fournir la source pertinente ou les passages récupérés et le livrable souhaité.
Dans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des échanges afin que l’étape suivante puisse utiliser ce qui s’est passé. Le producteur publie le modèle pour la personnalisation et l’ajustement fin ; un checkpoint personnalisé séparément reste distinct du modèle Small d’origine.
Le fabricant relève des échecs occasionnels de suivi d’instructions, des affirmations factuelles non étayées et une dégradation lors des longues conversations, avec des performances inégales selon les langues et domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une sensibilité résiduelle à certains prompts formulés indirectement. Gardez les éléments sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un processus.
", "aboutText": "Inkling-Small est le plus petit modèle multimodal généraliste de Thinking Machines Lab. Sa fiche officielle indique 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio, et génère du texte pour les applications conversationnelles, de programmation, de raisonnement, augmentées par récupération et utilisant des outils. Il s’agit d’une édition distincte du plus grand modèle Inkling.\n\nL’architecture utilise 42 couches de décodeur et une structure principale d’experts parcimonieuse. Un token sélectionne six des 256 experts routés ainsi que deux experts partagés, avec un mélange d’attention locale et globale. Les patchs d’image et les tokens audio discrets sont projetés dans la représentation partagée du décodeur. Les artefacts BF16 et NVFP4 distincts possèdent leur propre identité de précision.\n\nLe producteur décrit un contexte de modèle de 1M, tandis que son service d’entraînement propose des configurations de 64K et 256K. Ces périmètres sont distincts et ne constituent pas des tailles de fenêtre interchangeables. Pour un contenu long, identifiez le contexte réellement utilisé par la tâche et laissez de la place pour la réflexion du modèle et la réponse finale. Le moteur partagé de mise en forme Inkling du producteur accepte une valeur d’effort finie allant de 0.0 inclus à 1.0 exclu, et utilise 0.9 si elle est omise. Zéro encourage une réponse directe sans imposer d’interdiction stricte de raisonnement.\n\nLa préparation des entrées est précise. La fiche recommande des dimensions d’image idéalement comprises entre 40 et 4096 pixels. L’audio doit être du WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.\n\nPour une question sur une image, précisez la caractéristique à examiner et son rapport avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires pour interpréter le contenu. Une tâche de code ou de recherche d’informations doit fournir la source pertinente ou les passages récupérés et le livrable souhaité.\n\nDans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des échanges afin que l’étape suivante puisse utiliser ce qui s’est passé. Le producteur publie le modèle pour la personnalisation et l’ajustement fin ; un checkpoint personnalisé séparément reste distinct du modèle Small d’origine.\n\nLe fabricant relève des échecs occasionnels de suivi d’instructions, des affirmations factuelles non étayées et une dégradation lors des longues conversations, avec des performances inégales selon les langues et domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une sensibilité résiduelle à certains prompts formulés indirectement. Gardez les éléments sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un processus.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.thinkingmachines/inkling-smallInkling-Small de Thinking Machines Lab est un modèle MoE de 276B paramètres, dont 12B actifs, pour le raisonnement sur du texte, des images et de l’audio. Il produit du texte, prend en charge les applications utilisant des outils et possède un contexte de modèle de 1M, distinct des contextes plus courts du service du producteur.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Inkling-Small est le plus petit modèle multimodal généraliste de Thinking Machines Lab. Sa fiche officielle indique 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio, et génère du texte pour les applications conversationnelles, de programmation, de raisonnement, augmentées par récupération et utilisant des outils. Il s’agit d’une édition distincte du plus grand modèle Inkling.
L’architecture utilise 42 couches de décodeur et une structure principale d’experts parcimonieuse. Un token sélectionne six des 256 experts routés ainsi que deux experts partagés, avec un mélange d’attention locale et globale. Les patchs d’image et les tokens audio discrets sont projetés dans la représentation partagée du décodeur. Les artefacts BF16 et NVFP4 distincts possèdent leur propre identité de précision.
Le producteur décrit un contexte de modèle de 1M, tandis que son service d’entraînement propose des configurations de 64K et 256K. Ces périmètres sont distincts et ne constituent pas des tailles de fenêtre interchangeables. Pour un contenu long, identifiez le contexte réellement utilisé par la tâche et laissez de la place pour la réflexion du modèle et la réponse finale. Le moteur partagé de mise en forme Inkling du producteur accepte une valeur d’effort finie allant de 0.0 inclus à 1.0 exclu, et utilise 0.9 si elle est omise. Zéro encourage une réponse directe sans imposer d’interdiction stricte de raisonnement.
La préparation des entrées est précise. La fiche recommande des dimensions d’image idéalement comprises entre 40 et 4096 pixels. L’audio doit être du WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.
Pour une question sur une image, précisez la caractéristique à examiner et son rapport avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires pour interpréter le contenu. Une tâche de code ou de recherche d’informations doit fournir la source pertinente ou les passages récupérés et le livrable souhaité.
Dans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des échanges afin que l’étape suivante puisse utiliser ce qui s’est passé. Le producteur publie le modèle pour la personnalisation et l’ajustement fin ; un checkpoint personnalisé séparément reste distinct du modèle Small d’origine.
Le fabricant relève des échecs occasionnels de suivi d’instructions, des affirmations factuelles non étayées et une dégradation lors des longues conversations, avec des performances inégales selon les langues et domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une sensibilité résiduelle à certains prompts formulés indirectement. Gardez les éléments sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un processus.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites thinkingmachines/inkling-small | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0009 / 1K tokens Sortie · Tokens en sortie $0.0024 / 1K tokens Entrée · Lecture du cache $0.0002 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0009 / 1K tokens Sortie · Tokens en sortie $0.0024 / 1K tokens Entrée · Lecture du cache $0.0002 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='thinkingmachines/inkling-small',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra thinkingmachines/inkling-small
Utilisez les chemins de méthode indiqués ci-dessus.
thinkingmachines/inkling-smallInkling-Small de Thinking Machines Lab est un modèle MoE de 276B paramètres, dont 12B actifs, pour le raisonnement sur du texte, des images et de l’audio. Il produit du texte, prend en charge les applications utilisant des outils et possède un contexte de modèle de 1M, distinct des contextes plus courts du service du producteur.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Inkling-Small est le plus petit modèle multimodal généraliste de Thinking Machines Lab. Sa fiche officielle indique 276 milliards de paramètres au total, dont 12B actifs. Il accepte du texte, des images et de l’audio, et génère du texte pour les applications conversationnelles, de programmation, de raisonnement, augmentées par récupération et utilisant des outils. Il s’agit d’une édition distincte du plus grand modèle Inkling.
L’architecture utilise 42 couches de décodeur et une structure principale d’experts parcimonieuse. Un token sélectionne six des 256 experts routés ainsi que deux experts partagés, avec un mélange d’attention locale et globale. Les patchs d’image et les tokens audio discrets sont projetés dans la représentation partagée du décodeur. Les artefacts BF16 et NVFP4 distincts possèdent leur propre identité de précision.
Le producteur décrit un contexte de modèle de 1M, tandis que son service d’entraînement propose des configurations de 64K et 256K. Ces périmètres sont distincts et ne constituent pas des tailles de fenêtre interchangeables. Pour un contenu long, identifiez le contexte réellement utilisé par la tâche et laissez de la place pour la réflexion du modèle et la réponse finale. Le moteur partagé de mise en forme Inkling du producteur accepte une valeur d’effort finie allant de 0.0 inclus à 1.0 exclu, et utilise 0.9 si elle est omise. Zéro encourage une réponse directe sans imposer d’interdiction stricte de raisonnement.
La préparation des entrées est précise. La fiche recommande des dimensions d’image idéalement comprises entre 40 et 4096 pixels. L’audio doit être du WAV à 16 kHz, idéalement de moins de deux minutes pour cette édition Small. Ce sont des recommandations d’entrée optimale, et non des promesses que le modèle rejette toute entrée qui s’en écarte. La sortie est du texte UTF-8, et non de la parole ou de la vidéo générée.
Pour une question sur une image, précisez la caractéristique à examiner et son rapport avec la tâche écrite. Pour l’audio, indiquez si le résultat utile est une explication du contenu, un résumé ou une autre analyse textuelle. Fournissez le vocabulaire et le contexte nécessaires pour interpréter le contenu. Une tâche de code ou de recherche d’informations doit fournir la source pertinente ou les passages récupérés et le livrable souhaité.
Dans une application connectée à des outils, le modèle propose des interactions et l’application retourne leurs résultats. Conservez ces observations au fil des échanges afin que l’étape suivante puisse utiliser ce qui s’est passé. Le producteur publie le modèle pour la personnalisation et l’ajustement fin ; un checkpoint personnalisé séparément reste distinct du modèle Small d’origine.
Le fabricant relève des échecs occasionnels de suivi d’instructions, des affirmations factuelles non étayées et une dégradation lors des longues conversations, avec des performances inégales selon les langues et domaines moins représentés. Il décrit aussi l’évaluation de la sécurité multimodale et une sensibilité résiduelle à certains prompts formulés indirectement. Gardez les éléments sources et les contrôles de sortie propres à l’application disponibles lorsque vous utilisez le résultat du modèle dans un processus.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites thinkingmachines/inkling-small | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0009 / 1K tokens Sortie · Tokens en sortie $0.0024 / 1K tokens Entrée · Lecture du cache $0.0002 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0009 / 1K tokens Sortie · Tokens en sortie $0.0024 / 1K tokens Entrée · Lecture du cache $0.0002 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "thinkingmachines/inkling-small",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling-small', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra thinkingmachines/inkling-small
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Answer from retrieved training material\n\nAnswer a new employee using only these retrieved passages. [DOC1] Draft reports may be edited by their author. [DOC2] Approved reports are locked; corrections create a new version. Question: 'I found a typo in an approved report. Can I edit it directly?' Give a concise answer, the supporting document label and one appropriate next step without claiming a change occurred.A short source-grounded answer with DOC2 support and a proposed version-based correction step.Check the approved/draft distinction is preserved and no lock is bypassed in the suggestion.