Inkling ist das grosse allgemeine multimodale Modell von Thinking Machines Lab. Die offizielle Spezifikation nennt insgesamt 975 Milliarden Parameter und 41B aktive Parameter. Es nimmt Text, Bilder und Audio entgegen und erzeugt UTF-8-Text für Gespräche, Programmierung, anweisungsbasierte Aufgaben, retrievalgestützte Arbeit und werkzeugverbundene Anwendungen. Es bleibt von Inkling-Small und separat angepassten Checkpoints getrennt.
Das Modell verwendet 66 Decoderschichten; jedes Token wird an sechs von 256 Experten plus zwei gemeinsame Experten weitergeleitet. Lokale und globale Attention werden kombiniert. Die Herstellerveröffentlichung beschreibt Vortraining auf 45 Billionen Token aus Text, Bildern, Audio und Video mit weiterer Datenverarbeitung und anschliessendem Post-Training. Separate Veröffentlichungen in BF16 und NVFP4 sind unterschiedliche Artefakte mit eigener Rechengenauigkeit.
Das Modell unterstützt einen Kontext von bis zu 1M, während der Trainingsdienst des Herstellers Konfigurationen mit 64K und 256K anbietet. Ein- und Ausgabe müssen in den für die Aufgabe verwendeten Kontext passen, mit Platz für Reasoning und endgültige Antwort. Eine Aufgabe mit langem Kontext sollte die Frage und das sie beeinflussende Material benennen, statt allen verfügbaren Text als gleich wichtig zu behandeln.
Der Thinking-Aufwand ist im Renderer des Herstellers kontinuierlich: ein endlicher Wert von 0.0 bis ausschliesslich 1.0. Benannte Ausgangspunkte ordnen none dem Wert 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 und xhigh 0.99 zu; der Renderer verwendet standardmässig high. Null fördert eine Antwort ohne Reasoning, erzwingt aber kein hartes Verbot. Aufwand und Generierungslänge sind getrennte Steuerungen; Thinking muss deshalb Platz für die endgültige Antwort lassen.
Für Bilder empfiehlt die Modellkarte Abmessungen idealerweise zwischen 40 und 4096 Pixeln. Audio sollte WAV mit 16 kHz sein und idealerweise kürzer als zwanzig Minuten. Dies sind Empfehlungen für optimale Eingaben. Geben Sie Bild oder Aufnahme mit einer klaren Frage und dem zum Verständnis nötigen Wortschatz oder Hintergrund vor. Die Textausgabe kann das Material erklären oder relevante Befunde ordnen; sie ist keine erzeugte Sprache und kein Video.
Geben Sie für Code- oder Agentenaufgaben Quelle, Ziel und Beobachtungen aktueller Prüfungen vor. Das Modell schlägt Werkzeuginteraktionen vor; die Anwendung führt sie aus und gibt Ergebnisse zurück. Bewahren Sie diesen Verlauf, damit Folgeschritte tatsächliche Belege verwenden. Ein hilfreiches Endergebnis nennt die vorgeschlagene Änderung oder Schlussfolgerung und das, wofür noch eine Beobachtung als Nachweis benötigt wird.
Der Hersteller veröffentlicht Inkling für Forschung und Anpassung und dokumentiert multimodale Sicherheitsbewertungen sowie verbleibende Einschränkungen, darunter ungleichmässige Sprachabdeckung und Qualitätsverlust in langen Gesprächen. Halten Sie ein angepasstes Modell von seinem ursprünglichen Checkpoint getrennt und bewerten Sie den tatsächlichen Text oder Code anhand der Belege und Anforderungen der Aufgabe.
", "aboutText": "Inkling ist das grosse allgemeine multimodale Modell von Thinking Machines Lab. Die offizielle Spezifikation nennt insgesamt 975 Milliarden Parameter und 41B aktive Parameter. Es nimmt Text, Bilder und Audio entgegen und erzeugt UTF-8-Text für Gespräche, Programmierung, anweisungsbasierte Aufgaben, retrievalgestützte Arbeit und werkzeugverbundene Anwendungen. Es bleibt von Inkling-Small und separat angepassten Checkpoints getrennt.\n\nDas Modell verwendet 66 Decoderschichten; jedes Token wird an sechs von 256 Experten plus zwei gemeinsame Experten weitergeleitet. Lokale und globale Attention werden kombiniert. Die Herstellerveröffentlichung beschreibt Vortraining auf 45 Billionen Token aus Text, Bildern, Audio und Video mit weiterer Datenverarbeitung und anschliessendem Post-Training. Separate Veröffentlichungen in BF16 und NVFP4 sind unterschiedliche Artefakte mit eigener Rechengenauigkeit.\n\nDas Modell unterstützt einen Kontext von bis zu 1M, während der Trainingsdienst des Herstellers Konfigurationen mit 64K und 256K anbietet. Ein- und Ausgabe müssen in den für die Aufgabe verwendeten Kontext passen, mit Platz für Reasoning und endgültige Antwort. Eine Aufgabe mit langem Kontext sollte die Frage und das sie beeinflussende Material benennen, statt allen verfügbaren Text als gleich wichtig zu behandeln.\n\nDer Thinking-Aufwand ist im Renderer des Herstellers kontinuierlich: ein endlicher Wert von 0.0 bis ausschliesslich 1.0. Benannte Ausgangspunkte ordnen none dem Wert 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 und xhigh 0.99 zu; der Renderer verwendet standardmässig high. Null fördert eine Antwort ohne Reasoning, erzwingt aber kein hartes Verbot. Aufwand und Generierungslänge sind getrennte Steuerungen; Thinking muss deshalb Platz für die endgültige Antwort lassen.\n\nFür Bilder empfiehlt die Modellkarte Abmessungen idealerweise zwischen 40 und 4096 Pixeln. Audio sollte WAV mit 16 kHz sein und idealerweise kürzer als zwanzig Minuten. Dies sind Empfehlungen für optimale Eingaben. Geben Sie Bild oder Aufnahme mit einer klaren Frage und dem zum Verständnis nötigen Wortschatz oder Hintergrund vor. Die Textausgabe kann das Material erklären oder relevante Befunde ordnen; sie ist keine erzeugte Sprache und kein Video.\n\nGeben Sie für Code- oder Agentenaufgaben Quelle, Ziel und Beobachtungen aktueller Prüfungen vor. Das Modell schlägt Werkzeuginteraktionen vor; die Anwendung führt sie aus und gibt Ergebnisse zurück. Bewahren Sie diesen Verlauf, damit Folgeschritte tatsächliche Belege verwenden. Ein hilfreiches Endergebnis nennt die vorgeschlagene Änderung oder Schlussfolgerung und das, wofür noch eine Beobachtung als Nachweis benötigt wird.\n\nDer Hersteller veröffentlicht Inkling für Forschung und Anpassung und dokumentiert multimodale Sicherheitsbewertungen sowie verbleibende Einschränkungen, darunter ungleichmässige Sprachabdeckung und Qualitätsverlust in langen Gesprächen. Halten Sie ein angepasstes Modell von seinem ursprünglichen Checkpoint getrennt und bewerten Sie den tatsächlichen Text oder Code anhand der Belege und Anforderungen der Aufgabe.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Assess a code proposal from a check result\n\nReview this Python proposal and supplied check: def normalize(name): return name.strip().lower(). Requirement: preserve letter case but remove surrounding spaces. Check result C1: normalize(' Ada ') returned 'ada', expected 'Ada'. Return the smallest proposed correction, cite C1 and add a second boundary test. Do not claim that you ran either test.A focused code correction and two source-connected test cases, with execution status explicit.The proposal must remove the lowercasing while preserving whitespace trimming.thinkingmachines/inklingInkling von Thinking Machines Lab ist ein MoE-Modell mit 975B Parametern und 41B aktiven Parametern für Schlussfolgerungen aus Text, Bildern und Audio. Es erzeugt Text, unterstützt werkzeugorientierte und Programmieranwendungen und bietet stufenlos steuerbaren Denkaufwand mit einem Modellkontext von 1M.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Inkling ist das grosse allgemeine multimodale Modell von Thinking Machines Lab. Die offizielle Spezifikation nennt insgesamt 975 Milliarden Parameter und 41B aktive Parameter. Es nimmt Text, Bilder und Audio entgegen und erzeugt UTF-8-Text für Gespräche, Programmierung, anweisungsbasierte Aufgaben, retrievalgestützte Arbeit und werkzeugverbundene Anwendungen. Es bleibt von Inkling-Small und separat angepassten Checkpoints getrennt.
Das Modell verwendet 66 Decoderschichten; jedes Token wird an sechs von 256 Experten plus zwei gemeinsame Experten weitergeleitet. Lokale und globale Attention werden kombiniert. Die Herstellerveröffentlichung beschreibt Vortraining auf 45 Billionen Token aus Text, Bildern, Audio und Video mit weiterer Datenverarbeitung und anschliessendem Post-Training. Separate Veröffentlichungen in BF16 und NVFP4 sind unterschiedliche Artefakte mit eigener Rechengenauigkeit.
Das Modell unterstützt einen Kontext von bis zu 1M, während der Trainingsdienst des Herstellers Konfigurationen mit 64K und 256K anbietet. Ein- und Ausgabe müssen in den für die Aufgabe verwendeten Kontext passen, mit Platz für Reasoning und endgültige Antwort. Eine Aufgabe mit langem Kontext sollte die Frage und das sie beeinflussende Material benennen, statt allen verfügbaren Text als gleich wichtig zu behandeln.
Der Thinking-Aufwand ist im Renderer des Herstellers kontinuierlich: ein endlicher Wert von 0.0 bis ausschliesslich 1.0. Benannte Ausgangspunkte ordnen none dem Wert 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 und xhigh 0.99 zu; der Renderer verwendet standardmässig high. Null fördert eine Antwort ohne Reasoning, erzwingt aber kein hartes Verbot. Aufwand und Generierungslänge sind getrennte Steuerungen; Thinking muss deshalb Platz für die endgültige Antwort lassen.
Für Bilder empfiehlt die Modellkarte Abmessungen idealerweise zwischen 40 und 4096 Pixeln. Audio sollte WAV mit 16 kHz sein und idealerweise kürzer als zwanzig Minuten. Dies sind Empfehlungen für optimale Eingaben. Geben Sie Bild oder Aufnahme mit einer klaren Frage und dem zum Verständnis nötigen Wortschatz oder Hintergrund vor. Die Textausgabe kann das Material erklären oder relevante Befunde ordnen; sie ist keine erzeugte Sprache und kein Video.
Geben Sie für Code- oder Agentenaufgaben Quelle, Ziel und Beobachtungen aktueller Prüfungen vor. Das Modell schlägt Werkzeuginteraktionen vor; die Anwendung führt sie aus und gibt Ergebnisse zurück. Bewahren Sie diesen Verlauf, damit Folgeschritte tatsächliche Belege verwenden. Ein hilfreiches Endergebnis nennt die vorgeschlagene Änderung oder Schlussfolgerung und das, wofür noch eine Beobachtung als Nachweis benötigt wird.
Der Hersteller veröffentlicht Inkling für Forschung und Anpassung und dokumentiert multimodale Sicherheitsbewertungen sowie verbleibende Einschränkungen, darunter ungleichmässige Sprachabdeckung und Qualitätsverlust in langen Gesprächen. Halten Sie ein angepasstes Modell von seinem ursprünglichen Checkpoint getrennt und bewerten Sie den tatsächlichen Text oder Code anhand der Belege und Anforderungen der Aufgabe.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits thinkingmachines/inkling | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0019 / 1K Tokens Ausgabe · Ausgabetoken $0.0081 / 1K Tokens Eingabe · Cache lesen $0.00032 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0019 / 1K Tokens Ausgabe · Ausgabetoken $0.0081 / 1K Tokens Eingabe · Cache lesen $0.00032 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='thinkingmachines/inkling',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='thinkingmachines/inkling',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra thinkingmachines/inkling
Verwenden Sie die oben angezeigten Methodenpfade.
thinkingmachines/inklingInkling von Thinking Machines Lab ist ein MoE-Modell mit 975B Parametern und 41B aktiven Parametern für Schlussfolgerungen aus Text, Bildern und Audio. Es erzeugt Text, unterstützt werkzeugorientierte und Programmieranwendungen und bietet stufenlos steuerbaren Denkaufwand mit einem Modellkontext von 1M.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Inkling ist das grosse allgemeine multimodale Modell von Thinking Machines Lab. Die offizielle Spezifikation nennt insgesamt 975 Milliarden Parameter und 41B aktive Parameter. Es nimmt Text, Bilder und Audio entgegen und erzeugt UTF-8-Text für Gespräche, Programmierung, anweisungsbasierte Aufgaben, retrievalgestützte Arbeit und werkzeugverbundene Anwendungen. Es bleibt von Inkling-Small und separat angepassten Checkpoints getrennt.
Das Modell verwendet 66 Decoderschichten; jedes Token wird an sechs von 256 Experten plus zwei gemeinsame Experten weitergeleitet. Lokale und globale Attention werden kombiniert. Die Herstellerveröffentlichung beschreibt Vortraining auf 45 Billionen Token aus Text, Bildern, Audio und Video mit weiterer Datenverarbeitung und anschliessendem Post-Training. Separate Veröffentlichungen in BF16 und NVFP4 sind unterschiedliche Artefakte mit eigener Rechengenauigkeit.
Das Modell unterstützt einen Kontext von bis zu 1M, während der Trainingsdienst des Herstellers Konfigurationen mit 64K und 256K anbietet. Ein- und Ausgabe müssen in den für die Aufgabe verwendeten Kontext passen, mit Platz für Reasoning und endgültige Antwort. Eine Aufgabe mit langem Kontext sollte die Frage und das sie beeinflussende Material benennen, statt allen verfügbaren Text als gleich wichtig zu behandeln.
Der Thinking-Aufwand ist im Renderer des Herstellers kontinuierlich: ein endlicher Wert von 0.0 bis ausschliesslich 1.0. Benannte Ausgangspunkte ordnen none dem Wert 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 und xhigh 0.99 zu; der Renderer verwendet standardmässig high. Null fördert eine Antwort ohne Reasoning, erzwingt aber kein hartes Verbot. Aufwand und Generierungslänge sind getrennte Steuerungen; Thinking muss deshalb Platz für die endgültige Antwort lassen.
Für Bilder empfiehlt die Modellkarte Abmessungen idealerweise zwischen 40 und 4096 Pixeln. Audio sollte WAV mit 16 kHz sein und idealerweise kürzer als zwanzig Minuten. Dies sind Empfehlungen für optimale Eingaben. Geben Sie Bild oder Aufnahme mit einer klaren Frage und dem zum Verständnis nötigen Wortschatz oder Hintergrund vor. Die Textausgabe kann das Material erklären oder relevante Befunde ordnen; sie ist keine erzeugte Sprache und kein Video.
Geben Sie für Code- oder Agentenaufgaben Quelle, Ziel und Beobachtungen aktueller Prüfungen vor. Das Modell schlägt Werkzeuginteraktionen vor; die Anwendung führt sie aus und gibt Ergebnisse zurück. Bewahren Sie diesen Verlauf, damit Folgeschritte tatsächliche Belege verwenden. Ein hilfreiches Endergebnis nennt die vorgeschlagene Änderung oder Schlussfolgerung und das, wofür noch eine Beobachtung als Nachweis benötigt wird.
Der Hersteller veröffentlicht Inkling für Forschung und Anpassung und dokumentiert multimodale Sicherheitsbewertungen sowie verbleibende Einschränkungen, darunter ungleichmässige Sprachabdeckung und Qualitätsverlust in langen Gesprächen. Halten Sie ein angepasstes Modell von seinem ursprünglichen Checkpoint getrennt und bewerten Sie den tatsächlichen Text oder Code anhand der Belege und Anforderungen der Aufgabe.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits thinkingmachines/inkling | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0019 / 1K Tokens Ausgabe · Ausgabetoken $0.0081 / 1K Tokens Eingabe · Cache lesen $0.00032 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0019 / 1K Tokens Ausgabe · Ausgabetoken $0.0081 / 1K Tokens Eingabe · Cache lesen $0.00032 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "thinkingmachines/inkling",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'thinkingmachines/inkling', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra thinkingmachines/inkling
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Assess a code proposal from a check result\n\nReview this Python proposal and supplied check: def normalize(name): return name.strip().lower(). Requirement: preserve letter case but remove surrounding spaces. Check result C1: normalize(' Ada ') returned 'ada', expected 'Ada'. Return the smallest proposed correction, cite C1 and add a second boundary test. Do not claim that you ran either test.A focused code correction and two source-connected test cases, with execution status explicit.The proposal must remove the lowercasing while preserving whitespace trimming.