Thinking Machines: Inkling (free)

Inkling は、推論、コーディング、会話、エージェント型アプリケーション向けの Thinking Machines Lab の重み公開型マルチモーダルモデルです。テキスト、画像、音声を受け取り、テキストを返します。Mixture-of-Experts 設計は、総パラメータ数 975B、アクティブパラメータ数 41Bで、ファミリーの大きい側のモデルです。Inkling-Small は、総パラメータ数 276B、アクティブパラメータ数 12Bの別モデルであり、Inkling の回答長を変える設定ではありません。

規模の大きいコード作業では、関連するリポジトリの資料、観察した挙動、希望する結果を渡してください。原因となる経路の追跡、変更の提案、連携環境で実際に実行した確認の根拠の報告を求めます。文書比較では、原文の節にラベルを付け、重要な違い、その裏付けとなる根拠、未回答の問いを求めてください。想定用途には、コーディング支援、チャットボット、検索拡張生成、ツールを使うエージェントがあり、最終結果はそれを利用するアプリケーションに合わせて整えます。

Inkling は、最大 100 万トークンのコンテキストに対応します。その領域を使い、大量の原資料と会話の重要な事実をまとめつつ、具体的な質問に沿って整理してください。出典の事実と仮定を区別し、完成した文章の成果物を出力する余地を残します。大きなコンテキストは広範な資料群をまたぐ作業に役立ちますが、現在の情報が渡されていないシステムを、回答からリアルタイムで把握できるようになるわけではありません。

思考量は、0.0 以上 1.0 未満の連続的な制御値です。開発元の初期プリセットは none 0.0、minimal 0.1、low 0.2、medium 0.7、high 0.9、xhigh 0.99 で、レンダラーのデフォルトは high です。思考量と生成トークンの予算は独立しています。思考量を高めると推論を促し、最終回答の前により多くの余地が必要になる場合があります。一方 none は、厳密な制限を課さず、推論しない方向に条件付けます。作業に合う値を選び、期待する成果物と完了条件を明示してください。

視覚入力は、画像の説明、見える内容への質問、グラフ、図、数学的な視覚推論に対応します。良好な性能を得るには、各辺の寸法が 40〜4,096 ピクセルの画像を使ってください。関連ラベルや図の背景が読めるように保ちます。Inkling は、設定された Python ツールで画像をプログラム的に拡大、切り抜き、調査し、視覚的な観察をコードによる推論と結び付けられます。有用なグラフの回答は、切り抜きや計算が提案されたから実施されたと仮定せず、観察した値を残し、それがどう結論を支えるかを示します。

音声入力には 16 kHz でサンプリングした WAV を使い、開発元は最適な性能のために 20 分以内の録音を推奨しています。これは準備に関する推奨です。Inkling は、発話の文字起こし、音声による指示への対応、録音についての質問への回答、長めの音声に基づく推論を行えます。関連する録音とともに、文章の質問と、解釈に必要な参照資料を渡してください。会議に関する成果物では、発話された事実と、後の要約や解釈を分けられます。モデルの出力はテキストなので、音声理解は音声による返答の合成とは異なります。

ツールを使う作業では、利用可能な操作と引数を説明し、アプリケーションが返した実際の観察結果を保持してください。検索結果は最新の根拠を、計算は数値処理を、ファイル操作は確認対象の内容を提供できます。モデルが提案する操作と、実行された結果は、会話の別々の要素です。特にコード変更やアプリケーションの次の手順を提案する場合は、最終応答をそれらの観察結果につなげてください。

Inkling は、答えが確定していない場合に不確かさを表すことを含め、確信度の校正と指示追従を学習しています。根拠に基づく予測や分析では、文章の結果に仮定、根拠、未解決の条件を示すよう求めてください。抽出では、すべての項目に作り出した事実を入れさせず、値が存在しない場合の表し方を定めます。これらの指示は、確信や長い推論過程を正しさの証明とみなさずに、確認に役立つ結果を得るためのものです。

公開された重みは、ファインチューニングと下流製品への連携に使えます。専門化したモデルは、代表的な例と目標の挙動から開発する一方、通常の推論リクエストは現在の作業のコンテキストを渡します。開発元はカスタマイズを別のワークフローとして実演しています。通常の回答で、知らないうちに新しい重みに切り替わることはありません。最終成果物とともに元の根拠と指定した制約を保持し、追加のやり取りで 1 つの事実の修正、文面の調整、別のコード経路の調査を行っても、同じ作業として一貫させられるようにしてください。