Thinking Machines: Inkling Small (free)

Inkling-Small 是 Thinking Machines Lab 較小的開放權重多模態模型，適用於推理、程式設計、對話與使用工具的應用。它接收文字、影像與音訊，並產生文字。其混合專家設計總參數為 2,760 億、啟用參數為 120 億；相較之下，Inkling 總參數為 9,750 億、啟用參數為 410 億。Small 是獨立發布的模型，效率與能力的平衡不同，並非 Inkling 的短輸出模式。

程式調查請提供受影響檔案、觀察行為與所需修改，再要求找出負責路徑並進行聚焦修正。實用的最終成品包括提議的修改，以及連接的應用程式實際執行檢查所得的證據。客服助理任務請提供相關政策與對話事實，要求產生下一次回答或找出缺少的問題。模型預定用途包括程式助理、聊天機器人、檢索增強回答與使用應用程式工具的代理系統。

上下文視窗最多為一百萬 tokens。整理長篇儲存庫或文件集時，使用檔名、章節標籤與清楚的問題，保留後續階段必須使用的事實。大型視窗有助於比較相距很遠的資訊，但所需結果仍應具體：程式碼修改、以來源為依據的說明，或擷取欄位。新資訊或私人資訊應放在所附證據或回傳的檢索結果中，而非假定已包含在模型學得的知識裡。

思考強度可以控制。原廠系列指南使用連續值，範圍從包含 0.0 到小於 1.0；起始預設 none、minimal、low、medium、high 與 xhigh，分別對應 0.0、0.1、0.2、0.7、0.9 與 0.99。原廠呈現器預設為 high。較高強度可能促進更多推理，也可能需要較大的生成預算，但不保證回答更長或更準確。零值設定會讓模型傾向不推理，而非強制完全沒有推理。請依任務選擇強度，並保持最終輸出要求清楚。

影像可支援視覺問答、圖表或示意圖解讀，以及根據可見資訊進行數學推理。為取得良好表現，影像尺寸請介於 40 至 4,096 像素。保留可讀標籤，並解釋重要細節。使用已設定的 Python 工具時，模型可將視覺推理與文件或圖表的裁切、放大及程式化檢查結合。這些操作需由連接的工具環境執行；書面回答應使用工具回傳的觀察。

音訊輸入為 16 kHz 取樣的 WAV，為取得最佳表現，錄音最好短於兩分鐘。這是準備建議，並非硬性的時長保證。使用相關口述問題或短片段，說明書面結果應轉錄語音、回答錄音問題，或將內容與其他所附素材連結。原生回應是文字，而非生成語音。Inkling 對較長音訊的獨立建議，不應套用到 Small 版本。

使用工具的工作流程，需要有意義的工具說明、引數定義，以及應用程式執行操作後的結果。將查詢結果、計算或檔案觀察與模型提議動作區分開來。若圖表有差異，請指出相關標籤，透過計算工具檢查所附數值，再要求引用那些數值解釋。模型針對多種程式設計與代理執行框架訓練，因此應描述周邊任務與工具，而非將它們留為隱含條件。

開放權重支援模型研究、微調與下游產品整合。Inkling-Small 發布版承接較早的預覽檢查點，並加入代理式程式設計的進一步訓練；最終模型與該預覽版應保有各自身分。專門擷取或回答風格的客製化，使用代表性範例與明確目標行為。一般提示則為目前請求提供上下文，不會建立或切換到新訓練的模型。

實用的結果檢查步驟，會核對提議的程式碼修改、轉錄、擷取事實或書面回答是否符合所附證據。請指定不確定性與缺少資訊應如何呈現，尤其是來源不完整的預測或事實回答。原廠以真實問題的適當評分規則進行強化學習，訓練 Inkling-Small 的預測校準能力，目標是表達與可用證據相符的信心。將素材及工具觀察與成品一併保留，讓追問能修訂單一問題，而不失去原始任務。Inkling-Small 的一般多語與多模態能力，與專用語音生成器或保證執行外部動作的服務不同。