inclusionAI: Ling 3.0 Flash

Ling 3.0 Flashは、inclusionAIのテキストからテキストを生成するモデルです。公開されているアーキテクチャはMixture of Expertsで、総パラメータ数は1,240億、トークンあたりのアクティブパラメータ数は約51億です。modelとmessages配列を付けたPOST /v1/chat/completionsでinclusionai/ling-3.0-flashを選択します。指示、元資料、以前の会話はメッセージのテキストに含めます。

焦点を絞ったプロンプトで、提供資料から具体的な成果物を作成します。顧客への返信では、顧客の質問と、回答に使うべき商品や方針の文章を渡し、口調と次の行動を指定します。文書の要約では、決定事項、未解決の質問、実行項目など、必要な節を示します。抽出では、求めるフィールドと、元資料にない事実の表現方法を定義します。コードを扱う場合は、関連する関数やファイルの抜粋を含め、明示した要件に照らした解説、変更案、レビューを要求してください。

公開コンテキストウィンドウは262,144トークンで、生成トークンは最大32,768と記載されています。元のテキスト、指示、会話履歴、要求する出力を合わせてトークン枠に収めます。要求する出力のトークン枠はmax_tokensで設定します。文書内容に基づく回答を求める場合は実際のテキストを渡してください。複数の文章を組み合わせたリクエストでは、関連する節を明示します。

対応パラメータには、関数呼び出し用のtoolsとtool_choiceが含まれます。利用可能な関数とその引数の説明をリクエストで定義します。アプリケーションは、返された呼び出しを検証し、選択された関数を実行して、その結果を会話に渡してから、続きの回答を要求します。たとえば、サポートのワークフローで用途を限定した注文検索を公開し、返された事実を返信の下書きに使えます。モデルがユーザーの元の依頼と区別できるよう、ツールの結果を正しい会話ターンに結び付けてください。

モデルはJSON出力用のresponse_formatに対応しますが、JSONスキーマによる強制はありません。必要なフィールドを示し、使用前にアプリケーションで返されたオブジェクトを検証してください。ほかの公開設定にはtemperature、top_p、top_k、min_p、stop、seedと、記載された繰り返し、頻度、出現に対するペナルティがあります。パラメータ一覧にはreasoningとinclude_reasoningも含まれます。別の版の値を前提にせず、リクエスト仕様に記載された対応形式を選択してください。

Chat Completionsは、完全な応答またはストリーミングテキストを返せます。完全な回答では、返されたメッセージ内容を読み取り、応答のchoicesとusageを保持します。ストリーミングでは、回答を完了とみなす前に差分を組み立て、返されたツール呼び出しと引数も保持します。結果はテキスト、または次のアプリケーション処理のための関数呼び出し要求です。実行と完成した回答の利用は、周囲のアプリケーションが担います。