inclusionAI: Ling 3.0 Flash

A Ling 3.0 Flash az inclusionAI szövegből szöveget előállító modellje. Közzétett architektúrája szakértőkeverék, összesen 124 milliárd paraméterrel és tokenenként körülbelül 5,1 milliárd aktív paraméterrel. Válassza az inclusionai/ling-3.0-flash modellt a POST /v1/chat/completions végponton model mezővel és messages tömbbel. Az utasítások, a forrásanyag és a korábbi beszélgetési fordulók az üzenetek szövegébe tartoznak.

Célzott prompttal alakítsa a megadott anyagot konkrét eredménnyé. Ügyfélválaszhoz adja meg az ügyfél kérdését és a felhasználandó termék- vagy szabályzatszöveget, majd határozza meg a hangnemet és a következő lépést. Dokumentum-összefoglalóhoz nevezze meg a szükséges részeket, például a döntéseket, a megoldatlan kérdéseket és a teendőket. Adatkinyeréshez határozza meg a kért mezőket és a forrásból hiányzó tények jelölését. Kódfeldolgozáshoz mellékelje a releváns függvényt vagy fájlrészletet, és kérjen magyarázatot, módosítási javaslatot vagy ellenőrzést egy kifejezett követelményhez mérten.

A közzétett kontextusablak 262 144 token, a modellhez felsorolt válaszgenerálási korlát pedig legfeljebb 32 768 token. A forrásszöveget, az utasításokat, a beszélgetési előzményeket és a kért választ együtt tervezze meg. A kért kimeneti keretet a max_tokens segítségével állítsa be. Ha azt szeretné, hogy a válasz egy dokumentum tartalmára épüljön, annak tényleges szövegét kell megadnia; ha egy kérés több részletet egyesít, hivatkozzon kifejezetten a releváns szakaszokra.

A támogatott paraméterek listája függvényhíváshoz tartalmazza a tools és tool_choice mezőket. A kérésben határozza meg az elérhető függvényeket és argumentumaik leírását. Az alkalmazás ellenőrzi a visszaadott hívást, végrehajtja a kiválasztott függvényt, és annak eredményét visszaadja a beszélgetésbe, mielőtt következő választ kérne. Egy ügyfélszolgálati munkafolyamat például elérhetővé tehet egy szűken meghatározott rendeléslekérdezést, és a visszaadott tényekre építheti a választervezetet. Az eszközök eredményeit tartsa a megfelelő beszélgetési fordulóhoz kapcsolva, hogy a modell megkülönböztethesse őket a felhasználó eredeti kérésétől.

A modell támogatja a response_format mezőt JSON-kimenethez, JSON-séma kikényszerítése nélkül. Adja meg a kívánt mezőket, és felhasználás előtt az alkalmazásban ellenőrizze a visszaadott objektumot. További közzétett vezérlők a temperature, top_p, top_k, min_p, stop, seed, valamint a felsorolt ismétlési, gyakorisági és jelenléti büntetések. A paraméterlista reasoning és include_reasoning mezőt is tartalmaz; a támogatott megadási módot a kérés specifikációjából válassza ki, és ne feltételezzen értékeket más kiadás alapján.

A Chat Completions teljes választ vagy folyamatosan továbbított szöveget adhat vissza. Teljes válasznál olvassa ki a visszaadott üzenettartalmat, és őrizze meg a válasz choices elemeit és usage adatait. Folyamatos átvitel esetén állítsa össze a változásrészleteket, mielőtt a választ befejezettnek tekinti, és őrizzen meg minden visszaadott eszközhívást az argumentumaival együtt. Az eredmény szöveg vagy függvényhívási kérés az alkalmazás következő lépéséhez; a végrehajtás és a kész válasz felhasználása a környező alkalmazás feladata.