Az Inkling-Small a Thinking Machines Lab kisebb, nyílt súlyú multimodális modellje következtetéshez, programozáshoz, beszélgetéshez és eszközhasználó alkalmazásokhoz. Szöveget, képeket és hangot fogad, és szöveget állít elő. Mixture-of-Experts kialakítása összesen 276 milliárd és 12 milliárd aktív paraméterrel rendelkezik, szemben az Inkling 975 milliárd összes és 41 milliárd aktív paraméterével. A Small külön kiadott modell, eltérő hatékonysági és képességbeli egyensúllyal, nem az Inkling rövidebb kimeneti módja.
Kódvizsgálatnál add meg az érintett fájlokat, a megfigyelt viselkedést és a szükséges módosítást, majd kérd a felelős végrehajtási útvonal azonosítását és egy célzott javítást. A hasznos végső anyag tartalmazza a javasolt szerkesztést és a csatlakoztatott alkalmazás által ténylegesen futtatott ellenőrzések bizonyítékait. Támogatási asszisztensnél add meg a releváns szabályzatot és beszélgetési tényeket, és kérd a következő választ vagy a hiányzó kérdést. A modell tervezett felhasználásai közé programozási asszisztensek, chatbotok, visszakereséssel kiegészített válaszok és alkalmazáseszközökkel működő ágensrendszerek tartoznak.
A kontextusablak legfeljebb egymillió token. A hosszú kódtárat vagy dokumentumgyűjteményt fájlnevekkel, szakaszjelölésekkel és világos kérdéssel rendezd el, megőrizve azokat a tényeket, amelyeket egy későbbi szakasznak használnia kell. A nagy ablak távoli információdarabok összehasonlításához hasznos, de a kívánt eredmény maradjon konkrét: kódmódosítás, forrásalapú magyarázat vagy kinyert mezők. Az új vagy magánjellegű információnak a megadott bizonyítékban vagy a visszaadott visszakeresési eredményekben van a helye, és nem szabad a tanult tudás részének feltételezni.
A gondolkodási ráfordítás szabályozható. A készítő családútmutatója folyamatos értékeket használ 0.0-tól, ezt is beleértve, 1.0 alatti értékig; a none, minimal, low, medium, high és xhigh induló előbeállítások rendre 0.0, 0.1, 0.2, 0.7, 0.9 és 0.99 értéknek felelnek meg. A készítő megjelenítőjének alapértelmezése a high. A nagyobb ráfordítás több következtetést ösztönözhet, és nagyobb generálási keretet igényelhet, de nem garantál hosszabb vagy pontosabb választ. A nulla beállítás a következtetés mellőzése felé tereli a modellt, nem kényszeríti ki annak szigorú hiányát. A ráfordítást a feladathoz válaszd, és tartsd egyértelműen a végső kimeneti követelményt.
A képek képi kérdéseket, diagram- vagy ábraértelmezést és látható információból végzett matematikai következtetést támogathatnak. Jó teljesítményhez használj olyan képeket, amelyek méretei 40 és 4 096 pixel között vannak. Őrizd meg az olvasható feliratokat, és magyarázd el, melyik részlet fontos. Konfigurált Python-eszközzel a modell a képi következtetést egy dokumentum vagy diagram kivágásával, nagyításával és programozott vizsgálatával kapcsolhatja össze. Ezeket a műveleteket a csatlakoztatott eszközkörnyezetnek kell végrehajtania; az írásos válasz az onnan visszaadott megfigyeléseket használja.
A hangbemenet 16 kHz-en mintavételezett WAV, az optimális teljesítményhez lehetőleg két percnél rövidebb felvételekkel. Ez előkészítési ajánlás, nem szigorú időtartam-garancia. Használj releváns szóbeli kérdést vagy rövid klipet, és határozd meg, hogy az írásos eredmény beszédátirat legyen, a felvételre vonatkozó kérdésre válaszoljon, vagy annak tartalmát más megadott anyaghoz kapcsolja. A natív válasz szöveg, nem generált beszéd. Az Inkling hosszabb hangra vonatkozó külön ajánlását nem szabad a Small kiadásra átvinni.
Az eszközhasználó munkafolyamatok érdemi eszközleírásokat, argumentumdefiníciókat és az alkalmazás által végrehajtott műveletek eredményeit igénylik. Egy lekérdezési eredményt, számítást vagy fájlmegfigyelést tarts külön a modell javasolt műveletétől. Diagrameltérésnél nevezd meg a releváns feliratokat, számítási eszközzel vizsgáld meg a megadott értékeket, és kérj ezekre az értékekre hivatkozó magyarázatot. A modellt változatos programozási és ágens-vezérlőkörnyezetekhez tanították, ezért a környező feladatot és eszközöket le kell írni, nem hallgatólagosan hagyni.
A nyílt súlyok modellkutatást, finomhangolást és további termékekbe történő integrációt támogatnak. Az Inkling-Small kiadása egy korábbi előzetes ellenőrzőpontot követ, és további ágensalapú programozási tanítást tartalmaz; a végső modell és az előzetes változat azonosságát külön kell megtartani. Specializált adatkinyeréshez vagy válaszstílushoz a testreszabás reprezentatív példákat és kifejezett célviselkedést használ. Egy szokásos prompt ehelyett az aktuális kéréshez ad kontextust; nem hoz létre újonnan tanított modellt, és nem vált ilyenre.
A hasznos eredményellenőrzés azt vizsgálja, hogy a javasolt kódmódosítás, átirat, kinyert tények vagy írásos válasz megfelel-e a megadott bizonyítékoknak. Határozd meg, hogyan jelenjen meg a bizonytalanság és a hiányzó információ, különösen hiányos forrású előrejelzésnél vagy tényválasznál. A készítő az Inkling-Small modellt előrejelzési kalibrálásra tanította megerősítéses tanulással, valós kérdéseken alkalmazott megfelelő pontozási szabályok alapján, hogy a kifejezett magabiztosság illeszkedjen az elérhető bizonyítékhoz. Őrizd meg az anyagot és az eszközmegfigyeléseket az eredmény mellett, hogy a folytatás egyetlen problémát módosíthasson az eredeti feladat elvesztése nélkül. Az Inkling-Small általános többnyelvű és multimodális képességei különböznek egy célzott beszédgenerátortól vagy egy garantált külsőművelet-szolgáltatástól.
", "aboutText": "Az Inkling-Small a Thinking Machines Lab kisebb, nyílt súlyú multimodális modellje következtetéshez, programozáshoz, beszélgetéshez és eszközhasználó alkalmazásokhoz. Szöveget, képeket és hangot fogad, és szöveget állít elő. Mixture-of-Experts kialakítása összesen 276 milliárd és 12 milliárd aktív paraméterrel rendelkezik, szemben az Inkling 975 milliárd összes és 41 milliárd aktív paraméterével. A Small külön kiadott modell, eltérő hatékonysági és képességbeli egyensúllyal, nem az Inkling rövidebb kimeneti módja.\n\nKódvizsgálatnál add meg az érintett fájlokat, a megfigyelt viselkedést és a szükséges módosítást, majd kérd a felelős végrehajtási útvonal azonosítását és egy célzott javítást. A hasznos végső anyag tartalmazza a javasolt szerkesztést és a csatlakoztatott alkalmazás által ténylegesen futtatott ellenőrzések bizonyítékait. Támogatási asszisztensnél add meg a releváns szabályzatot és beszélgetési tényeket, és kérd a következő választ vagy a hiányzó kérdést. A modell tervezett felhasználásai közé programozási asszisztensek, chatbotok, visszakereséssel kiegészített válaszok és alkalmazáseszközökkel működő ágensrendszerek tartoznak.\n\nA kontextusablak legfeljebb egymillió token. A hosszú kódtárat vagy dokumentumgyűjteményt fájlnevekkel, szakaszjelölésekkel és világos kérdéssel rendezd el, megőrizve azokat a tényeket, amelyeket egy későbbi szakasznak használnia kell. A nagy ablak távoli információdarabok összehasonlításához hasznos, de a kívánt eredmény maradjon konkrét: kódmódosítás, forrásalapú magyarázat vagy kinyert mezők. Az új vagy magánjellegű információnak a megadott bizonyítékban vagy a visszaadott visszakeresési eredményekben van a helye, és nem szabad a tanult tudás részének feltételezni.\n\nA gondolkodási ráfordítás szabályozható. A készítő családútmutatója folyamatos értékeket használ 0.0-tól, ezt is beleértve, 1.0 alatti értékig; a none, minimal, low, medium, high és xhigh induló előbeállítások rendre 0.0, 0.1, 0.2, 0.7, 0.9 és 0.99 értéknek felelnek meg. A készítő megjelenítőjének alapértelmezése a high. A nagyobb ráfordítás több következtetést ösztönözhet, és nagyobb generálási keretet igényelhet, de nem garantál hosszabb vagy pontosabb választ. A nulla beállítás a következtetés mellőzése felé tereli a modellt, nem kényszeríti ki annak szigorú hiányát. A ráfordítást a feladathoz válaszd, és tartsd egyértelműen a végső kimeneti követelményt.\n\nA képek képi kérdéseket, diagram- vagy ábraértelmezést és látható információból végzett matematikai következtetést támogathatnak. Jó teljesítményhez használj olyan képeket, amelyek méretei 40 és 4 096 pixel között vannak. Őrizd meg az olvasható feliratokat, és magyarázd el, melyik részlet fontos. Konfigurált Python-eszközzel a modell a képi következtetést egy dokumentum vagy diagram kivágásával, nagyításával és programozott vizsgálatával kapcsolhatja össze. Ezeket a műveleteket a csatlakoztatott eszközkörnyezetnek kell végrehajtania; az írásos válasz az onnan visszaadott megfigyeléseket használja.\n\nA hangbemenet 16 kHz-en mintavételezett WAV, az optimális teljesítményhez lehetőleg két percnél rövidebb felvételekkel. Ez előkészítési ajánlás, nem szigorú időtartam-garancia. Használj releváns szóbeli kérdést vagy rövid klipet, és határozd meg, hogy az írásos eredmény beszédátirat legyen, a felvételre vonatkozó kérdésre válaszoljon, vagy annak tartalmát más megadott anyaghoz kapcsolja. A natív válasz szöveg, nem generált beszéd. Az Inkling hosszabb hangra vonatkozó külön ajánlását nem szabad a Small kiadásra átvinni.\n\nAz eszközhasználó munkafolyamatok érdemi eszközleírásokat, argumentumdefiníciókat és az alkalmazás által végrehajtott műveletek eredményeit igénylik. Egy lekérdezési eredményt, számítást vagy fájlmegfigyelést tarts külön a modell javasolt műveletétől. Diagrameltérésnél nevezd meg a releváns feliratokat, számítási eszközzel vizsgáld meg a megadott értékeket, és kérj ezekre az értékekre hivatkozó magyarázatot. A modellt változatos programozási és ágens-vezérlőkörnyezetekhez tanították, ezért a környező feladatot és eszközöket le kell írni, nem hallgatólagosan hagyni.\n\nA nyílt súlyok modellkutatást, finomhangolást és további termékekbe történő integrációt támogatnak. Az Inkling-Small kiadása egy korábbi előzetes ellenőrzőpontot követ, és további ágensalapú programozási tanítást tartalmaz; a végső modell és az előzetes változat azonosságát külön kell megtartani. Specializált adatkinyeréshez vagy válaszstílushoz a testreszabás reprezentatív példákat és kifejezett célviselkedést használ. Egy szokásos prompt ehelyett az aktuális kéréshez ad kontextust; nem hoz létre újonnan tanított modellt, és nem vált ilyenre.\n\nA hasznos eredményellenőrzés azt vizsgálja, hogy a javasolt kódmódosítás, átirat, kinyert tények vagy írásos válasz megfelel-e a megadott bizonyítékoknak. Határozd meg, hogyan jelenjen meg a bizonytalanság és a hiányzó információ, különösen hiányos forrású előrejelzésnél vagy tényválasznál. A készítő az Inkling-Small modellt előrejelzési kalibrálásra tanította megerősítéses tanulással, valós kérdéseken alkalmazott megfelelő pontozási szabályok alapján, hogy a kifejezett magabiztosság illeszkedjen az elérhető bizonyítékhoz. Őrizd meg az anyagot és az eszközmegfigyeléseket az eredmény mellett, hogy a folytatás egyetlen problémát módosíthasson az eredeti feladat elvesztése nélkül. Az Inkling-Small általános többnyelvű és multimodális képességei különböznek egy célzott beszédgenerátortól vagy egy garantált külsőművelet-szolgáltatástól.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "882177354f4444a3471806b1b24d53b34aa5fc1eae8722f9f42b8ffc5de95841", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "hu", "methods": [ { "html": "thinkingmachines/inkling-small:freeAz Inkling-Small nyílt súlyú multimodális modell programozásra, eszközhasználatra, valamint szöveg, képek és hang feletti következtetésre. Szabályozható gondolkodási erőfeszítése és nagy kontextusa célzott alkalmazásfeladatokat támogat írott eredményekkel, az Inklingnél kisebb aktív modellt használva.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
Az Inkling-Small a Thinking Machines Lab kisebb, nyílt súlyú multimodális modellje következtetéshez, programozáshoz, beszélgetéshez és eszközhasználó alkalmazásokhoz. Szöveget, képeket és hangot fogad, és szöveget állít elő. Mixture-of-Experts kialakítása összesen 276 milliárd és 12 milliárd aktív paraméterrel rendelkezik, szemben az Inkling 975 milliárd összes és 41 milliárd aktív paraméterével. A Small külön kiadott modell, eltérő hatékonysági és képességbeli egyensúllyal, nem az Inkling rövidebb kimeneti módja.
Kódvizsgálatnál add meg az érintett fájlokat, a megfigyelt viselkedést és a szükséges módosítást, majd kérd a felelős végrehajtási útvonal azonosítását és egy célzott javítást. A hasznos végső anyag tartalmazza a javasolt szerkesztést és a csatlakoztatott alkalmazás által ténylegesen futtatott ellenőrzések bizonyítékait. Támogatási asszisztensnél add meg a releváns szabályzatot és beszélgetési tényeket, és kérd a következő választ vagy a hiányzó kérdést. A modell tervezett felhasználásai közé programozási asszisztensek, chatbotok, visszakereséssel kiegészített válaszok és alkalmazáseszközökkel működő ágensrendszerek tartoznak.
A kontextusablak legfeljebb egymillió token. A hosszú kódtárat vagy dokumentumgyűjteményt fájlnevekkel, szakaszjelölésekkel és világos kérdéssel rendezd el, megőrizve azokat a tényeket, amelyeket egy későbbi szakasznak használnia kell. A nagy ablak távoli információdarabok összehasonlításához hasznos, de a kívánt eredmény maradjon konkrét: kódmódosítás, forrásalapú magyarázat vagy kinyert mezők. Az új vagy magánjellegű információnak a megadott bizonyítékban vagy a visszaadott visszakeresési eredményekben van a helye, és nem szabad a tanult tudás részének feltételezni.
A gondolkodási ráfordítás szabályozható. A készítő családútmutatója folyamatos értékeket használ 0.0-tól, ezt is beleértve, 1.0 alatti értékig; a none, minimal, low, medium, high és xhigh induló előbeállítások rendre 0.0, 0.1, 0.2, 0.7, 0.9 és 0.99 értéknek felelnek meg. A készítő megjelenítőjének alapértelmezése a high. A nagyobb ráfordítás több következtetést ösztönözhet, és nagyobb generálási keretet igényelhet, de nem garantál hosszabb vagy pontosabb választ. A nulla beállítás a következtetés mellőzése felé tereli a modellt, nem kényszeríti ki annak szigorú hiányát. A ráfordítást a feladathoz válaszd, és tartsd egyértelműen a végső kimeneti követelményt.
A képek képi kérdéseket, diagram- vagy ábraértelmezést és látható információból végzett matematikai következtetést támogathatnak. Jó teljesítményhez használj olyan képeket, amelyek méretei 40 és 4 096 pixel között vannak. Őrizd meg az olvasható feliratokat, és magyarázd el, melyik részlet fontos. Konfigurált Python-eszközzel a modell a képi következtetést egy dokumentum vagy diagram kivágásával, nagyításával és programozott vizsgálatával kapcsolhatja össze. Ezeket a műveleteket a csatlakoztatott eszközkörnyezetnek kell végrehajtania; az írásos válasz az onnan visszaadott megfigyeléseket használja.
A hangbemenet 16 kHz-en mintavételezett WAV, az optimális teljesítményhez lehetőleg két percnél rövidebb felvételekkel. Ez előkészítési ajánlás, nem szigorú időtartam-garancia. Használj releváns szóbeli kérdést vagy rövid klipet, és határozd meg, hogy az írásos eredmény beszédátirat legyen, a felvételre vonatkozó kérdésre válaszoljon, vagy annak tartalmát más megadott anyaghoz kapcsolja. A natív válasz szöveg, nem generált beszéd. Az Inkling hosszabb hangra vonatkozó külön ajánlását nem szabad a Small kiadásra átvinni.
Az eszközhasználó munkafolyamatok érdemi eszközleírásokat, argumentumdefiníciókat és az alkalmazás által végrehajtott műveletek eredményeit igénylik. Egy lekérdezési eredményt, számítást vagy fájlmegfigyelést tarts külön a modell javasolt műveletétől. Diagrameltérésnél nevezd meg a releváns feliratokat, számítási eszközzel vizsgáld meg a megadott értékeket, és kérj ezekre az értékekre hivatkozó magyarázatot. A modellt változatos programozási és ágens-vezérlőkörnyezetekhez tanították, ezért a környező feladatot és eszközöket le kell írni, nem hallgatólagosan hagyni.
A nyílt súlyok modellkutatást, finomhangolást és további termékekbe történő integrációt támogatnak. Az Inkling-Small kiadása egy korábbi előzetes ellenőrzőpontot követ, és további ágensalapú programozási tanítást tartalmaz; a végső modell és az előzetes változat azonosságát külön kell megtartani. Specializált adatkinyeréshez vagy válaszstílushoz a testreszabás reprezentatív példákat és kifejezett célviselkedést használ. Egy szokásos prompt ehelyett az aktuális kéréshez ad kontextust; nem hoz létre újonnan tanított modellt, és nem vált ilyenre.
A hasznos eredményellenőrzés azt vizsgálja, hogy a javasolt kódmódosítás, átirat, kinyert tények vagy írásos válasz megfelel-e a megadott bizonyítékoknak. Határozd meg, hogyan jelenjen meg a bizonytalanság és a hiányzó információ, különösen hiányos forrású előrejelzésnél vagy tényválasznál. A készítő az Inkling-Small modellt előrejelzési kalibrálásra tanította megerősítéses tanulással, valós kérdéseken alkalmazott megfelelő pontozási szabályok alapján, hogy a kifejezett magabiztosság illeszkedjen az elérhető bizonyítékhoz. Őrizd meg az anyagot és az eszközmegfigyeléseket az eredmény mellett, hogy a folytatás egyetlen problémát módosíthasson az eredeti feladat elvesztése nélkül. Az Inkling-Small általános többnyelvű és multimodális képességei különböznek egy célzott beszédgenerátortól vagy egy garantált külsőművelet-szolgáltatástól.
POST /v1/chat/completionstexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok thinkingmachines/inkling-small:free | Alapértelmezett— |
Mezőmessages | Típusarray | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok false | Alapértelmezettfalse |
Mezőmax_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Maximum: 262 144 | Alapértelmezett— |
Mezőmax_completion_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Maximum: 262 144 | Alapértelmezett— |
Mezőn | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Maximum: 128 | Alapértelmezett— |
Mezőtemperature | Típusnumber | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtop_p | Típusnumber | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőseed | Típusinteger | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőstop | Típus | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőfrequency_penalty | Típusnumber | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőpresence_penalty | Típusnumber | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőuser | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages |
Paraméteroptional | Szerződésstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Paramétermaterial_types | Szerződéstext |
Paraméterconditions | SzerződésUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Életciklus: synchronous_json
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenek alapdíjai | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0 / 1K token Kimenet · Kimeneti tokenek $0 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling-small:free
Használja a fent látható metódusútvonalakat.
thinkingmachines/inkling-small:freeAz Inkling-Small nyílt súlyú multimodális modell programozásra, eszközhasználatra, valamint szöveg, képek és hang feletti következtetésre. Szabályozható gondolkodási erőfeszítése és nagy kontextusa célzott alkalmazásfeladatokat támogat írott eredményekkel, az Inklingnél kisebb aktív modellt használva.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
Az Inkling-Small a Thinking Machines Lab kisebb, nyílt súlyú multimodális modellje következtetéshez, programozáshoz, beszélgetéshez és eszközhasználó alkalmazásokhoz. Szöveget, képeket és hangot fogad, és szöveget állít elő. Mixture-of-Experts kialakítása összesen 276 milliárd és 12 milliárd aktív paraméterrel rendelkezik, szemben az Inkling 975 milliárd összes és 41 milliárd aktív paraméterével. A Small külön kiadott modell, eltérő hatékonysági és képességbeli egyensúllyal, nem az Inkling rövidebb kimeneti módja.
Kódvizsgálatnál add meg az érintett fájlokat, a megfigyelt viselkedést és a szükséges módosítást, majd kérd a felelős végrehajtási útvonal azonosítását és egy célzott javítást. A hasznos végső anyag tartalmazza a javasolt szerkesztést és a csatlakoztatott alkalmazás által ténylegesen futtatott ellenőrzések bizonyítékait. Támogatási asszisztensnél add meg a releváns szabályzatot és beszélgetési tényeket, és kérd a következő választ vagy a hiányzó kérdést. A modell tervezett felhasználásai közé programozási asszisztensek, chatbotok, visszakereséssel kiegészített válaszok és alkalmazáseszközökkel működő ágensrendszerek tartoznak.
A kontextusablak legfeljebb egymillió token. A hosszú kódtárat vagy dokumentumgyűjteményt fájlnevekkel, szakaszjelölésekkel és világos kérdéssel rendezd el, megőrizve azokat a tényeket, amelyeket egy későbbi szakasznak használnia kell. A nagy ablak távoli információdarabok összehasonlításához hasznos, de a kívánt eredmény maradjon konkrét: kódmódosítás, forrásalapú magyarázat vagy kinyert mezők. Az új vagy magánjellegű információnak a megadott bizonyítékban vagy a visszaadott visszakeresési eredményekben van a helye, és nem szabad a tanult tudás részének feltételezni.
A gondolkodási ráfordítás szabályozható. A készítő családútmutatója folyamatos értékeket használ 0.0-tól, ezt is beleértve, 1.0 alatti értékig; a none, minimal, low, medium, high és xhigh induló előbeállítások rendre 0.0, 0.1, 0.2, 0.7, 0.9 és 0.99 értéknek felelnek meg. A készítő megjelenítőjének alapértelmezése a high. A nagyobb ráfordítás több következtetést ösztönözhet, és nagyobb generálási keretet igényelhet, de nem garantál hosszabb vagy pontosabb választ. A nulla beállítás a következtetés mellőzése felé tereli a modellt, nem kényszeríti ki annak szigorú hiányát. A ráfordítást a feladathoz válaszd, és tartsd egyértelműen a végső kimeneti követelményt.
A képek képi kérdéseket, diagram- vagy ábraértelmezést és látható információból végzett matematikai következtetést támogathatnak. Jó teljesítményhez használj olyan képeket, amelyek méretei 40 és 4 096 pixel között vannak. Őrizd meg az olvasható feliratokat, és magyarázd el, melyik részlet fontos. Konfigurált Python-eszközzel a modell a képi következtetést egy dokumentum vagy diagram kivágásával, nagyításával és programozott vizsgálatával kapcsolhatja össze. Ezeket a műveleteket a csatlakoztatott eszközkörnyezetnek kell végrehajtania; az írásos válasz az onnan visszaadott megfigyeléseket használja.
A hangbemenet 16 kHz-en mintavételezett WAV, az optimális teljesítményhez lehetőleg két percnél rövidebb felvételekkel. Ez előkészítési ajánlás, nem szigorú időtartam-garancia. Használj releváns szóbeli kérdést vagy rövid klipet, és határozd meg, hogy az írásos eredmény beszédátirat legyen, a felvételre vonatkozó kérdésre válaszoljon, vagy annak tartalmát más megadott anyaghoz kapcsolja. A natív válasz szöveg, nem generált beszéd. Az Inkling hosszabb hangra vonatkozó külön ajánlását nem szabad a Small kiadásra átvinni.
Az eszközhasználó munkafolyamatok érdemi eszközleírásokat, argumentumdefiníciókat és az alkalmazás által végrehajtott műveletek eredményeit igénylik. Egy lekérdezési eredményt, számítást vagy fájlmegfigyelést tarts külön a modell javasolt műveletétől. Diagrameltérésnél nevezd meg a releváns feliratokat, számítási eszközzel vizsgáld meg a megadott értékeket, és kérj ezekre az értékekre hivatkozó magyarázatot. A modellt változatos programozási és ágens-vezérlőkörnyezetekhez tanították, ezért a környező feladatot és eszközöket le kell írni, nem hallgatólagosan hagyni.
A nyílt súlyok modellkutatást, finomhangolást és további termékekbe történő integrációt támogatnak. Az Inkling-Small kiadása egy korábbi előzetes ellenőrzőpontot követ, és további ágensalapú programozási tanítást tartalmaz; a végső modell és az előzetes változat azonosságát külön kell megtartani. Specializált adatkinyeréshez vagy válaszstílushoz a testreszabás reprezentatív példákat és kifejezett célviselkedést használ. Egy szokásos prompt ehelyett az aktuális kéréshez ad kontextust; nem hoz létre újonnan tanított modellt, és nem vált ilyenre.
A hasznos eredményellenőrzés azt vizsgálja, hogy a javasolt kódmódosítás, átirat, kinyert tények vagy írásos válasz megfelel-e a megadott bizonyítékoknak. Határozd meg, hogyan jelenjen meg a bizonytalanság és a hiányzó információ, különösen hiányos forrású előrejelzésnél vagy tényválasznál. A készítő az Inkling-Small modellt előrejelzési kalibrálásra tanította megerősítéses tanulással, valós kérdéseken alkalmazott megfelelő pontozási szabályok alapján, hogy a kifejezett magabiztosság illeszkedjen az elérhető bizonyítékhoz. Őrizd meg az anyagot és az eszközmegfigyeléseket az eredmény mellett, hogy a folytatás egyetlen problémát módosíthasson az eredeti feladat elvesztése nélkül. Az Inkling-Small általános többnyelvű és multimodális képességei különböznek egy célzott beszédgenerátortól vagy egy garantált külsőművelet-szolgáltatástól.
POST /v1/messagestexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok thinkingmachines/inkling-small:free | Alapértelmezett— |
Mezőmessages | Típusarray | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok false | Alapértelmezettfalse |
Mezősystem | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményKötelező | Értékek és korlátok Minimum: 1 Maximum: 262 144 | Alapértelmezett— |
Mezőtemperature | Típusnumber | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtop_p | Típusnumber | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtop_k | Típusinteger | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőstop_sequences | Típusarray | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmetadata | Típusobject | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages, max_tokens |
Paraméteroptional | Szerződésstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Paramétermaterial_types | Szerződéstext |
Paraméterconditions | SzerződésUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Életciklus: synchronous_json
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenek alapdíjai | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0 / 1K token Kimenet · Kimeneti tokenek $0 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling-small:free
Használja a fent látható metódusútvonalakat.