A Llama 3.1 70B Instruct a Meta 70 milliárd paraméteres szöveges modellje, többnyelvű párbeszédre és asszisztensjellegű kérésekre optimalizálva. Utasításokra finomhangolt ellenőrzőpont egy olyan családban, amely 8B és 405B méreteket, valamint külön előtanított modelleket is tartalmaz. Szöveget fogad, és többnyelvű szöveget vagy kódot ad vissza; a megnevezett 70B kiadás megőrzi saját méretét és azonosságát.
Modellinformáció és tanítás
A kiadás autoregresszív Transformer-architektúrát használ csoportosított lekérdezéses figyelemmel. A hangolt modelleket felügyelt finomhangolással és emberi visszajelzéses megerősítéses tanulással igazítják. Ezek a segítőkész társalgási viselkedés tanítási szakaszai, nem külön következtető és nem következtető módok közötti névvel ellátott futásidejű kapcsolók.
A gyártó a szöveges modellekhez 128 ezer tokenes kontextust dokumentál, és hivatalosan támogatja az angol, német, francia, olasz, portugál, hindi, spanyol és thai nyelvet. A tanítás szélesebb nyelvi gyűjteményt tartalmaz, ami nem tesz minden nyelvet egyformán támogatottá. Többnyelvű anyag kérése előtt adja meg a kimeneti nyelvet, a terminológiát és az olvasót.
A család előtanítási korpuszát körülbelül tizenötbillió tokenként írják le, 2023. decemberi határdátummal. A finomhangolás utasításos adatkészleteket és több mint huszonötmillió szintetikus példát tartalmaz. A határdátum a tanítási adatok határa; egy újabb vagy privát információtól függő kérdéshez azt a feladatban vagy egy csatlakoztatott forrásból visszaadva kell megadni.
Asszisztensjellegű csevegés és forráselemzés
Az Instruct kiadás társalgási kérés megválaszolására készült, míg az előtanított változat más generálási feladatokhoz alakítható alap. Forrásalapú válaszhoz adja meg a kérdést és az eredményt meghatározó szövegrészeket. Címkézze a forrásokat, és minden megállapítás mellé kérje az alátámasztó szakaszt vagy állítást.
Egy gyakorlati összehasonlítás megadhat két eljárást, és kérheti a közös feltételeket, különbségeket és feloldatlan ellentmondásokat. Az eredményül kapott útmutató megőrizheti az eredeti sorrendet és az egyes műveletek alkalmazási feltételeit. Dokumentumszerkesztési feladatnál megadható a célközönség, a megőrzendő tények és az, hogy a végső anyag csak átdolgozott szövegrész legyen-e, vagy magyarázatot is tartalmazzon.
Hosszabb válasznál nevezze meg a kötelező szakaszokat és mindegyik célját. A nagy kontextus együtt tarthatja a kapcsolódó anyagokat, miközben a végső eredmény tömör mátrix vagy magyarázat marad. A források azonossága és egy jól meghatározott kérdés fontosabb, mint minden elérhető dokumentum egyszerű beillesztése.
Kód és generált példák
A dokumentált kimenet kódot is tartalmaz. Javasolt megvalósításhoz adja meg a nyelvet, a bemeneti típusokat, az elvárt eredményt és a kompatibilisen megőrzendő interfészt. Javítás esetén mellékelje a meglévő részletet és a releváns deklarációkat. A kódot a feltételezésektől és példáktól elkülönítve kérje, hogy a következő fejlesztési lépés ellenőrizhesse azt.
Kódmagyarázathoz adja meg a végigkövetendő bemenetet, és kérdezze meg, hogyan jut el a megadott függvény a visszaadott értékhez. Matematikai magyarázathoz határozza meg a jelöléseket és feltételezéseket, és adja meg, hogy pontos vagy közelítő eredményt, esetleg bizonyítást vár. A kódgenerálás és az írásos érvelés önmagában nem fordít le programot és nem hajt végre számítást.
A gyártó a család felhasználásai között a szintetikusadat-generálást és a desztillációt is megnevezi. Egy szöveges feladat változatos példákat kérhet meghatározott formátumban, a megadott szabályok megőrzésével. Hogy e példák alkalmasak-e további tanításra, külön alkalmazási döntés; a szöveges kimenet önmagában nem a helyességük független ellenőrzése.
Beszélgetési formátum és eszközök
A kártya külön rendszer- és felhasználói üzeneteket mutat be a megfelelő csevegési sablonnal. A rendszerutasításban adja meg a szerepet, hangnemet és tartós válaszszabályokat, míg a felhasználói kérés tartalmazza a tényleges problémát és forrásokat. Őrizze meg a releváns korábbi üzeneteket, ha egy korábbi válaszra építő folytatást kér.
A Llama 3.1 több dokumentált eszközhasználati formátumot támogat. Az alkalmazás biztosítja a függvényeket és paramétereket, a modell hívási javaslatot készít, az alkalmazás végrehajtja azt, és az eredményt hozzáfűzi a beszélgetéshez. Egy következő generálás felhasználhatja ezt az eredményt. A kártya rövid példája kifejezetten az asszisztens hívásának, majd az eszközeredménynek a hozzáadását mutatja; egy függvény kiválasztása különbözik a műveletének befejezésétől.
Lekérdezéshez adja meg a szükséges információt, és határozza meg az azt visszaadó függvényt. A végső magyarázat kérése előtt őrizze meg a tényleges visszaadott értéket az eredeti hívás mellett. Számításnál különítse el a modell javasolt műveletét a számológép által visszaadott eredménytől. A natív eszközformázásnak és egy burkolófelület látható megjelenítésének meg kell őriznie a saját dokumentált konvencióit.
Kiadás és gyakorlati korlátok
Az elolvasott kártya 256 tokenes generálási beállítása használati példa, nem önállóan megadott maximális kimeneti kapacitás. A 128 ezer tokenes kontextus a beállított kiadáson belüli anyagra és generált beszélgetésre vonatkozik. Ne helyettesítse a Llama 4 kontextusával vagy vizuális képességeivel, illetve másik Llama 3.1 ellenőrzőpont méretével.
Ez kizárólag szöveges Instruct modell. Egy kép, hangfelvétel vagy videó releváns tartalmát másik komponenssel kell előkészíteni. A külső visszakeresés, a programvégrehajtás és a fájlmódosítás szintén az asszisztenshez kapcsolt alkalmazáshoz tartozik. Őrizze meg a pontos 70B Instruct kiadást, és a feladathoz szükséges, forráshoz kötött magyarázatot, átdolgozott dokumentumot, kódot vagy strukturált szöveget kérje.
", "aboutText": "A Llama 3.1 70B Instruct a Meta 70 milliárd paraméteres szöveges modellje, többnyelvű párbeszédre és asszisztensjellegű kérésekre optimalizálva. Utasításokra finomhangolt ellenőrzőpont egy olyan családban, amely 8B és 405B méreteket, valamint külön előtanított modelleket is tartalmaz. Szöveget fogad, és többnyelvű szöveget vagy kódot ad vissza; a megnevezett 70B kiadás megőrzi saját méretét és azonosságát.\n\nModellinformáció és tanítás\n\nA kiadás autoregresszív Transformer-architektúrát használ csoportosított lekérdezéses figyelemmel. A hangolt modelleket felügyelt finomhangolással és emberi visszajelzéses megerősítéses tanulással igazítják. Ezek a segítőkész társalgási viselkedés tanítási szakaszai, nem külön következtető és nem következtető módok közötti névvel ellátott futásidejű kapcsolók.\n\nA gyártó a szöveges modellekhez 128 ezer tokenes kontextust dokumentál, és hivatalosan támogatja az angol, német, francia, olasz, portugál, hindi, spanyol és thai nyelvet. A tanítás szélesebb nyelvi gyűjteményt tartalmaz, ami nem tesz minden nyelvet egyformán támogatottá. Többnyelvű anyag kérése előtt adja meg a kimeneti nyelvet, a terminológiát és az olvasót.\n\nA család előtanítási korpuszát körülbelül tizenötbillió tokenként írják le, 2023. decemberi határdátummal. A finomhangolás utasításos adatkészleteket és több mint huszonötmillió szintetikus példát tartalmaz. A határdátum a tanítási adatok határa; egy újabb vagy privát információtól függő kérdéshez azt a feladatban vagy egy csatlakoztatott forrásból visszaadva kell megadni.\n\nAsszisztensjellegű csevegés és forráselemzés\n\nAz Instruct kiadás társalgási kérés megválaszolására készült, míg az előtanított változat más generálási feladatokhoz alakítható alap. Forrásalapú válaszhoz adja meg a kérdést és az eredményt meghatározó szövegrészeket. Címkézze a forrásokat, és minden megállapítás mellé kérje az alátámasztó szakaszt vagy állítást.\n\nEgy gyakorlati összehasonlítás megadhat két eljárást, és kérheti a közös feltételeket, különbségeket és feloldatlan ellentmondásokat. Az eredményül kapott útmutató megőrizheti az eredeti sorrendet és az egyes műveletek alkalmazási feltételeit. Dokumentumszerkesztési feladatnál megadható a célközönség, a megőrzendő tények és az, hogy a végső anyag csak átdolgozott szövegrész legyen-e, vagy magyarázatot is tartalmazzon.\n\nHosszabb válasznál nevezze meg a kötelező szakaszokat és mindegyik célját. A nagy kontextus együtt tarthatja a kapcsolódó anyagokat, miközben a végső eredmény tömör mátrix vagy magyarázat marad. A források azonossága és egy jól meghatározott kérdés fontosabb, mint minden elérhető dokumentum egyszerű beillesztése.\n\nKód és generált példák\n\nA dokumentált kimenet kódot is tartalmaz. Javasolt megvalósításhoz adja meg a nyelvet, a bemeneti típusokat, az elvárt eredményt és a kompatibilisen megőrzendő interfészt. Javítás esetén mellékelje a meglévő részletet és a releváns deklarációkat. A kódot a feltételezésektől és példáktól elkülönítve kérje, hogy a következő fejlesztési lépés ellenőrizhesse azt.\n\nKódmagyarázathoz adja meg a végigkövetendő bemenetet, és kérdezze meg, hogyan jut el a megadott függvény a visszaadott értékhez. Matematikai magyarázathoz határozza meg a jelöléseket és feltételezéseket, és adja meg, hogy pontos vagy közelítő eredményt, esetleg bizonyítást vár. A kódgenerálás és az írásos érvelés önmagában nem fordít le programot és nem hajt végre számítást.\n\nA gyártó a család felhasználásai között a szintetikusadat-generálást és a desztillációt is megnevezi. Egy szöveges feladat változatos példákat kérhet meghatározott formátumban, a megadott szabályok megőrzésével. Hogy e példák alkalmasak-e további tanításra, külön alkalmazási döntés; a szöveges kimenet önmagában nem a helyességük független ellenőrzése.\n\nBeszélgetési formátum és eszközök\n\nA kártya külön rendszer- és felhasználói üzeneteket mutat be a megfelelő csevegési sablonnal. A rendszerutasításban adja meg a szerepet, hangnemet és tartós válaszszabályokat, míg a felhasználói kérés tartalmazza a tényleges problémát és forrásokat. Őrizze meg a releváns korábbi üzeneteket, ha egy korábbi válaszra építő folytatást kér.\n\nA Llama 3.1 több dokumentált eszközhasználati formátumot támogat. Az alkalmazás biztosítja a függvényeket és paramétereket, a modell hívási javaslatot készít, az alkalmazás végrehajtja azt, és az eredményt hozzáfűzi a beszélgetéshez. Egy következő generálás felhasználhatja ezt az eredményt. A kártya rövid példája kifejezetten az asszisztens hívásának, majd az eszközeredménynek a hozzáadását mutatja; egy függvény kiválasztása különbözik a műveletének befejezésétől.\n\nLekérdezéshez adja meg a szükséges információt, és határozza meg az azt visszaadó függvényt. A végső magyarázat kérése előtt őrizze meg a tényleges visszaadott értéket az eredeti hívás mellett. Számításnál különítse el a modell javasolt műveletét a számológép által visszaadott eredménytől. A natív eszközformázásnak és egy burkolófelület látható megjelenítésének meg kell őriznie a saját dokumentált konvencióit.\n\nKiadás és gyakorlati korlátok\n\nAz elolvasott kártya 256 tokenes generálási beállítása használati példa, nem önállóan megadott maximális kimeneti kapacitás. A 128 ezer tokenes kontextus a beállított kiadáson belüli anyagra és generált beszélgetésre vonatkozik. Ne helyettesítse a Llama 4 kontextusával vagy vizuális képességeivel, illetve másik Llama 3.1 ellenőrzőpont méretével.\n\nEz kizárólag szöveges Instruct modell. Egy kép, hangfelvétel vagy videó releváns tartalmát másik komponenssel kell előkészíteni. A külső visszakeresés, a programvégrehajtás és a fájlmódosítás szintén az asszisztenshez kapcsolt alkalmazáshoz tartozik. Őrizze meg a pontos 70B Instruct kiadást, és a feladathoz szükséges, forráshoz kötött magyarázatot, átdolgozott dokumentumot, kódot vagy strukturált szöveget kérje.", "editorialOverlay": { "copy_fields": { "practical_html": "Technikai példa angolul
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.meta-llama/llama-3.1-70b-instructA Llama 3.1 70B Instruct a Meta szöveges modellje többnyelvű párbeszédhez, dokumentumokból végzett következtetéshez és kódhoz. A 70 milliárd paraméteres, utasításokra finomhangolt kiadás csoportosított lekérdezéses figyelmet, a gyártó szerint 128 ezer tokenes kontextust és dokumentált eszközhívásos beszélgetési formátumokat használ, szöveges és kódkimenettel.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Llama 3.1 70B Instruct a Meta 70 milliárd paraméteres szöveges modellje, többnyelvű párbeszédre és asszisztensjellegű kérésekre optimalizálva. Utasításokra finomhangolt ellenőrzőpont egy olyan családban, amely 8B és 405B méreteket, valamint külön előtanított modelleket is tartalmaz. Szöveget fogad, és többnyelvű szöveget vagy kódot ad vissza; a megnevezett 70B kiadás megőrzi saját méretét és azonosságát.
Modellinformáció és tanítás
A kiadás autoregresszív Transformer-architektúrát használ csoportosított lekérdezéses figyelemmel. A hangolt modelleket felügyelt finomhangolással és emberi visszajelzéses megerősítéses tanulással igazítják. Ezek a segítőkész társalgási viselkedés tanítási szakaszai, nem külön következtető és nem következtető módok közötti névvel ellátott futásidejű kapcsolók.
A gyártó a szöveges modellekhez 128 ezer tokenes kontextust dokumentál, és hivatalosan támogatja az angol, német, francia, olasz, portugál, hindi, spanyol és thai nyelvet. A tanítás szélesebb nyelvi gyűjteményt tartalmaz, ami nem tesz minden nyelvet egyformán támogatottá. Többnyelvű anyag kérése előtt adja meg a kimeneti nyelvet, a terminológiát és az olvasót.
A család előtanítási korpuszát körülbelül tizenötbillió tokenként írják le, 2023. decemberi határdátummal. A finomhangolás utasításos adatkészleteket és több mint huszonötmillió szintetikus példát tartalmaz. A határdátum a tanítási adatok határa; egy újabb vagy privát információtól függő kérdéshez azt a feladatban vagy egy csatlakoztatott forrásból visszaadva kell megadni.
Asszisztensjellegű csevegés és forráselemzés
Az Instruct kiadás társalgási kérés megválaszolására készült, míg az előtanított változat más generálási feladatokhoz alakítható alap. Forrásalapú válaszhoz adja meg a kérdést és az eredményt meghatározó szövegrészeket. Címkézze a forrásokat, és minden megállapítás mellé kérje az alátámasztó szakaszt vagy állítást.
Egy gyakorlati összehasonlítás megadhat két eljárást, és kérheti a közös feltételeket, különbségeket és feloldatlan ellentmondásokat. Az eredményül kapott útmutató megőrizheti az eredeti sorrendet és az egyes műveletek alkalmazási feltételeit. Dokumentumszerkesztési feladatnál megadható a célközönség, a megőrzendő tények és az, hogy a végső anyag csak átdolgozott szövegrész legyen-e, vagy magyarázatot is tartalmazzon.
Hosszabb válasznál nevezze meg a kötelező szakaszokat és mindegyik célját. A nagy kontextus együtt tarthatja a kapcsolódó anyagokat, miközben a végső eredmény tömör mátrix vagy magyarázat marad. A források azonossága és egy jól meghatározott kérdés fontosabb, mint minden elérhető dokumentum egyszerű beillesztése.
Kód és generált példák
A dokumentált kimenet kódot is tartalmaz. Javasolt megvalósításhoz adja meg a nyelvet, a bemeneti típusokat, az elvárt eredményt és a kompatibilisen megőrzendő interfészt. Javítás esetén mellékelje a meglévő részletet és a releváns deklarációkat. A kódot a feltételezésektől és példáktól elkülönítve kérje, hogy a következő fejlesztési lépés ellenőrizhesse azt.
Kódmagyarázathoz adja meg a végigkövetendő bemenetet, és kérdezze meg, hogyan jut el a megadott függvény a visszaadott értékhez. Matematikai magyarázathoz határozza meg a jelöléseket és feltételezéseket, és adja meg, hogy pontos vagy közelítő eredményt, esetleg bizonyítást vár. A kódgenerálás és az írásos érvelés önmagában nem fordít le programot és nem hajt végre számítást.
A gyártó a család felhasználásai között a szintetikusadat-generálást és a desztillációt is megnevezi. Egy szöveges feladat változatos példákat kérhet meghatározott formátumban, a megadott szabályok megőrzésével. Hogy e példák alkalmasak-e további tanításra, külön alkalmazási döntés; a szöveges kimenet önmagában nem a helyességük független ellenőrzése.
Beszélgetési formátum és eszközök
A kártya külön rendszer- és felhasználói üzeneteket mutat be a megfelelő csevegési sablonnal. A rendszerutasításban adja meg a szerepet, hangnemet és tartós válaszszabályokat, míg a felhasználói kérés tartalmazza a tényleges problémát és forrásokat. Őrizze meg a releváns korábbi üzeneteket, ha egy korábbi válaszra építő folytatást kér.
A Llama 3.1 több dokumentált eszközhasználati formátumot támogat. Az alkalmazás biztosítja a függvényeket és paramétereket, a modell hívási javaslatot készít, az alkalmazás végrehajtja azt, és az eredményt hozzáfűzi a beszélgetéshez. Egy következő generálás felhasználhatja ezt az eredményt. A kártya rövid példája kifejezetten az asszisztens hívásának, majd az eszközeredménynek a hozzáadását mutatja; egy függvény kiválasztása különbözik a műveletének befejezésétől.
Lekérdezéshez adja meg a szükséges információt, és határozza meg az azt visszaadó függvényt. A végső magyarázat kérése előtt őrizze meg a tényleges visszaadott értéket az eredeti hívás mellett. Számításnál különítse el a modell javasolt műveletét a számológép által visszaadott eredménytől. A natív eszközformázásnak és egy burkolófelület látható megjelenítésének meg kell őriznie a saját dokumentált konvencióit.
Kiadás és gyakorlati korlátok
Az elolvasott kártya 256 tokenes generálási beállítása használati példa, nem önállóan megadott maximális kimeneti kapacitás. A 128 ezer tokenes kontextus a beállított kiadáson belüli anyagra és generált beszélgetésre vonatkozik. Ne helyettesítse a Llama 4 kontextusával vagy vizuális képességeivel, illetve másik Llama 3.1 ellenőrzőpont méretével.
Ez kizárólag szöveges Instruct modell. Egy kép, hangfelvétel vagy videó releváns tartalmát másik komponenssel kell előkészíteni. A külső visszakeresés, a programvégrehajtás és a fájlmódosítás szintén az asszisztenshez kapcsolt alkalmazáshoz tartozik. Őrizze meg a pontos 70B Instruct kiadást, és a feladathoz szükséges, forráshoz kötött magyarázatot, átdolgozott dokumentumot, kódot vagy strukturált szöveget kérje.
POST /v1/chat/completionstexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok meta-llama/llama-3.1-70b-instruct | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok Példák: system, user, assistant, tool, function Feltételek: Ezeket a szerepeket a forráskód kompatibilitási típusai kifejezetten reprezentálják; a pontos szerepkészlet továbbra is modellspecifikus. Modelltől függ | Alapértelmezett— |
Mezőmessages[].content | Típusstring|content_part[]|null | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].tool_calls | Típustool_call[] | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].tool_call_id | Típusstring | KövetelményOpcionális | Értékek és korlátok Akkor alkalmazandó, ha: role=tool; használja a ténylegesen visszaadott ID-t | Alapértelmezett— |
Mezőmessages[].name | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].reasoning_content | Típusstring | KövetelményOpcionális | Értékek és korlátok Akkor alkalmazandó, ha: Küldje vissza a ténylegesen visszaadott gondolkodási tartalmat, ha ez a modell használja | Alapértelmezett— |
Mezőmessages[].reasoning_details | Típusobject|array | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Modelltől függ | Alapértelmezett— |
Mezőmax_completion_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Modelltől függ | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Mezőstream_options.include_usage | Típusboolean | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtemperature | Típusnumber | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtop_p | Típusnumber | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőstop | Típusstring|string[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtools | Típusfunction_tool[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtools[].type | Típusstring | KövetelményOpcionális | Értékek és korlátok function Modelltől függ | Alapértelmezett— |
Mezőtools[].function.name | Típusstring | KövetelményKötelező | Értékek és korlátok Akkor alkalmazandó, ha: Függvényeszköz megadva | Alapértelmezett— |
Mezőtools[].function.description | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtools[].function.parameters | TípusJSON_schema | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtool_choice | Típusstring|object | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőparallel_tool_calls | Típusboolean | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőresponse_format | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőreasoning_effort | Típusstring | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőreasoning | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőservice_tier | Típusstring | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőinstructions | Típusstring | KövetelményOpcionális | Értékek és korlátok Kompatibilitási mező | Alapértelmezett— |
Mezőfunctions | Típusfunction[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőfunction_call | Típusstring|object | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőprompt_cache_options | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőmodalities | Típusstring[] | KövetelményOpcionális | Értékek és korlátok text | Alapértelmezett— |
Mezőprovider | Típusobject | KövetelményOpcionális | Értékek és korlátok Feltételek: A provider.options elutasításra kerül ezen az Ultra szöveges útvonalon | Alapértelmezett— |
Mezőcache_control.ttl | Típusstring | KövetelményOpcionális | Értékek és korlátok Feltételek: Az 1h elutasításra kerül a tényleges prompt-gyorsítótárazási helyeken | Alapértelmezett— |
Szöveg · UTF8 szöveg
messages[].content
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages |
Paramétermaterial_types | Szerződéstext |
Paramétermessages | Szerződésüzenettömb role/content szerkezettel |
Paraméterfile_material | Szerződésa tényleges UTF-8 dokumentum szó szerinti szövegként beillesztve; nincs kikövetkeztetett fájlazonosító |
Paraméteroptional_controls | Szerződésstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramétercontrol_scope | Szerződésmodellspecifikus; a felhasználói függvényeszközök eltérnek a hosztolt eszközöktől |
Paraméteroutput_modalities | Szerződéstext |
Paraméterhosted_operations | Szerződésfalse |
Paramétermultimodal_input_binding | Szerződésnull |
Életciklus: synchronous_or_streamed
Küldje el a pontos modellazonosítót a messages mellett.
A kontextushossz nem kimeneti felső korlát.
Egy szövegfájl szó szerinti szöveget adhat meg; a kép-/hang-/fájlobjektum-bemenetek pontos hozzárendelést igényelnek.
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
Minden díjat a megjelenített feltételekhez rendeljen. Az alternatív beállítások minden csoportjához egy díjtételt használjon.
| Beállítás | Díjtáblázat | Kontextustokenek, több mint | Kontextustokenek, legfeljebb | Díj |
|---|---|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Kontextustokenek, több mint— | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00144 / 1K token Kimenet · Kimeneti tokenek $0.00144 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
| BeállításA kéréshossz szerinti 1. ársáv | Díjtáblázat— | Kontextustokenek, több mint0 | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00144 / 1K token Kimenet · Kimeneti tokenek $0.00144 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes válaszváltozatot és azok tartalmát/eszközhívásait/gondolkodási tartalmát. SSE esetén válaszváltozat- és eszközindex szerint állítsa össze a részleges frissítéseket, és tartsa meg a végső befejezési okot és a használati adatokat.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőchoices[].index | Típusinteger |
Mezőchoices[].message.content | Típusstring|null |
Mezőchoices[].message.tool_calls | Típustool_call[] |
Mezőchoices[].message.reasoning_content | Típusstring |
Mezőchoices[].message.reasoning_details | Típusobject|array |
Mezőchoices[].finish_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Használja a fent látható metódusútvonalakat.
meta-llama/llama-3.1-70b-instructA Llama 3.1 70B Instruct a Meta szöveges modellje többnyelvű párbeszédhez, dokumentumokból végzett következtetéshez és kódhoz. A 70 milliárd paraméteres, utasításokra finomhangolt kiadás csoportosított lekérdezéses figyelmet, a gyártó szerint 128 ezer tokenes kontextust és dokumentált eszközhívásos beszélgetési formátumokat használ, szöveges és kódkimenettel.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Llama 3.1 70B Instruct a Meta 70 milliárd paraméteres szöveges modellje, többnyelvű párbeszédre és asszisztensjellegű kérésekre optimalizálva. Utasításokra finomhangolt ellenőrzőpont egy olyan családban, amely 8B és 405B méreteket, valamint külön előtanított modelleket is tartalmaz. Szöveget fogad, és többnyelvű szöveget vagy kódot ad vissza; a megnevezett 70B kiadás megőrzi saját méretét és azonosságát.
Modellinformáció és tanítás
A kiadás autoregresszív Transformer-architektúrát használ csoportosított lekérdezéses figyelemmel. A hangolt modelleket felügyelt finomhangolással és emberi visszajelzéses megerősítéses tanulással igazítják. Ezek a segítőkész társalgási viselkedés tanítási szakaszai, nem külön következtető és nem következtető módok közötti névvel ellátott futásidejű kapcsolók.
A gyártó a szöveges modellekhez 128 ezer tokenes kontextust dokumentál, és hivatalosan támogatja az angol, német, francia, olasz, portugál, hindi, spanyol és thai nyelvet. A tanítás szélesebb nyelvi gyűjteményt tartalmaz, ami nem tesz minden nyelvet egyformán támogatottá. Többnyelvű anyag kérése előtt adja meg a kimeneti nyelvet, a terminológiát és az olvasót.
A család előtanítási korpuszát körülbelül tizenötbillió tokenként írják le, 2023. decemberi határdátummal. A finomhangolás utasításos adatkészleteket és több mint huszonötmillió szintetikus példát tartalmaz. A határdátum a tanítási adatok határa; egy újabb vagy privát információtól függő kérdéshez azt a feladatban vagy egy csatlakoztatott forrásból visszaadva kell megadni.
Asszisztensjellegű csevegés és forráselemzés
Az Instruct kiadás társalgási kérés megválaszolására készült, míg az előtanított változat más generálási feladatokhoz alakítható alap. Forrásalapú válaszhoz adja meg a kérdést és az eredményt meghatározó szövegrészeket. Címkézze a forrásokat, és minden megállapítás mellé kérje az alátámasztó szakaszt vagy állítást.
Egy gyakorlati összehasonlítás megadhat két eljárást, és kérheti a közös feltételeket, különbségeket és feloldatlan ellentmondásokat. Az eredményül kapott útmutató megőrizheti az eredeti sorrendet és az egyes műveletek alkalmazási feltételeit. Dokumentumszerkesztési feladatnál megadható a célközönség, a megőrzendő tények és az, hogy a végső anyag csak átdolgozott szövegrész legyen-e, vagy magyarázatot is tartalmazzon.
Hosszabb válasznál nevezze meg a kötelező szakaszokat és mindegyik célját. A nagy kontextus együtt tarthatja a kapcsolódó anyagokat, miközben a végső eredmény tömör mátrix vagy magyarázat marad. A források azonossága és egy jól meghatározott kérdés fontosabb, mint minden elérhető dokumentum egyszerű beillesztése.
Kód és generált példák
A dokumentált kimenet kódot is tartalmaz. Javasolt megvalósításhoz adja meg a nyelvet, a bemeneti típusokat, az elvárt eredményt és a kompatibilisen megőrzendő interfészt. Javítás esetén mellékelje a meglévő részletet és a releváns deklarációkat. A kódot a feltételezésektől és példáktól elkülönítve kérje, hogy a következő fejlesztési lépés ellenőrizhesse azt.
Kódmagyarázathoz adja meg a végigkövetendő bemenetet, és kérdezze meg, hogyan jut el a megadott függvény a visszaadott értékhez. Matematikai magyarázathoz határozza meg a jelöléseket és feltételezéseket, és adja meg, hogy pontos vagy közelítő eredményt, esetleg bizonyítást vár. A kódgenerálás és az írásos érvelés önmagában nem fordít le programot és nem hajt végre számítást.
A gyártó a család felhasználásai között a szintetikusadat-generálást és a desztillációt is megnevezi. Egy szöveges feladat változatos példákat kérhet meghatározott formátumban, a megadott szabályok megőrzésével. Hogy e példák alkalmasak-e további tanításra, külön alkalmazási döntés; a szöveges kimenet önmagában nem a helyességük független ellenőrzése.
Beszélgetési formátum és eszközök
A kártya külön rendszer- és felhasználói üzeneteket mutat be a megfelelő csevegési sablonnal. A rendszerutasításban adja meg a szerepet, hangnemet és tartós válaszszabályokat, míg a felhasználói kérés tartalmazza a tényleges problémát és forrásokat. Őrizze meg a releváns korábbi üzeneteket, ha egy korábbi válaszra építő folytatást kér.
A Llama 3.1 több dokumentált eszközhasználati formátumot támogat. Az alkalmazás biztosítja a függvényeket és paramétereket, a modell hívási javaslatot készít, az alkalmazás végrehajtja azt, és az eredményt hozzáfűzi a beszélgetéshez. Egy következő generálás felhasználhatja ezt az eredményt. A kártya rövid példája kifejezetten az asszisztens hívásának, majd az eszközeredménynek a hozzáadását mutatja; egy függvény kiválasztása különbözik a műveletének befejezésétől.
Lekérdezéshez adja meg a szükséges információt, és határozza meg az azt visszaadó függvényt. A végső magyarázat kérése előtt őrizze meg a tényleges visszaadott értéket az eredeti hívás mellett. Számításnál különítse el a modell javasolt műveletét a számológép által visszaadott eredménytől. A natív eszközformázásnak és egy burkolófelület látható megjelenítésének meg kell őriznie a saját dokumentált konvencióit.
Kiadás és gyakorlati korlátok
Az elolvasott kártya 256 tokenes generálási beállítása használati példa, nem önállóan megadott maximális kimeneti kapacitás. A 128 ezer tokenes kontextus a beállított kiadáson belüli anyagra és generált beszélgetésre vonatkozik. Ne helyettesítse a Llama 4 kontextusával vagy vizuális képességeivel, illetve másik Llama 3.1 ellenőrzőpont méretével.
Ez kizárólag szöveges Instruct modell. Egy kép, hangfelvétel vagy videó releváns tartalmát másik komponenssel kell előkészíteni. A külső visszakeresés, a programvégrehajtás és a fájlmódosítás szintén az asszisztenshez kapcsolt alkalmazáshoz tartozik. Őrizze meg a pontos 70B Instruct kiadást, és a feladathoz szükséges, forráshoz kötött magyarázatot, átdolgozott dokumentumot, kódot vagy strukturált szöveget kérje.
POST /v1/messagestextjson, sse| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok meta-llama/llama-3.1-70b-instruct | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok user, assistant | Alapértelmezett— |
Mezőmessages[].content | Típusstring | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Szöveg · UTF-8 szöveg
messages[].content karakterlánc
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages, max_tokens |
Paraméteroptional_controls | Szerződésstream |
Paramétermaterial_types | Szerződéstext |
Paramétertext_file_material | SzerződésOlvassa el a tényleges UTF-8 dokumentumot, és tegye a szövegét a jelzett bemeneti karakterláncba vagy az üzenettartalom karakterláncába. |
Életciklus: synchronous_or_streamed
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
Minden díjat a megjelenített feltételekhez rendeljen. Az alternatív beállítások minden csoportjához egy díjtételt használjon.
| Beállítás | Díjtáblázat | Kontextustokenek, több mint | Kontextustokenek, legfeljebb | Díj |
|---|---|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Kontextustokenek, több mint— | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00144 / 1K token Kimenet · Kimeneti tokenek $0.00144 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
| BeállításA kéréshossz szerinti 1. ársáv | Díjtáblázat— | Kontextustokenek, több mint0 | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00144 / 1K token Kimenet · Kimeneti tokenek $0.00144 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
{\n "model": "meta-llama/llama-3.1-70b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes tartalomblokkot, a gondolkodási tartalom aláírásait és a tényleges eszközhasználati ID-kat. Állítsa össze az összes SSE-blokk részleges frissítését; az első szövegblokk nem a teljes kimenet.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőid | Típusstring |
Mezőmodel | Típusstring |
Mezőcontent[] | Típustext|thinking|tool_use|other content block |
Mezőstop_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Használja a fent látható metódusútvonalakat.
Technikai példa angolul
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.