Llama 3.2 1B Instruct je kompaktní textový model společnosti Meta doladěný na pokyny, který má podle tabulky výrobce 1,23 miliardy parametrů. Přijímá vícejazyčný text a vrací text nebo kód. Vydání je určeno pro dialog, vyhledávání znalostí, shrnování, mobilní asistenty pro psaní a přeformulování dotazů nebo promptů, nikoli pro úlohy porozumění obrázkům samostatných obrazových edic Llama.
Informace o modelu a kontext
Model používá autoregresivní architekturu Transformer s pozorností grouped-query a sdílenými embeddingy. Meta rozlišuje předtrénované a na pokyny doladěné modely 1B a 3B. Tento záznam označuje checkpoint 1B Instruct, jehož úkolem je v konverzaci plnit požadavek uživatele, nikoli sloužit jako předtrénovaný základ.
Běžné textové vydání má zdokumentovaný kontext 128k. Výrobce samostatně uvádí kontext 8k pro své kvantizované textové modely. Tyto konfigurace musí zůstat rozlišené: kvantizace neopravňuje přenášet kontext běžného vydání na každý checkpoint v menším formátu ani odvozovat nastavenou kapacitu konkrétní služby.
Kontext používejte pro pasáže a konverzaci relevantní k jedné definované operaci. I dlouhý dokument může vyžadovat krátké shrnutí, přeformulovaný vyhledávací dotaz nebo odpověď založenou na zdrojích. Určete materiál, který musí výsledek zachovat, a délku nebo pole potřebná pro další krok aplikace.
Vyhledávání, shrnování a přeformulování
Pro shrnutí poskytněte skutečnou pasáž nebo konverzaci a určete publikum, délku a zásadní fakta. Užitečný výsledek může oddělit hlavní problém, již vyslovená rozhodnutí a otevřené otázky. Pokud zdroj obsahuje několik témat, určete téma shrnutí namísto požadavku na nesměrované zkrácení všeho.
Pro vyhledávání znalostí dodejte vybrané zdrojové pasáže nebo informace vrácené vyhledávací komponentou. Požadujte tvrzení odpovídající na otázku a pasáž, která je podporuje. Textová odpověď modelu může vysvětlit vyhledané informace, zatímco prohledávání soukromé kolekce zůstává prací připojené aplikace. Model tuto kolekci nezískává samotným označením vyhledávacího případu použití.
Pro přeformulování dotazu dodejte původní otázku a účel vyhledávání. Požadujte stručnou reformulaci zachovávající entitu, podmínku a požadované informace. Dotaz na podporu lze přeformulovat s důležitým názvem produktu a akcí, aniž se přidá fakt, který uživatelská zpráva neobsahuje. Pokud má upravený dotaz přímo používat jiná komponenta, vraťte jej odděleně od vysvětlení.
U asistenta pro psaní určete čtenáře, tón a zdrojová fakta před požadavkem na krátký dopis nebo upravenou pasáž. U extrakce definujte pole a způsob znázornění chybějících informací. Jde o konkrétní operace, které propojují zdokumentované textové zaměření kompaktního modelu s kontrolovatelným artefaktem.
Podporované jazyky a trénink
Oficiálně podporovanými jazyky jsou angličtina, němčina, francouzština, italština, portugalština, hindština, španělština a thajština. Model se trénuje na širší kolekci jazyků, která se liší od osmi jazyků výslovně podporovaných kartou. Určete výsledný jazyk a termíny nebo identifikátory, které musí zůstat beze změny.
Rodina je předtrénována až na devíti bilionech tokenů s hranicí dat v prosinci 2023. U modelů 1B a 3B výrobce používá výstupy Llama 3.1 8B a 70B jako tréninkové cíle na úrovni tokenů a destilaci znalostí po prořezání. Jde o tréninkový proces; neznamená to, že nasazený model 1B žádá tyto větší modely o odpověď na každou uživatelskou otázku.
Karta popisuje doladění s učitelem a sladění založené na preferencích s koly následného tréninku zahrnujícími příklady s učitelem, rejection sampling a přímou optimalizaci preferencí. Tyto fáze vytvářejí chování Instruct a zachovávají pojmenovaný checkpoint i čistě textovou modalitu.
Konverzace a kvantizované edice
Výrobce ukazuje samostatné systémové a uživatelské zprávy s odpovídajícím konverzačním formátem. Roli asistenta a požadavky na odpověď definujte odděleně od skutečného zdrojového textu. Příslušnou dřívější odpověď zachovejte, když navazující dotaz žádá revizi, upřesnění nebo jinou podobu stejných informací.
Vydání také dokumentuje samostatné varianty trénované se zohledněním kvantizace a varianty kvantizované po tréninku. Jejich přesnost a kontext 8k patří k těmto variantám a nejsou univerzální specifikací tohoto běžného záznamu Instruct. Při porovnání opakované úlohy nebo přípravě odvozeného nasazení používejte přesný checkpoint a konfiguraci.
Věcné hranice
Toto vydání 1B je čistě textové. Nemá přebírat obrazový vstup z modelů Llama 3.2 11B nebo 90B Vision, textové a obrazové schopnosti Llama 4 ani pojmenované volby úsilí při uvažování Muse Spark. Příklad generování 256 tokenů na kartě je ukázkové nastavení, nikoli samostatně uvedená maximální kapacita odpovědi.
Praktickým konečným výsledkem je požadované shrnutí, dotaz, extrahovaný záznam nebo přeformulovaný text, který zachovává relevantní význam a identifikátory zdroje. Prostudované zdroje neuvádějí samostatné pevné maximum výstupních tokenů. Úlohu udržujte zaměřenou, vstupní materiál úplný pro danou operaci a rozdíl mezi kontextem běžné a kvantizované varianty výslovný.
", "aboutText": "Llama 3.2 1B Instruct je kompaktní textový model společnosti Meta doladěný na pokyny, který má podle tabulky výrobce 1,23 miliardy parametrů. Přijímá vícejazyčný text a vrací text nebo kód. Vydání je určeno pro dialog, vyhledávání znalostí, shrnování, mobilní asistenty pro psaní a přeformulování dotazů nebo promptů, nikoli pro úlohy porozumění obrázkům samostatných obrazových edic Llama.\n\nInformace o modelu a kontext\n\nModel používá autoregresivní architekturu Transformer s pozorností grouped-query a sdílenými embeddingy. Meta rozlišuje předtrénované a na pokyny doladěné modely 1B a 3B. Tento záznam označuje checkpoint 1B Instruct, jehož úkolem je v konverzaci plnit požadavek uživatele, nikoli sloužit jako předtrénovaný základ.\n\nBěžné textové vydání má zdokumentovaný kontext 128k. Výrobce samostatně uvádí kontext 8k pro své kvantizované textové modely. Tyto konfigurace musí zůstat rozlišené: kvantizace neopravňuje přenášet kontext běžného vydání na každý checkpoint v menším formátu ani odvozovat nastavenou kapacitu konkrétní služby.\n\nKontext používejte pro pasáže a konverzaci relevantní k jedné definované operaci. I dlouhý dokument může vyžadovat krátké shrnutí, přeformulovaný vyhledávací dotaz nebo odpověď založenou na zdrojích. Určete materiál, který musí výsledek zachovat, a délku nebo pole potřebná pro další krok aplikace.\n\nVyhledávání, shrnování a přeformulování\n\nPro shrnutí poskytněte skutečnou pasáž nebo konverzaci a určete publikum, délku a zásadní fakta. Užitečný výsledek může oddělit hlavní problém, již vyslovená rozhodnutí a otevřené otázky. Pokud zdroj obsahuje několik témat, určete téma shrnutí namísto požadavku na nesměrované zkrácení všeho.\n\nPro vyhledávání znalostí dodejte vybrané zdrojové pasáže nebo informace vrácené vyhledávací komponentou. Požadujte tvrzení odpovídající na otázku a pasáž, která je podporuje. Textová odpověď modelu může vysvětlit vyhledané informace, zatímco prohledávání soukromé kolekce zůstává prací připojené aplikace. Model tuto kolekci nezískává samotným označením vyhledávacího případu použití.\n\nPro přeformulování dotazu dodejte původní otázku a účel vyhledávání. Požadujte stručnou reformulaci zachovávající entitu, podmínku a požadované informace. Dotaz na podporu lze přeformulovat s důležitým názvem produktu a akcí, aniž se přidá fakt, který uživatelská zpráva neobsahuje. Pokud má upravený dotaz přímo používat jiná komponenta, vraťte jej odděleně od vysvětlení.\n\nU asistenta pro psaní určete čtenáře, tón a zdrojová fakta před požadavkem na krátký dopis nebo upravenou pasáž. U extrakce definujte pole a způsob znázornění chybějících informací. Jde o konkrétní operace, které propojují zdokumentované textové zaměření kompaktního modelu s kontrolovatelným artefaktem.\n\nPodporované jazyky a trénink\n\nOficiálně podporovanými jazyky jsou angličtina, němčina, francouzština, italština, portugalština, hindština, španělština a thajština. Model se trénuje na širší kolekci jazyků, která se liší od osmi jazyků výslovně podporovaných kartou. Určete výsledný jazyk a termíny nebo identifikátory, které musí zůstat beze změny.\n\nRodina je předtrénována až na devíti bilionech tokenů s hranicí dat v prosinci 2023. U modelů 1B a 3B výrobce používá výstupy Llama 3.1 8B a 70B jako tréninkové cíle na úrovni tokenů a destilaci znalostí po prořezání. Jde o tréninkový proces; neznamená to, že nasazený model 1B žádá tyto větší modely o odpověď na každou uživatelskou otázku.\n\nKarta popisuje doladění s učitelem a sladění založené na preferencích s koly následného tréninku zahrnujícími příklady s učitelem, rejection sampling a přímou optimalizaci preferencí. Tyto fáze vytvářejí chování Instruct a zachovávají pojmenovaný checkpoint i čistě textovou modalitu.\n\nKonverzace a kvantizované edice\n\nVýrobce ukazuje samostatné systémové a uživatelské zprávy s odpovídajícím konverzačním formátem. Roli asistenta a požadavky na odpověď definujte odděleně od skutečného zdrojového textu. Příslušnou dřívější odpověď zachovejte, když navazující dotaz žádá revizi, upřesnění nebo jinou podobu stejných informací.\n\nVydání také dokumentuje samostatné varianty trénované se zohledněním kvantizace a varianty kvantizované po tréninku. Jejich přesnost a kontext 8k patří k těmto variantám a nejsou univerzální specifikací tohoto běžného záznamu Instruct. Při porovnání opakované úlohy nebo přípravě odvozeného nasazení používejte přesný checkpoint a konfiguraci.\n\nVěcné hranice\n\nToto vydání 1B je čistě textové. Nemá přebírat obrazový vstup z modelů Llama 3.2 11B nebo 90B Vision, textové a obrazové schopnosti Llama 4 ani pojmenované volby úsilí při uvažování Muse Spark. Příklad generování 256 tokenů na kartě je ukázkové nastavení, nikoli samostatně uvedená maximální kapacita odpovědi.\n\nPraktickým konečným výsledkem je požadované shrnutí, dotaz, extrahovaný záznam nebo přeformulovaný text, který zachovává relevantní význam a identifikátory zdroje. Prostudované zdroje neuvádějí samostatné pevné maximum výstupních tokenů. Úlohu udržujte zaměřenou, vstupní materiál úplný pro danou operaci a rozdíl mezi kontextem běžné a kvantizované varianty výslovný.", "editorialOverlay": { "copy_fields": { "practical_html": "Technický příklad v angličtině
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct je kompaktní textový model společnosti Meta s 1,23 miliardy parametrů pro dialog, shrnování, vyhledávání znalostí a přeformulování dotazů. Výrobce uvádí kontext 128k pro běžné vydání a 8k pro samostatné kvantizované varianty s vícejazyčným textovým a kódovým výstupem.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Llama 3.2 1B Instruct je kompaktní textový model společnosti Meta doladěný na pokyny, který má podle tabulky výrobce 1,23 miliardy parametrů. Přijímá vícejazyčný text a vrací text nebo kód. Vydání je určeno pro dialog, vyhledávání znalostí, shrnování, mobilní asistenty pro psaní a přeformulování dotazů nebo promptů, nikoli pro úlohy porozumění obrázkům samostatných obrazových edic Llama.
Informace o modelu a kontext
Model používá autoregresivní architekturu Transformer s pozorností grouped-query a sdílenými embeddingy. Meta rozlišuje předtrénované a na pokyny doladěné modely 1B a 3B. Tento záznam označuje checkpoint 1B Instruct, jehož úkolem je v konverzaci plnit požadavek uživatele, nikoli sloužit jako předtrénovaný základ.
Běžné textové vydání má zdokumentovaný kontext 128k. Výrobce samostatně uvádí kontext 8k pro své kvantizované textové modely. Tyto konfigurace musí zůstat rozlišené: kvantizace neopravňuje přenášet kontext běžného vydání na každý checkpoint v menším formátu ani odvozovat nastavenou kapacitu konkrétní služby.
Kontext používejte pro pasáže a konverzaci relevantní k jedné definované operaci. I dlouhý dokument může vyžadovat krátké shrnutí, přeformulovaný vyhledávací dotaz nebo odpověď založenou na zdrojích. Určete materiál, který musí výsledek zachovat, a délku nebo pole potřebná pro další krok aplikace.
Vyhledávání, shrnování a přeformulování
Pro shrnutí poskytněte skutečnou pasáž nebo konverzaci a určete publikum, délku a zásadní fakta. Užitečný výsledek může oddělit hlavní problém, již vyslovená rozhodnutí a otevřené otázky. Pokud zdroj obsahuje několik témat, určete téma shrnutí namísto požadavku na nesměrované zkrácení všeho.
Pro vyhledávání znalostí dodejte vybrané zdrojové pasáže nebo informace vrácené vyhledávací komponentou. Požadujte tvrzení odpovídající na otázku a pasáž, která je podporuje. Textová odpověď modelu může vysvětlit vyhledané informace, zatímco prohledávání soukromé kolekce zůstává prací připojené aplikace. Model tuto kolekci nezískává samotným označením vyhledávacího případu použití.
Pro přeformulování dotazu dodejte původní otázku a účel vyhledávání. Požadujte stručnou reformulaci zachovávající entitu, podmínku a požadované informace. Dotaz na podporu lze přeformulovat s důležitým názvem produktu a akcí, aniž se přidá fakt, který uživatelská zpráva neobsahuje. Pokud má upravený dotaz přímo používat jiná komponenta, vraťte jej odděleně od vysvětlení.
U asistenta pro psaní určete čtenáře, tón a zdrojová fakta před požadavkem na krátký dopis nebo upravenou pasáž. U extrakce definujte pole a způsob znázornění chybějících informací. Jde o konkrétní operace, které propojují zdokumentované textové zaměření kompaktního modelu s kontrolovatelným artefaktem.
Podporované jazyky a trénink
Oficiálně podporovanými jazyky jsou angličtina, němčina, francouzština, italština, portugalština, hindština, španělština a thajština. Model se trénuje na širší kolekci jazyků, která se liší od osmi jazyků výslovně podporovaných kartou. Určete výsledný jazyk a termíny nebo identifikátory, které musí zůstat beze změny.
Rodina je předtrénována až na devíti bilionech tokenů s hranicí dat v prosinci 2023. U modelů 1B a 3B výrobce používá výstupy Llama 3.1 8B a 70B jako tréninkové cíle na úrovni tokenů a destilaci znalostí po prořezání. Jde o tréninkový proces; neznamená to, že nasazený model 1B žádá tyto větší modely o odpověď na každou uživatelskou otázku.
Karta popisuje doladění s učitelem a sladění založené na preferencích s koly následného tréninku zahrnujícími příklady s učitelem, rejection sampling a přímou optimalizaci preferencí. Tyto fáze vytvářejí chování Instruct a zachovávají pojmenovaný checkpoint i čistě textovou modalitu.
Konverzace a kvantizované edice
Výrobce ukazuje samostatné systémové a uživatelské zprávy s odpovídajícím konverzačním formátem. Roli asistenta a požadavky na odpověď definujte odděleně od skutečného zdrojového textu. Příslušnou dřívější odpověď zachovejte, když navazující dotaz žádá revizi, upřesnění nebo jinou podobu stejných informací.
Vydání také dokumentuje samostatné varianty trénované se zohledněním kvantizace a varianty kvantizované po tréninku. Jejich přesnost a kontext 8k patří k těmto variantám a nejsou univerzální specifikací tohoto běžného záznamu Instruct. Při porovnání opakované úlohy nebo přípravě odvozeného nasazení používejte přesný checkpoint a konfiguraci.
Věcné hranice
Toto vydání 1B je čistě textové. Nemá přebírat obrazový vstup z modelů Llama 3.2 11B nebo 90B Vision, textové a obrazové schopnosti Llama 4 ani pojmenované volby úsilí při uvažování Muse Spark. Příklad generování 256 tokenů na kartě je ukázkové nastavení, nikoli samostatně uvedená maximální kapacita odpovědi.
Praktickým konečným výsledkem je požadované shrnutí, dotaz, extrahovaný záznam nebo přeformulovaný text, který zachovává relevantní význam a identifikátory zdroje. Prostudované zdroje neuvádějí samostatné pevné maximum výstupních tokenů. Úlohu udržujte zaměřenou, vstupní materiál úplný pro danou operaci a rozdíl mezi kontextem běžné a kvantizované varianty výslovný.
POST /v1/chat/completionstexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity meta-llama/llama-3.2-1b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Příklady: system, user, assistant, tool, function Podmínky: Tyto role jsou výslovně zastoupeny typy kompatibility zdrojového kódu; přesná sada rolí zůstává specifická pro daný model. Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring|content_part[]|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_calls | Typtool_call[] | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_call_id | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: role=tool; použijte skutečně vrácené ID | Výchozí— |
Polemessages[].name | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].reasoning_content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Předávejte zpět skutečně vrácené uvažování tam, kde je tento model používá | Výchozí— |
Polemessages[].reasoning_details | Typobject|array | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemax_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polemax_completion_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Polestream_options.include_usage | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletemperature | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletop_p | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polestop | Typstring|string[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools | Typfunction_tool[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools[].type | Typstring | PožadavekVolitelné | Hodnoty a limity function Závisí na modelu | Výchozí— |
Poletools[].function.name | Typstring | PožadavekPovinné | Hodnoty a limity Platí, když: nástroj typu funkce je dodán | Výchozí— |
Poletools[].function.description | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletools[].function.parameters | TypJSON_schema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletool_choice | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleparallel_tool_calls | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleresponse_format | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning_effort | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleservice_tier | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleinstructions | Typstring | PožadavekVolitelné | Hodnoty a limity Pole kompatibility | Výchozí— |
Polefunctions | Typfunction[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polefunction_call | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleprompt_cache_options | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemodalities | Typstring[] | PožadavekVolitelné | Hodnoty a limity text | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: provider.options je na této textové trase Ultra odmítáno | Výchozí— |
Polecache_control.ttl | Typstring | PožadavekVolitelné | Hodnoty a limity Podmínky: Hodnota 1h je ve skutečných umístěních mezipaměti promptů odmítána | Výchozí— |
Text · text UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Kontraktspecifické pro model; nástroje uživatelských funkcí se liší od hostovaných nástrojů |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.000054 / 1K tokenů Výstup · Výstupní tokeny $0.000402 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.000054 / 1K tokenů Výstup · Výstupní tokeny $0.000402 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Použijte cesty metod uvedené výše.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct je kompaktní textový model společnosti Meta s 1,23 miliardy parametrů pro dialog, shrnování, vyhledávání znalostí a přeformulování dotazů. Výrobce uvádí kontext 128k pro běžné vydání a 8k pro samostatné kvantizované varianty s vícejazyčným textovým a kódovým výstupem.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Llama 3.2 1B Instruct je kompaktní textový model společnosti Meta doladěný na pokyny, který má podle tabulky výrobce 1,23 miliardy parametrů. Přijímá vícejazyčný text a vrací text nebo kód. Vydání je určeno pro dialog, vyhledávání znalostí, shrnování, mobilní asistenty pro psaní a přeformulování dotazů nebo promptů, nikoli pro úlohy porozumění obrázkům samostatných obrazových edic Llama.
Informace o modelu a kontext
Model používá autoregresivní architekturu Transformer s pozorností grouped-query a sdílenými embeddingy. Meta rozlišuje předtrénované a na pokyny doladěné modely 1B a 3B. Tento záznam označuje checkpoint 1B Instruct, jehož úkolem je v konverzaci plnit požadavek uživatele, nikoli sloužit jako předtrénovaný základ.
Běžné textové vydání má zdokumentovaný kontext 128k. Výrobce samostatně uvádí kontext 8k pro své kvantizované textové modely. Tyto konfigurace musí zůstat rozlišené: kvantizace neopravňuje přenášet kontext běžného vydání na každý checkpoint v menším formátu ani odvozovat nastavenou kapacitu konkrétní služby.
Kontext používejte pro pasáže a konverzaci relevantní k jedné definované operaci. I dlouhý dokument může vyžadovat krátké shrnutí, přeformulovaný vyhledávací dotaz nebo odpověď založenou na zdrojích. Určete materiál, který musí výsledek zachovat, a délku nebo pole potřebná pro další krok aplikace.
Vyhledávání, shrnování a přeformulování
Pro shrnutí poskytněte skutečnou pasáž nebo konverzaci a určete publikum, délku a zásadní fakta. Užitečný výsledek může oddělit hlavní problém, již vyslovená rozhodnutí a otevřené otázky. Pokud zdroj obsahuje několik témat, určete téma shrnutí namísto požadavku na nesměrované zkrácení všeho.
Pro vyhledávání znalostí dodejte vybrané zdrojové pasáže nebo informace vrácené vyhledávací komponentou. Požadujte tvrzení odpovídající na otázku a pasáž, která je podporuje. Textová odpověď modelu může vysvětlit vyhledané informace, zatímco prohledávání soukromé kolekce zůstává prací připojené aplikace. Model tuto kolekci nezískává samotným označením vyhledávacího případu použití.
Pro přeformulování dotazu dodejte původní otázku a účel vyhledávání. Požadujte stručnou reformulaci zachovávající entitu, podmínku a požadované informace. Dotaz na podporu lze přeformulovat s důležitým názvem produktu a akcí, aniž se přidá fakt, který uživatelská zpráva neobsahuje. Pokud má upravený dotaz přímo používat jiná komponenta, vraťte jej odděleně od vysvětlení.
U asistenta pro psaní určete čtenáře, tón a zdrojová fakta před požadavkem na krátký dopis nebo upravenou pasáž. U extrakce definujte pole a způsob znázornění chybějících informací. Jde o konkrétní operace, které propojují zdokumentované textové zaměření kompaktního modelu s kontrolovatelným artefaktem.
Podporované jazyky a trénink
Oficiálně podporovanými jazyky jsou angličtina, němčina, francouzština, italština, portugalština, hindština, španělština a thajština. Model se trénuje na širší kolekci jazyků, která se liší od osmi jazyků výslovně podporovaných kartou. Určete výsledný jazyk a termíny nebo identifikátory, které musí zůstat beze změny.
Rodina je předtrénována až na devíti bilionech tokenů s hranicí dat v prosinci 2023. U modelů 1B a 3B výrobce používá výstupy Llama 3.1 8B a 70B jako tréninkové cíle na úrovni tokenů a destilaci znalostí po prořezání. Jde o tréninkový proces; neznamená to, že nasazený model 1B žádá tyto větší modely o odpověď na každou uživatelskou otázku.
Karta popisuje doladění s učitelem a sladění založené na preferencích s koly následného tréninku zahrnujícími příklady s učitelem, rejection sampling a přímou optimalizaci preferencí. Tyto fáze vytvářejí chování Instruct a zachovávají pojmenovaný checkpoint i čistě textovou modalitu.
Konverzace a kvantizované edice
Výrobce ukazuje samostatné systémové a uživatelské zprávy s odpovídajícím konverzačním formátem. Roli asistenta a požadavky na odpověď definujte odděleně od skutečného zdrojového textu. Příslušnou dřívější odpověď zachovejte, když navazující dotaz žádá revizi, upřesnění nebo jinou podobu stejných informací.
Vydání také dokumentuje samostatné varianty trénované se zohledněním kvantizace a varianty kvantizované po tréninku. Jejich přesnost a kontext 8k patří k těmto variantám a nejsou univerzální specifikací tohoto běžného záznamu Instruct. Při porovnání opakované úlohy nebo přípravě odvozeného nasazení používejte přesný checkpoint a konfiguraci.
Věcné hranice
Toto vydání 1B je čistě textové. Nemá přebírat obrazový vstup z modelů Llama 3.2 11B nebo 90B Vision, textové a obrazové schopnosti Llama 4 ani pojmenované volby úsilí při uvažování Muse Spark. Příklad generování 256 tokenů na kartě je ukázkové nastavení, nikoli samostatně uvedená maximální kapacita odpovědi.
Praktickým konečným výsledkem je požadované shrnutí, dotaz, extrahovaný záznam nebo přeformulovaný text, který zachovává relevantní význam a identifikátory zdroje. Prostudované zdroje neuvádějí samostatné pevné maximum výstupních tokenů. Úlohu udržujte zaměřenou, vstupní materiál úplný pro danou operaci a rozdíl mezi kontextem běžné a kvantizované varianty výslovný.
POST /v1/messagestextjson, sse| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity meta-llama/llama-3.2-1b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF-8
řetězec messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.000054 / 1K tokenů Výstup · Výstupní tokeny $0.000402 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.000054 / 1K tokenů Výstup · Výstupní tokeny $0.000402 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Použijte cesty metod uvedené výše.
Technický příklad v angličtině
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.