Llama 3.2 1B Instruct er Metas kompakte instruktionsfinjusterede tekstmodel med 1,23 milliarder parametre i producentens tabel. Den modtager flersproget tekst og returnerer tekst eller kode. Udgivelsen er beregnet til dialog, videnssøgning, sammenfatning, mobile skriveassistenter og omskrivning af forespørgsler eller prompter frem for de billedforståelsesopgaver, som Llamas særskilte visionsudgaver håndterer.
Modeloplysninger og kontekst
Modellen bruger en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skelner mellem fortrænede og instruktionsfinjusterede 1B- og 3B-modeller. Denne post er 1B Instruct-checkpointet, hvis opgave er at følge brugerens anmodning i en samtale frem for at fungere som det fortrænede fundament.
Den almindelige tekstudgave er dokumenteret med en kontekst på 128k. Producenten angiver særskilt en kontekst på 8k for sine kvantiserede tekstmodeller. Disse konfigurationer bør holdes adskilt: kvantisering giver ikke grundlag for at overføre den almindelige udgaves kontekst til alle checkpoints i mindre formater eller udlede en bestemt tjenestes konfigurerede kapacitet.
Brug konteksten til de passager og den samtale, der er relevante for én defineret operation. Et langt dokument kan stadig kræve et kort resumé, en omskrevet søgeforespørgsel eller et kildebaseret svar. Identificér det materiale, resultatet skal bevare, og den længde eller de felter, næste applikationstrin har brug for.
Søgning, resuméer og omskrivning
Ved sammenfatning skal du vedlægge den faktiske passage eller samtale og angive målgruppen, længden og de væsentlige fakta. Et nyttigt resultat kan adskille hovedproblemet, allerede udtrykte beslutninger og åbne spørgsmål. Hvis kilden indeholder flere emner, skal du identificere det emne, resuméet skal dække, frem for at bede om en uafgrænset forkortelse af alt.
Ved videnssøgning skal du vedlægge de udvalgte kildepassager eller oplysninger, en søgekomponent har returneret. Bed om det udsagn, der besvarer spørgsmålet, og den passage, der understøtter det. Modellens tekstsvar kan forklare hentede oplysninger, mens søgning i en privat samling fortsat udføres af den tilsluttede applikation. Modellen får ikke adgang til samlingen alene gennem anvendelsesbetegnelsen videnssøgning.
Ved omskrivning af forespørgsler skal du angive det oprindelige spørgsmål og søgningens formål. Bed om en kortfattet omformulering, der bevarer entiteten, betingelsen og den ønskede information. En supportforespørgsel kan omskrives med det produktbegreb og den handling, der er vigtige, uden at tilføje en oplysning, der ikke findes i brugerens besked. Returnér den reviderede forespørgsel adskilt fra en eventuel forklaring, hvis en anden komponent skal bruge den direkte.
Til en skriveassistent skal du angive læseren, tonen og kildefakta, før du beder om et kort brev eller en revideret passage. Ved en udtrækningsopgave skal du definere felterne og repræsentationen af manglende information. Det er konkrete operationer, der forbinder den kompakte models dokumenterede tekstfokus med et artefakt, som kan undersøges.
Understøttede sprog og træning
De officielt understøttede sprog er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trænet på en bredere sprogsamling, hvilket adskiller sig fra de otte sprog, kortet udtrykkeligt understøtter. Angiv slutsproget og de begreber eller identifikatorer, der skal forblive uændrede.
Familien er fortrænet på op til ni billioner tokens med en dataskæringsdato i december 2023. Til 1B- og 3B-modellerne bruger producenten output fra Llama 3.1 8B og 70B som træningsmål på tokenniveau samt vidensdestillation efter beskæring. Det er en træningsproces; det betyder ikke, at den implementerede 1B-model beder de større modeller besvare hvert brugerspørgsmål.
Kortet beskriver superviseret finjustering og præferencebaseret tilpasning med eftertræningsrunder, der omfatter superviserede eksempler, afvisningssampling og direkte præferenceoptimering. Disse trin skaber Instruct-adfærden, mens det navngivne checkpoint og modaliteten med kun tekst bevares.
Samtale og kvantiserede udgaver
Producenten demonstrerer særskilte system- og brugerbeskeder i det tilhørende samtaleformat. Definér assistentens rolle og svarkrav adskilt fra den faktiske kildetekst. Bevar det relevante tidligere svar, når en opfølgning beder om en revision, præcisering eller en anden form af samme information.
Udgivelsen dokumenterer også forskellige varianter med kvantiseringsbevidst træning og kvantisering efter træning. Deres præcision og kontekst på 8k tilhører disse varianter og er ikke en universel specifikation for denne almindelige Instruct-post. Brug det præcise checkpoint og den præcise konfiguration, når en gentaget opgave sammenlignes, eller en afledt driftsopsætning forberedes.
Indholdsmæssige grænser
Denne 1B-udgave er kun til tekst. Den bør ikke overtage billedinput fra Llama 3.2s 11B- eller 90B-visionsmodeller, Llama 4s tekst- og billedevner eller Muse Sparks navngivne ræsonnementsniveauer. Kortets genereringseksempel på 256 tokens er en eksempelindstilling og ikke en særskilt angivet maksimal svarkapacitet.
Et praktisk slutresultat er det ønskede resumé, den ønskede forespørgsel, udtrukne post eller omskrevne tekst, hvor kildens relevante betydning og identifikatorer bevares. De læste kilder angiver ikke et særskilt hårdt maksimum for outputtokens. Hold opgaven fokuseret, inputmaterialet fuldstændigt for den pågældende operation og forskellen mellem almindelig og kvantiseret kontekst eksplicit.
", "aboutText": "Llama 3.2 1B Instruct er Metas kompakte instruktionsfinjusterede tekstmodel med 1,23 milliarder parametre i producentens tabel. Den modtager flersproget tekst og returnerer tekst eller kode. Udgivelsen er beregnet til dialog, videnssøgning, sammenfatning, mobile skriveassistenter og omskrivning af forespørgsler eller prompter frem for de billedforståelsesopgaver, som Llamas særskilte visionsudgaver håndterer.\n\nModeloplysninger og kontekst\n\nModellen bruger en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skelner mellem fortrænede og instruktionsfinjusterede 1B- og 3B-modeller. Denne post er 1B Instruct-checkpointet, hvis opgave er at følge brugerens anmodning i en samtale frem for at fungere som det fortrænede fundament.\n\nDen almindelige tekstudgave er dokumenteret med en kontekst på 128k. Producenten angiver særskilt en kontekst på 8k for sine kvantiserede tekstmodeller. Disse konfigurationer bør holdes adskilt: kvantisering giver ikke grundlag for at overføre den almindelige udgaves kontekst til alle checkpoints i mindre formater eller udlede en bestemt tjenestes konfigurerede kapacitet.\n\nBrug konteksten til de passager og den samtale, der er relevante for én defineret operation. Et langt dokument kan stadig kræve et kort resumé, en omskrevet søgeforespørgsel eller et kildebaseret svar. Identificér det materiale, resultatet skal bevare, og den længde eller de felter, næste applikationstrin har brug for.\n\nSøgning, resuméer og omskrivning\n\nVed sammenfatning skal du vedlægge den faktiske passage eller samtale og angive målgruppen, længden og de væsentlige fakta. Et nyttigt resultat kan adskille hovedproblemet, allerede udtrykte beslutninger og åbne spørgsmål. Hvis kilden indeholder flere emner, skal du identificere det emne, resuméet skal dække, frem for at bede om en uafgrænset forkortelse af alt.\n\nVed videnssøgning skal du vedlægge de udvalgte kildepassager eller oplysninger, en søgekomponent har returneret. Bed om det udsagn, der besvarer spørgsmålet, og den passage, der understøtter det. Modellens tekstsvar kan forklare hentede oplysninger, mens søgning i en privat samling fortsat udføres af den tilsluttede applikation. Modellen får ikke adgang til samlingen alene gennem anvendelsesbetegnelsen videnssøgning.\n\nVed omskrivning af forespørgsler skal du angive det oprindelige spørgsmål og søgningens formål. Bed om en kortfattet omformulering, der bevarer entiteten, betingelsen og den ønskede information. En supportforespørgsel kan omskrives med det produktbegreb og den handling, der er vigtige, uden at tilføje en oplysning, der ikke findes i brugerens besked. Returnér den reviderede forespørgsel adskilt fra en eventuel forklaring, hvis en anden komponent skal bruge den direkte.\n\nTil en skriveassistent skal du angive læseren, tonen og kildefakta, før du beder om et kort brev eller en revideret passage. Ved en udtrækningsopgave skal du definere felterne og repræsentationen af manglende information. Det er konkrete operationer, der forbinder den kompakte models dokumenterede tekstfokus med et artefakt, som kan undersøges.\n\nUnderstøttede sprog og træning\n\nDe officielt understøttede sprog er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trænet på en bredere sprogsamling, hvilket adskiller sig fra de otte sprog, kortet udtrykkeligt understøtter. Angiv slutsproget og de begreber eller identifikatorer, der skal forblive uændrede.\n\nFamilien er fortrænet på op til ni billioner tokens med en dataskæringsdato i december 2023. Til 1B- og 3B-modellerne bruger producenten output fra Llama 3.1 8B og 70B som træningsmål på tokenniveau samt vidensdestillation efter beskæring. Det er en træningsproces; det betyder ikke, at den implementerede 1B-model beder de større modeller besvare hvert brugerspørgsmål.\n\nKortet beskriver superviseret finjustering og præferencebaseret tilpasning med eftertræningsrunder, der omfatter superviserede eksempler, afvisningssampling og direkte præferenceoptimering. Disse trin skaber Instruct-adfærden, mens det navngivne checkpoint og modaliteten med kun tekst bevares.\n\nSamtale og kvantiserede udgaver\n\nProducenten demonstrerer særskilte system- og brugerbeskeder i det tilhørende samtaleformat. Definér assistentens rolle og svarkrav adskilt fra den faktiske kildetekst. Bevar det relevante tidligere svar, når en opfølgning beder om en revision, præcisering eller en anden form af samme information.\n\nUdgivelsen dokumenterer også forskellige varianter med kvantiseringsbevidst træning og kvantisering efter træning. Deres præcision og kontekst på 8k tilhører disse varianter og er ikke en universel specifikation for denne almindelige Instruct-post. Brug det præcise checkpoint og den præcise konfiguration, når en gentaget opgave sammenlignes, eller en afledt driftsopsætning forberedes.\n\nIndholdsmæssige grænser\n\nDenne 1B-udgave er kun til tekst. Den bør ikke overtage billedinput fra Llama 3.2s 11B- eller 90B-visionsmodeller, Llama 4s tekst- og billedevner eller Muse Sparks navngivne ræsonnementsniveauer. Kortets genereringseksempel på 256 tokens er en eksempelindstilling og ikke en særskilt angivet maksimal svarkapacitet.\n\nEt praktisk slutresultat er det ønskede resumé, den ønskede forespørgsel, udtrukne post eller omskrevne tekst, hvor kildens relevante betydning og identifikatorer bevares. De læste kilder angiver ikke et særskilt hårdt maksimum for outputtokens. Hold opgaven fokuseret, inputmaterialet fuldstændigt for den pågældende operation og forskellen mellem almindelig og kvantiseret kontekst eksplicit.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct er Metas kompakte tekstmodel med 1,23 milliarder parametre til dialog, sammenfatning, videnssøgning og omskrivning af forespørgsler. Producenten angiver en kontekst på 128k for den almindelige udgave og 8k for særskilte kvantiserede varianter med flersproget tekst- og kodeoutput.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Llama 3.2 1B Instruct er Metas kompakte instruktionsfinjusterede tekstmodel med 1,23 milliarder parametre i producentens tabel. Den modtager flersproget tekst og returnerer tekst eller kode. Udgivelsen er beregnet til dialog, videnssøgning, sammenfatning, mobile skriveassistenter og omskrivning af forespørgsler eller prompter frem for de billedforståelsesopgaver, som Llamas særskilte visionsudgaver håndterer.
Modeloplysninger og kontekst
Modellen bruger en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skelner mellem fortrænede og instruktionsfinjusterede 1B- og 3B-modeller. Denne post er 1B Instruct-checkpointet, hvis opgave er at følge brugerens anmodning i en samtale frem for at fungere som det fortrænede fundament.
Den almindelige tekstudgave er dokumenteret med en kontekst på 128k. Producenten angiver særskilt en kontekst på 8k for sine kvantiserede tekstmodeller. Disse konfigurationer bør holdes adskilt: kvantisering giver ikke grundlag for at overføre den almindelige udgaves kontekst til alle checkpoints i mindre formater eller udlede en bestemt tjenestes konfigurerede kapacitet.
Brug konteksten til de passager og den samtale, der er relevante for én defineret operation. Et langt dokument kan stadig kræve et kort resumé, en omskrevet søgeforespørgsel eller et kildebaseret svar. Identificér det materiale, resultatet skal bevare, og den længde eller de felter, næste applikationstrin har brug for.
Søgning, resuméer og omskrivning
Ved sammenfatning skal du vedlægge den faktiske passage eller samtale og angive målgruppen, længden og de væsentlige fakta. Et nyttigt resultat kan adskille hovedproblemet, allerede udtrykte beslutninger og åbne spørgsmål. Hvis kilden indeholder flere emner, skal du identificere det emne, resuméet skal dække, frem for at bede om en uafgrænset forkortelse af alt.
Ved videnssøgning skal du vedlægge de udvalgte kildepassager eller oplysninger, en søgekomponent har returneret. Bed om det udsagn, der besvarer spørgsmålet, og den passage, der understøtter det. Modellens tekstsvar kan forklare hentede oplysninger, mens søgning i en privat samling fortsat udføres af den tilsluttede applikation. Modellen får ikke adgang til samlingen alene gennem anvendelsesbetegnelsen videnssøgning.
Ved omskrivning af forespørgsler skal du angive det oprindelige spørgsmål og søgningens formål. Bed om en kortfattet omformulering, der bevarer entiteten, betingelsen og den ønskede information. En supportforespørgsel kan omskrives med det produktbegreb og den handling, der er vigtige, uden at tilføje en oplysning, der ikke findes i brugerens besked. Returnér den reviderede forespørgsel adskilt fra en eventuel forklaring, hvis en anden komponent skal bruge den direkte.
Til en skriveassistent skal du angive læseren, tonen og kildefakta, før du beder om et kort brev eller en revideret passage. Ved en udtrækningsopgave skal du definere felterne og repræsentationen af manglende information. Det er konkrete operationer, der forbinder den kompakte models dokumenterede tekstfokus med et artefakt, som kan undersøges.
Understøttede sprog og træning
De officielt understøttede sprog er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trænet på en bredere sprogsamling, hvilket adskiller sig fra de otte sprog, kortet udtrykkeligt understøtter. Angiv slutsproget og de begreber eller identifikatorer, der skal forblive uændrede.
Familien er fortrænet på op til ni billioner tokens med en dataskæringsdato i december 2023. Til 1B- og 3B-modellerne bruger producenten output fra Llama 3.1 8B og 70B som træningsmål på tokenniveau samt vidensdestillation efter beskæring. Det er en træningsproces; det betyder ikke, at den implementerede 1B-model beder de større modeller besvare hvert brugerspørgsmål.
Kortet beskriver superviseret finjustering og præferencebaseret tilpasning med eftertræningsrunder, der omfatter superviserede eksempler, afvisningssampling og direkte præferenceoptimering. Disse trin skaber Instruct-adfærden, mens det navngivne checkpoint og modaliteten med kun tekst bevares.
Samtale og kvantiserede udgaver
Producenten demonstrerer særskilte system- og brugerbeskeder i det tilhørende samtaleformat. Definér assistentens rolle og svarkrav adskilt fra den faktiske kildetekst. Bevar det relevante tidligere svar, når en opfølgning beder om en revision, præcisering eller en anden form af samme information.
Udgivelsen dokumenterer også forskellige varianter med kvantiseringsbevidst træning og kvantisering efter træning. Deres præcision og kontekst på 8k tilhører disse varianter og er ikke en universel specifikation for denne almindelige Instruct-post. Brug det præcise checkpoint og den præcise konfiguration, når en gentaget opgave sammenlignes, eller en afledt driftsopsætning forberedes.
Indholdsmæssige grænser
Denne 1B-udgave er kun til tekst. Den bør ikke overtage billedinput fra Llama 3.2s 11B- eller 90B-visionsmodeller, Llama 4s tekst- og billedevner eller Muse Sparks navngivne ræsonnementsniveauer. Kortets genereringseksempel på 256 tokens er en eksempelindstilling og ikke en særskilt angivet maksimal svarkapacitet.
Et praktisk slutresultat er det ønskede resumé, den ønskede forespørgsel, udtrukne post eller omskrevne tekst, hvor kildens relevante betydning og identifikatorer bevares. De læste kilder angiver ikke et særskilt hårdt maksimum for outputtokens. Hold opgaven fokuseret, inputmaterialet fuldstændigt for den pågældende operation og forskellen mellem almindelig og kvantiseret kontekst eksplicit.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser meta-llama/llama-3.2-1b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.000054 / 1K tokens Output · Outputtokens $0.000402 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.000054 / 1K tokens Output · Outputtokens $0.000402 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Brug metodestierne vist ovenfor.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct er Metas kompakte tekstmodel med 1,23 milliarder parametre til dialog, sammenfatning, videnssøgning og omskrivning af forespørgsler. Producenten angiver en kontekst på 128k for den almindelige udgave og 8k for særskilte kvantiserede varianter med flersproget tekst- og kodeoutput.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Llama 3.2 1B Instruct er Metas kompakte instruktionsfinjusterede tekstmodel med 1,23 milliarder parametre i producentens tabel. Den modtager flersproget tekst og returnerer tekst eller kode. Udgivelsen er beregnet til dialog, videnssøgning, sammenfatning, mobile skriveassistenter og omskrivning af forespørgsler eller prompter frem for de billedforståelsesopgaver, som Llamas særskilte visionsudgaver håndterer.
Modeloplysninger og kontekst
Modellen bruger en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skelner mellem fortrænede og instruktionsfinjusterede 1B- og 3B-modeller. Denne post er 1B Instruct-checkpointet, hvis opgave er at følge brugerens anmodning i en samtale frem for at fungere som det fortrænede fundament.
Den almindelige tekstudgave er dokumenteret med en kontekst på 128k. Producenten angiver særskilt en kontekst på 8k for sine kvantiserede tekstmodeller. Disse konfigurationer bør holdes adskilt: kvantisering giver ikke grundlag for at overføre den almindelige udgaves kontekst til alle checkpoints i mindre formater eller udlede en bestemt tjenestes konfigurerede kapacitet.
Brug konteksten til de passager og den samtale, der er relevante for én defineret operation. Et langt dokument kan stadig kræve et kort resumé, en omskrevet søgeforespørgsel eller et kildebaseret svar. Identificér det materiale, resultatet skal bevare, og den længde eller de felter, næste applikationstrin har brug for.
Søgning, resuméer og omskrivning
Ved sammenfatning skal du vedlægge den faktiske passage eller samtale og angive målgruppen, længden og de væsentlige fakta. Et nyttigt resultat kan adskille hovedproblemet, allerede udtrykte beslutninger og åbne spørgsmål. Hvis kilden indeholder flere emner, skal du identificere det emne, resuméet skal dække, frem for at bede om en uafgrænset forkortelse af alt.
Ved videnssøgning skal du vedlægge de udvalgte kildepassager eller oplysninger, en søgekomponent har returneret. Bed om det udsagn, der besvarer spørgsmålet, og den passage, der understøtter det. Modellens tekstsvar kan forklare hentede oplysninger, mens søgning i en privat samling fortsat udføres af den tilsluttede applikation. Modellen får ikke adgang til samlingen alene gennem anvendelsesbetegnelsen videnssøgning.
Ved omskrivning af forespørgsler skal du angive det oprindelige spørgsmål og søgningens formål. Bed om en kortfattet omformulering, der bevarer entiteten, betingelsen og den ønskede information. En supportforespørgsel kan omskrives med det produktbegreb og den handling, der er vigtige, uden at tilføje en oplysning, der ikke findes i brugerens besked. Returnér den reviderede forespørgsel adskilt fra en eventuel forklaring, hvis en anden komponent skal bruge den direkte.
Til en skriveassistent skal du angive læseren, tonen og kildefakta, før du beder om et kort brev eller en revideret passage. Ved en udtrækningsopgave skal du definere felterne og repræsentationen af manglende information. Det er konkrete operationer, der forbinder den kompakte models dokumenterede tekstfokus med et artefakt, som kan undersøges.
Understøttede sprog og træning
De officielt understøttede sprog er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trænet på en bredere sprogsamling, hvilket adskiller sig fra de otte sprog, kortet udtrykkeligt understøtter. Angiv slutsproget og de begreber eller identifikatorer, der skal forblive uændrede.
Familien er fortrænet på op til ni billioner tokens med en dataskæringsdato i december 2023. Til 1B- og 3B-modellerne bruger producenten output fra Llama 3.1 8B og 70B som træningsmål på tokenniveau samt vidensdestillation efter beskæring. Det er en træningsproces; det betyder ikke, at den implementerede 1B-model beder de større modeller besvare hvert brugerspørgsmål.
Kortet beskriver superviseret finjustering og præferencebaseret tilpasning med eftertræningsrunder, der omfatter superviserede eksempler, afvisningssampling og direkte præferenceoptimering. Disse trin skaber Instruct-adfærden, mens det navngivne checkpoint og modaliteten med kun tekst bevares.
Samtale og kvantiserede udgaver
Producenten demonstrerer særskilte system- og brugerbeskeder i det tilhørende samtaleformat. Definér assistentens rolle og svarkrav adskilt fra den faktiske kildetekst. Bevar det relevante tidligere svar, når en opfølgning beder om en revision, præcisering eller en anden form af samme information.
Udgivelsen dokumenterer også forskellige varianter med kvantiseringsbevidst træning og kvantisering efter træning. Deres præcision og kontekst på 8k tilhører disse varianter og er ikke en universel specifikation for denne almindelige Instruct-post. Brug det præcise checkpoint og den præcise konfiguration, når en gentaget opgave sammenlignes, eller en afledt driftsopsætning forberedes.
Indholdsmæssige grænser
Denne 1B-udgave er kun til tekst. Den bør ikke overtage billedinput fra Llama 3.2s 11B- eller 90B-visionsmodeller, Llama 4s tekst- og billedevner eller Muse Sparks navngivne ræsonnementsniveauer. Kortets genereringseksempel på 256 tokens er en eksempelindstilling og ikke en særskilt angivet maksimal svarkapacitet.
Et praktisk slutresultat er det ønskede resumé, den ønskede forespørgsel, udtrukne post eller omskrevne tekst, hvor kildens relevante betydning og identifikatorer bevares. De læste kilder angiver ikke et særskilt hårdt maksimum for outputtokens. Hold opgaven fokuseret, inputmaterialet fuldstændigt for den pågældende operation og forskellen mellem almindelig og kvantiseret kontekst eksplicit.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser meta-llama/llama-3.2-1b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.000054 / 1K tokens Output · Outputtokens $0.000402 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.000054 / 1K tokens Output · Outputtokens $0.000402 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.