Llama 3.2 1B Instruct er Metas kompakte instruksjonsjusterte tekstmodell, med 1.23 milliarder parametere i produsentens tabell. Den tar imot flerspråklig tekst og returnerer tekst eller kode. Utgaven er beregnet på dialog, kunnskapsgjenfinning, oppsummering, mobile skriveassistenter og omskriving av søkespørsmål eller ledetekster, fremfor bildeforståelsesoppgavene til Llamas separate synsutgaver.
Modellinformasjon og kontekst
Modellen bruker en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skiller mellom forhåndstrente og instruksjonsjusterte 1B- og 3B-modeller. Denne oppføringen gjelder 1B Instruct-kontrollpunktet, som har som oppgave å følge brukerens forespørsel i en samtale fremfor å fungere som det forhåndstrente grunnlaget.
Den ordinære tekstutgaven er dokumentert med en kontekst på 128k. Produsenten angir separat en kontekst på 8k for sine kvantiserte tekstmodeller. Disse konfigurasjonene bør holdes atskilt: kvantisering gir ikke grunnlag for å overføre den ordinære utgavens kontekst til ethvert kontrollpunkt i et mindre format eller for å utlede den konfigurerte kapasiteten til en bestemt tjeneste.
Bruk konteksten til utdragene og samtalen som er relevante for én definert operasjon. Et langt dokument kan fortsatt kreve et kort sammendrag, et omskrevet søkespørsmål eller et kildebasert svar. Angi hvilket materiale resultatet må bevare, og hvilken lengde eller hvilke felt neste trinn i applikasjonen trenger.
Informasjonsgjenfinning, sammendrag og omskriving
For oppsummering legger du ved det faktiske tekstutdraget eller samtalen og angir målgruppe, lengde og vesentlige fakta. Et nyttig resultat kan skille mellom hovedproblemet, allerede uttrykte beslutninger og åpne spørsmål. Hvis kilden inneholder flere temaer, angir du hvilket tema sammendraget skal dekke, fremfor å be om en urettet forkorting av alt.
For kunnskapsgjenfinning legger du ved de utvalgte kildeutdragene eller informasjon returnert av en gjenfinningskomponent. Be om utsagnet som besvarer spørsmålet, og utdraget som støtter det. Modellens tekstsvar kan forklare gjenfunnet informasjon, mens søk i en privat samling fortsatt er den tilkoblede applikasjonens oppgave. Modellen får ikke tilgang til samlingen bare fordi informasjonsgjenfinning er oppgitt som bruksområde.
For omskriving av søkespørsmål gir du det opprinnelige spørsmålet og formålet med søket. Be om en kort omformulering som bevarer enheten, vilkåret og den ønskede informasjonen. Et supportspørsmål kan omskrives med produktbegrepet og handlingen som er viktige, uten å legge til et faktum som ikke finnes i brukerens melding. Returner det reviderte søkespørsmålet atskilt fra eventuell forklaring dersom en annen komponent skal bruke det direkte.
For en skriveassistent angir du leser, tone og kildefakta før du ber om et kort brev eller et revidert tekstutdrag. For en uttrekksoppgave definerer du feltene og hvordan manglende informasjon skal representeres. Dette er konkrete operasjoner som knytter den kompakte modellens dokumenterte tekstfokus til et artefakt som kan undersøkes.
Støttede språk og trening
De offisielt støttede språkene er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trent på et bredere språkutvalg, noe som er forskjellig fra de åtte språkene modellkortet uttrykkelig støtter. Angi sluttspråket og eventuelle termer eller identifikatorer som må forbli uendret.
Familien er forhåndstrent på opptil ni billioner tokener, med en skjæringsdato for dataene i desember 2023. For 1B- og 3B-modellene bruker produsenten utdata fra Llama 3.1 8B og 70B som treningsmål på tokennivå og kunnskapsdestillasjon etter beskjæring. Dette er en treningsprosess; det betyr ikke at den utrullede 1B-modellen ber disse større modellene besvare hvert brukerspørsmål.
Kortet beskriver veiledet finjustering og preferansebasert tilpasning, med ettertreningsrunder som omfatter veiledede eksempler, avvisningssampling og direkte preferanseoptimalisering. Disse trinnene skaper Instruct-atferden, samtidig som det navngitte kontrollpunktet og modaliteten med bare tekst beholdes.
Samtale og kvantiserte utgaver
Produsenten viser separate system- og brukermeldinger med det tilhørende samtaleformatet. Definer assistentens rolle og svarkrav atskilt fra selve kildeteksten. Behold det relevante tidligere svaret når en oppfølging ber om en revisjon, avklaring eller annen form på den samme informasjonen.
Utgaven dokumenterer også forskjellige kvantiseringsbevisste og ettertreningskvantiserte varianter. Presisjonen deres og konteksten på 8k tilhører disse variantene fremfor å være en universell spesifikasjon for denne ordinære Instruct-oppføringen. Bruk nøyaktig kontrollpunkt og konfigurasjon når du sammenligner en gjentatt oppgave eller forbereder en avledet utrulling.
Vesentlige avgrensninger
Denne 1B-utgaven bruker bare tekst. Den skal ikke arve bildeinndata fra Llama 3.2s 11B- eller 90B-synsmodeller, Llama 4s tekst- og bildefunksjoner eller Muse Sparks navngitte kontroller for resonneringsinnsats. Kortets genereringseksempel på 256 tokener er en eksempelinnstilling, ikke en særskilt angitt maksimal svarkapasitet.
Et praktisk sluttresultat er det forespurte sammendraget, søkespørsmålet, den uttrukne posten eller den omskrevne teksten, med kildens relevante betydning og identifikatorer bevart. De leste kildene angir ikke en egen absolutt grense for antall utdatatokener. Hold oppgaven avgrenset, gjør inndatamaterialet fullstendig for den operasjonen og behold et tydelig skille mellom konteksten til den ordinære og den kvantiserte utgaven.
", "aboutText": "Llama 3.2 1B Instruct er Metas kompakte instruksjonsjusterte tekstmodell, med 1.23 milliarder parametere i produsentens tabell. Den tar imot flerspråklig tekst og returnerer tekst eller kode. Utgaven er beregnet på dialog, kunnskapsgjenfinning, oppsummering, mobile skriveassistenter og omskriving av søkespørsmål eller ledetekster, fremfor bildeforståelsesoppgavene til Llamas separate synsutgaver.\n\nModellinformasjon og kontekst\n\nModellen bruker en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skiller mellom forhåndstrente og instruksjonsjusterte 1B- og 3B-modeller. Denne oppføringen gjelder 1B Instruct-kontrollpunktet, som har som oppgave å følge brukerens forespørsel i en samtale fremfor å fungere som det forhåndstrente grunnlaget.\n\nDen ordinære tekstutgaven er dokumentert med en kontekst på 128k. Produsenten angir separat en kontekst på 8k for sine kvantiserte tekstmodeller. Disse konfigurasjonene bør holdes atskilt: kvantisering gir ikke grunnlag for å overføre den ordinære utgavens kontekst til ethvert kontrollpunkt i et mindre format eller for å utlede den konfigurerte kapasiteten til en bestemt tjeneste.\n\nBruk konteksten til utdragene og samtalen som er relevante for én definert operasjon. Et langt dokument kan fortsatt kreve et kort sammendrag, et omskrevet søkespørsmål eller et kildebasert svar. Angi hvilket materiale resultatet må bevare, og hvilken lengde eller hvilke felt neste trinn i applikasjonen trenger.\n\nInformasjonsgjenfinning, sammendrag og omskriving\n\nFor oppsummering legger du ved det faktiske tekstutdraget eller samtalen og angir målgruppe, lengde og vesentlige fakta. Et nyttig resultat kan skille mellom hovedproblemet, allerede uttrykte beslutninger og åpne spørsmål. Hvis kilden inneholder flere temaer, angir du hvilket tema sammendraget skal dekke, fremfor å be om en urettet forkorting av alt.\n\nFor kunnskapsgjenfinning legger du ved de utvalgte kildeutdragene eller informasjon returnert av en gjenfinningskomponent. Be om utsagnet som besvarer spørsmålet, og utdraget som støtter det. Modellens tekstsvar kan forklare gjenfunnet informasjon, mens søk i en privat samling fortsatt er den tilkoblede applikasjonens oppgave. Modellen får ikke tilgang til samlingen bare fordi informasjonsgjenfinning er oppgitt som bruksområde.\n\nFor omskriving av søkespørsmål gir du det opprinnelige spørsmålet og formålet med søket. Be om en kort omformulering som bevarer enheten, vilkåret og den ønskede informasjonen. Et supportspørsmål kan omskrives med produktbegrepet og handlingen som er viktige, uten å legge til et faktum som ikke finnes i brukerens melding. Returner det reviderte søkespørsmålet atskilt fra eventuell forklaring dersom en annen komponent skal bruke det direkte.\n\nFor en skriveassistent angir du leser, tone og kildefakta før du ber om et kort brev eller et revidert tekstutdrag. For en uttrekksoppgave definerer du feltene og hvordan manglende informasjon skal representeres. Dette er konkrete operasjoner som knytter den kompakte modellens dokumenterte tekstfokus til et artefakt som kan undersøkes.\n\nStøttede språk og trening\n\nDe offisielt støttede språkene er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trent på et bredere språkutvalg, noe som er forskjellig fra de åtte språkene modellkortet uttrykkelig støtter. Angi sluttspråket og eventuelle termer eller identifikatorer som må forbli uendret.\n\nFamilien er forhåndstrent på opptil ni billioner tokener, med en skjæringsdato for dataene i desember 2023. For 1B- og 3B-modellene bruker produsenten utdata fra Llama 3.1 8B og 70B som treningsmål på tokennivå og kunnskapsdestillasjon etter beskjæring. Dette er en treningsprosess; det betyr ikke at den utrullede 1B-modellen ber disse større modellene besvare hvert brukerspørsmål.\n\nKortet beskriver veiledet finjustering og preferansebasert tilpasning, med ettertreningsrunder som omfatter veiledede eksempler, avvisningssampling og direkte preferanseoptimalisering. Disse trinnene skaper Instruct-atferden, samtidig som det navngitte kontrollpunktet og modaliteten med bare tekst beholdes.\n\nSamtale og kvantiserte utgaver\n\nProdusenten viser separate system- og brukermeldinger med det tilhørende samtaleformatet. Definer assistentens rolle og svarkrav atskilt fra selve kildeteksten. Behold det relevante tidligere svaret når en oppfølging ber om en revisjon, avklaring eller annen form på den samme informasjonen.\n\nUtgaven dokumenterer også forskjellige kvantiseringsbevisste og ettertreningskvantiserte varianter. Presisjonen deres og konteksten på 8k tilhører disse variantene fremfor å være en universell spesifikasjon for denne ordinære Instruct-oppføringen. Bruk nøyaktig kontrollpunkt og konfigurasjon når du sammenligner en gjentatt oppgave eller forbereder en avledet utrulling.\n\nVesentlige avgrensninger\n\nDenne 1B-utgaven bruker bare tekst. Den skal ikke arve bildeinndata fra Llama 3.2s 11B- eller 90B-synsmodeller, Llama 4s tekst- og bildefunksjoner eller Muse Sparks navngitte kontroller for resonneringsinnsats. Kortets genereringseksempel på 256 tokener er en eksempelinnstilling, ikke en særskilt angitt maksimal svarkapasitet.\n\nEt praktisk sluttresultat er det forespurte sammendraget, søkespørsmålet, den uttrukne posten eller den omskrevne teksten, med kildens relevante betydning og identifikatorer bevart. De leste kildene angir ikke en egen absolutt grense for antall utdatatokener. Hold oppgaven avgrenset, gjør inndatamaterialet fullstendig for den operasjonen og behold et tydelig skille mellom konteksten til den ordinære og den kvantiserte utgaven.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct er Metas kompakte tekstmodell med 1.23B parametere for dialog, oppsummering, kunnskapsgjenfinning og omskriving av søkespørsmål. Produsenten angir en kontekst på 128k for den ordinære utgaven og 8k for separate kvantiserte varianter, med flerspråklig tekst og kode som utdata.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Llama 3.2 1B Instruct er Metas kompakte instruksjonsjusterte tekstmodell, med 1.23 milliarder parametere i produsentens tabell. Den tar imot flerspråklig tekst og returnerer tekst eller kode. Utgaven er beregnet på dialog, kunnskapsgjenfinning, oppsummering, mobile skriveassistenter og omskriving av søkespørsmål eller ledetekster, fremfor bildeforståelsesoppgavene til Llamas separate synsutgaver.
Modellinformasjon og kontekst
Modellen bruker en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skiller mellom forhåndstrente og instruksjonsjusterte 1B- og 3B-modeller. Denne oppføringen gjelder 1B Instruct-kontrollpunktet, som har som oppgave å følge brukerens forespørsel i en samtale fremfor å fungere som det forhåndstrente grunnlaget.
Den ordinære tekstutgaven er dokumentert med en kontekst på 128k. Produsenten angir separat en kontekst på 8k for sine kvantiserte tekstmodeller. Disse konfigurasjonene bør holdes atskilt: kvantisering gir ikke grunnlag for å overføre den ordinære utgavens kontekst til ethvert kontrollpunkt i et mindre format eller for å utlede den konfigurerte kapasiteten til en bestemt tjeneste.
Bruk konteksten til utdragene og samtalen som er relevante for én definert operasjon. Et langt dokument kan fortsatt kreve et kort sammendrag, et omskrevet søkespørsmål eller et kildebasert svar. Angi hvilket materiale resultatet må bevare, og hvilken lengde eller hvilke felt neste trinn i applikasjonen trenger.
Informasjonsgjenfinning, sammendrag og omskriving
For oppsummering legger du ved det faktiske tekstutdraget eller samtalen og angir målgruppe, lengde og vesentlige fakta. Et nyttig resultat kan skille mellom hovedproblemet, allerede uttrykte beslutninger og åpne spørsmål. Hvis kilden inneholder flere temaer, angir du hvilket tema sammendraget skal dekke, fremfor å be om en urettet forkorting av alt.
For kunnskapsgjenfinning legger du ved de utvalgte kildeutdragene eller informasjon returnert av en gjenfinningskomponent. Be om utsagnet som besvarer spørsmålet, og utdraget som støtter det. Modellens tekstsvar kan forklare gjenfunnet informasjon, mens søk i en privat samling fortsatt er den tilkoblede applikasjonens oppgave. Modellen får ikke tilgang til samlingen bare fordi informasjonsgjenfinning er oppgitt som bruksområde.
For omskriving av søkespørsmål gir du det opprinnelige spørsmålet og formålet med søket. Be om en kort omformulering som bevarer enheten, vilkåret og den ønskede informasjonen. Et supportspørsmål kan omskrives med produktbegrepet og handlingen som er viktige, uten å legge til et faktum som ikke finnes i brukerens melding. Returner det reviderte søkespørsmålet atskilt fra eventuell forklaring dersom en annen komponent skal bruke det direkte.
For en skriveassistent angir du leser, tone og kildefakta før du ber om et kort brev eller et revidert tekstutdrag. For en uttrekksoppgave definerer du feltene og hvordan manglende informasjon skal representeres. Dette er konkrete operasjoner som knytter den kompakte modellens dokumenterte tekstfokus til et artefakt som kan undersøkes.
Støttede språk og trening
De offisielt støttede språkene er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trent på et bredere språkutvalg, noe som er forskjellig fra de åtte språkene modellkortet uttrykkelig støtter. Angi sluttspråket og eventuelle termer eller identifikatorer som må forbli uendret.
Familien er forhåndstrent på opptil ni billioner tokener, med en skjæringsdato for dataene i desember 2023. For 1B- og 3B-modellene bruker produsenten utdata fra Llama 3.1 8B og 70B som treningsmål på tokennivå og kunnskapsdestillasjon etter beskjæring. Dette er en treningsprosess; det betyr ikke at den utrullede 1B-modellen ber disse større modellene besvare hvert brukerspørsmål.
Kortet beskriver veiledet finjustering og preferansebasert tilpasning, med ettertreningsrunder som omfatter veiledede eksempler, avvisningssampling og direkte preferanseoptimalisering. Disse trinnene skaper Instruct-atferden, samtidig som det navngitte kontrollpunktet og modaliteten med bare tekst beholdes.
Samtale og kvantiserte utgaver
Produsenten viser separate system- og brukermeldinger med det tilhørende samtaleformatet. Definer assistentens rolle og svarkrav atskilt fra selve kildeteksten. Behold det relevante tidligere svaret når en oppfølging ber om en revisjon, avklaring eller annen form på den samme informasjonen.
Utgaven dokumenterer også forskjellige kvantiseringsbevisste og ettertreningskvantiserte varianter. Presisjonen deres og konteksten på 8k tilhører disse variantene fremfor å være en universell spesifikasjon for denne ordinære Instruct-oppføringen. Bruk nøyaktig kontrollpunkt og konfigurasjon når du sammenligner en gjentatt oppgave eller forbereder en avledet utrulling.
Vesentlige avgrensninger
Denne 1B-utgaven bruker bare tekst. Den skal ikke arve bildeinndata fra Llama 3.2s 11B- eller 90B-synsmodeller, Llama 4s tekst- og bildefunksjoner eller Muse Sparks navngitte kontroller for resonneringsinnsats. Kortets genereringseksempel på 256 tokener er en eksempelinnstilling, ikke en særskilt angitt maksimal svarkapasitet.
Et praktisk sluttresultat er det forespurte sammendraget, søkespørsmålet, den uttrukne posten eller den omskrevne teksten, med kildens relevante betydning og identifikatorer bevart. De leste kildene angir ikke en egen absolutt grense for antall utdatatokener. Hold oppgaven avgrenset, gjør inndatamaterialet fullstendig for den operasjonen og behold et tydelig skille mellom konteksten til den ordinære og den kvantiserte utgaven.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser meta-llama/llama-3.2-1b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.000054 / 1K tokener Utdata · Utgående tokener $0.000402 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.000054 / 1K tokener Utdata · Utgående tokener $0.000402 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Bruk metodestiene som vises ovenfor.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct er Metas kompakte tekstmodell med 1.23B parametere for dialog, oppsummering, kunnskapsgjenfinning og omskriving av søkespørsmål. Produsenten angir en kontekst på 128k for den ordinære utgaven og 8k for separate kvantiserte varianter, med flerspråklig tekst og kode som utdata.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Llama 3.2 1B Instruct er Metas kompakte instruksjonsjusterte tekstmodell, med 1.23 milliarder parametere i produsentens tabell. Den tar imot flerspråklig tekst og returnerer tekst eller kode. Utgaven er beregnet på dialog, kunnskapsgjenfinning, oppsummering, mobile skriveassistenter og omskriving av søkespørsmål eller ledetekster, fremfor bildeforståelsesoppgavene til Llamas separate synsutgaver.
Modellinformasjon og kontekst
Modellen bruker en autoregressiv Transformer-arkitektur med grouped-query attention og delte embeddings. Meta skiller mellom forhåndstrente og instruksjonsjusterte 1B- og 3B-modeller. Denne oppføringen gjelder 1B Instruct-kontrollpunktet, som har som oppgave å følge brukerens forespørsel i en samtale fremfor å fungere som det forhåndstrente grunnlaget.
Den ordinære tekstutgaven er dokumentert med en kontekst på 128k. Produsenten angir separat en kontekst på 8k for sine kvantiserte tekstmodeller. Disse konfigurasjonene bør holdes atskilt: kvantisering gir ikke grunnlag for å overføre den ordinære utgavens kontekst til ethvert kontrollpunkt i et mindre format eller for å utlede den konfigurerte kapasiteten til en bestemt tjeneste.
Bruk konteksten til utdragene og samtalen som er relevante for én definert operasjon. Et langt dokument kan fortsatt kreve et kort sammendrag, et omskrevet søkespørsmål eller et kildebasert svar. Angi hvilket materiale resultatet må bevare, og hvilken lengde eller hvilke felt neste trinn i applikasjonen trenger.
Informasjonsgjenfinning, sammendrag og omskriving
For oppsummering legger du ved det faktiske tekstutdraget eller samtalen og angir målgruppe, lengde og vesentlige fakta. Et nyttig resultat kan skille mellom hovedproblemet, allerede uttrykte beslutninger og åpne spørsmål. Hvis kilden inneholder flere temaer, angir du hvilket tema sammendraget skal dekke, fremfor å be om en urettet forkorting av alt.
For kunnskapsgjenfinning legger du ved de utvalgte kildeutdragene eller informasjon returnert av en gjenfinningskomponent. Be om utsagnet som besvarer spørsmålet, og utdraget som støtter det. Modellens tekstsvar kan forklare gjenfunnet informasjon, mens søk i en privat samling fortsatt er den tilkoblede applikasjonens oppgave. Modellen får ikke tilgang til samlingen bare fordi informasjonsgjenfinning er oppgitt som bruksområde.
For omskriving av søkespørsmål gir du det opprinnelige spørsmålet og formålet med søket. Be om en kort omformulering som bevarer enheten, vilkåret og den ønskede informasjonen. Et supportspørsmål kan omskrives med produktbegrepet og handlingen som er viktige, uten å legge til et faktum som ikke finnes i brukerens melding. Returner det reviderte søkespørsmålet atskilt fra eventuell forklaring dersom en annen komponent skal bruke det direkte.
For en skriveassistent angir du leser, tone og kildefakta før du ber om et kort brev eller et revidert tekstutdrag. For en uttrekksoppgave definerer du feltene og hvordan manglende informasjon skal representeres. Dette er konkrete operasjoner som knytter den kompakte modellens dokumenterte tekstfokus til et artefakt som kan undersøkes.
Støttede språk og trening
De offisielt støttede språkene er engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Modellen er trent på et bredere språkutvalg, noe som er forskjellig fra de åtte språkene modellkortet uttrykkelig støtter. Angi sluttspråket og eventuelle termer eller identifikatorer som må forbli uendret.
Familien er forhåndstrent på opptil ni billioner tokener, med en skjæringsdato for dataene i desember 2023. For 1B- og 3B-modellene bruker produsenten utdata fra Llama 3.1 8B og 70B som treningsmål på tokennivå og kunnskapsdestillasjon etter beskjæring. Dette er en treningsprosess; det betyr ikke at den utrullede 1B-modellen ber disse større modellene besvare hvert brukerspørsmål.
Kortet beskriver veiledet finjustering og preferansebasert tilpasning, med ettertreningsrunder som omfatter veiledede eksempler, avvisningssampling og direkte preferanseoptimalisering. Disse trinnene skaper Instruct-atferden, samtidig som det navngitte kontrollpunktet og modaliteten med bare tekst beholdes.
Samtale og kvantiserte utgaver
Produsenten viser separate system- og brukermeldinger med det tilhørende samtaleformatet. Definer assistentens rolle og svarkrav atskilt fra selve kildeteksten. Behold det relevante tidligere svaret når en oppfølging ber om en revisjon, avklaring eller annen form på den samme informasjonen.
Utgaven dokumenterer også forskjellige kvantiseringsbevisste og ettertreningskvantiserte varianter. Presisjonen deres og konteksten på 8k tilhører disse variantene fremfor å være en universell spesifikasjon for denne ordinære Instruct-oppføringen. Bruk nøyaktig kontrollpunkt og konfigurasjon når du sammenligner en gjentatt oppgave eller forbereder en avledet utrulling.
Vesentlige avgrensninger
Denne 1B-utgaven bruker bare tekst. Den skal ikke arve bildeinndata fra Llama 3.2s 11B- eller 90B-synsmodeller, Llama 4s tekst- og bildefunksjoner eller Muse Sparks navngitte kontroller for resonneringsinnsats. Kortets genereringseksempel på 256 tokener er en eksempelinnstilling, ikke en særskilt angitt maksimal svarkapasitet.
Et praktisk sluttresultat er det forespurte sammendraget, søkespørsmålet, den uttrukne posten eller den omskrevne teksten, med kildens relevante betydning og identifikatorer bevart. De leste kildene angir ikke en egen absolutt grense for antall utdatatokener. Hold oppgaven avgrenset, gjør inndatamaterialet fullstendig for den operasjonen og behold et tydelig skille mellom konteksten til den ordinære og den kvantiserte utgaven.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser meta-llama/llama-3.2-1b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.000054 / 1K tokener Utdata · Utgående tokener $0.000402 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.000054 / 1K tokener Utdata · Utgående tokener $0.000402 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.