Source: https://ailoot.ai/models/sl/meta-llama-llama-3-2-1b-instruct/ Canonical: https://ailoot.ai/models/sl/meta-llama-llama-3-2-1b-instruct/ Language: sl # Meta: Llama 3.2 1B Instruct [Markdown](https://ailoot.ai/models/sl/meta-llama-llama-3-2-1b-instruct/index.md) · [JSON](https://ailoot.ai/models/sl/meta-llama-llama-3-2-1b-instruct/facts.json) ## [Meta: Llama 3.2 1B Instruct](https://ailoot.ai/models/sl/meta-llama-llama-3-2-1b-instruct/) Llama 3.2 1B Instruct je Metin kompakten besedilni model z 1.23B parametri za dialog, povzemanje, pridobivanje znanja in preoblikovanje poizvedb. Proizvajalec za običajno izdajo navaja kontekst 128k, za ločene kvantizirane različice pa 8k; izhod je večjezično besedilo ali koda. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/meta-llama-llama-3-2-1b-instruct/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/meta-llama-llama-3-2-1b-instruct/#method-1) O modelu Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo. Llama 3.2 1B Instruct je Metin kompakten besedilni model, prilagojen navodilom, z 1.23 milijarde parametrov v proizvajalčevi preglednici. Sprejema večjezično besedilo in vrača besedilo ali kodo. Izdaja je namenjena dialogu, pridobivanju znanja, povzemanju, mobilnim pomočnikom za pisanje ter preoblikovanju poizvedb ali pozivov, ne nalogam razumevanja slik, ki jih opravljajo ločene slikovne izdaje Llama. Podatki o modelu in kontekst Model uporablja avtoregresijsko arhitekturo Transformer s pozornostjo z združenimi poizvedbami in skupnimi vložitvami. Meta razlikuje med predhodno naučenimi modeli 1B in 3B ter modeli, prilagojenimi navodilom. Ta vnos predstavlja različico 1B Instruct, katere naloga je sledenje uporabnikovi zahtevi v pogovoru, ne delovanje kot predhodno naučena osnova. Za običajno besedilno izdajo je dokumentiran kontekst 128k. Proizvajalec za svoje kvantizirane besedilne modele ločeno navaja kontekst 8k. Ti konfiguraciji morata ostati ločeni: kvantizacija ne dovoljuje prenosa konteksta običajne izdaje na vsako različico v manjšem zapisu ali sklepanja o nastavljeni zmogljivosti posamezne storitve. Kontekst uporabite za odlomke in pogovor, ki so pomembni za eno določeno operacijo. Tudi dolg dokument lahko zahteva kratek povzetek, preoblikovano iskalno poizvedbo ali odgovor na podlagi virov. Določite gradivo, ki ga mora rezultat ohraniti, ter dolžino ali polja, ki jih potrebuje naslednji korak aplikacije. Pridobivanje informacij, povzetki in preoblikovanje Za povzemanje priložite dejanski odlomek ali pogovor ter določite občinstvo, dolžino in bistvena dejstva. Uporaben rezultat lahko loči osrednjo težavo, že navedene odločitve in odprta vprašanja. Če vir vsebuje več tem, določite, katero naj povzetek zajame, namesto da zahtevate neusmerjeno krajšanje vsega. Za pridobivanje znanja priložite izbrane izvorne odlomke ali informacije, ki jih vrne komponenta za pridobivanje informacij. Zahtevajte trditev, ki odgovarja na vprašanje, in odlomek, ki jo podpira. Besedilni odgovor modela lahko razloži pridobljene informacije, iskanje po zasebni zbirki pa ostaja delo povezane aplikacije. Model do te zbirke ne dobi dostopa zgolj zaradi oznake primera uporabe za pridobivanje informacij. Za preoblikovanje poizvedb podajte prvotno vprašanje in namen iskanja. Zahtevajte jedrnato preoblikovanje, ki ohranja entiteto, pogoj in želeno informacijo. Poizvedbo za podporo je mogoče preoblikovati z izrazom za izdelek in pomembnim dejanjem, ne da bi dodali dejstvo, ki ga ni v uporabnikovem sporočilu. Če bo druga komponenta spremenjeno poizvedbo uporabila neposredno, jo vrnite ločeno od morebitne razlage. Pri pomočniku za pisanje pred zahtevo za kratko pismo ali popravljen odlomek določite bralca, ton in izvorna dejstva. Pri nalogi izluščevanja določite polja in način prikaza manjkajočih informacij. To so konkretne operacije, ki dokumentirano besedilno usmeritev kompaktnega modela povežejo z izdelkom, ki ga je mogoče pregledati. Podprti jeziki in učenje Uradno podprti jeziki so angleščina, nemščina, francoščina, italijanščina, portugalščina, hindijščina, španščina in tajščina. Model je naučen na širši zbirki jezikov, kar se razlikuje od osmih jezikov, izrecno podprtih v kartici. Določite končni jezik ter izraze ali identifikatorje, ki morajo ostati nespremenjeni. Družina je predhodno naučena na do devetih bilijonih žetonov, s presečnim datumom podatkov december 2023. Za modela 1B in 3B proizvajalec uporablja izhode modelov Llama 3.1 8B in 70B kot učne cilje na ravni žetonov ter destilacijo znanja po obrezovanju. To je učni postopek; ne pomeni, da nameščeni model 1B pri vsakem uporabniškem vprašanju za odgovor prosi večja modela. Kartica opisuje nadzorovano dodatno učenje in usklajevanje na podlagi preferenc, pri čemer krogi po učenju vključujejo nadzorovane primere, vzorčenje z zavračanjem in neposredno optimizacijo preferenc. Te stopnje ustvarijo vedenje Instruct, pri tem pa ohranijo imenovano različico in izključno besedilno modalnost. Pogovor in kvantizirane izdaje Proizvajalec prikazuje ločena sistemska in uporabniška sporočila z uporabo ustrezne oblike pogovora. Vlogo pomočnika in zahteve za odgovor določite ločeno od dejanskega izvornega besedila. Ohranite pomemben prejšnji odgovor, kadar nadaljnja zahteva prosi za popravek, pojasnilo ali drugačno obliko iste informacije. Izdaja dokumentira tudi ločene različice z učenjem, ki upošteva kvantizacijo, in različice s kvantizacijo po učenju. Njihova natančnost in kontekst 8k pripadata tem različicam in nista splošna specifikacija za ta običajni vnos Instruct. Pri primerjavi ponovljene naloge ali pripravi izpeljane namestitve uporabite točno določeno različico in konfiguracijo. Vsebinske meje Ta izdaja 1B je samo besedilna. Ne sme prevzeti slikovnega vhoda od slikovnih modelov Llama 3.2 11B ali 90B, besedilnih in slikovnih zmožnosti Llama 4 ali imenovanih nastavitev intenzivnosti sklepanja Muse Spark. Primer ustvarjanja 256 žetonov v kartici je vzorčna nastavitev, ne neodvisno navedena največja zmogljivost odgovora. Praktičen končni rezultat je zahtevani povzetek, poizvedba, izluščeni zapis ali preoblikovano besedilo, ki ohranja pomemben pomen in identifikatorje vira. Prebrani viri ne navajajo ločene trde omejitve izhodnih žetonov. Naloga naj bo osredotočena, vhodno gradivo popolno za to operacijo, razlika med običajnim in kvantiziranim kontekstom pa izrecna. Praktična naloga ### Praktična naloga Tehnični primer v angleščini ``` Rewrite a retrieval query Rewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause. ``` #### Pričakovani rezultat ``` A single concise retrieval query retaining the product name, symptom and requested information. ``` #### Preverjanje rezultata ``` Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.2-1b-instruct` [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=chat) Meta /`meta-llama/llama-3.2-1b-instruct` ### Začetek Llama 3.2 1B Instruct je Metin kompakten besedilni model z 1.23B parametri za dialog, povzemanje, pridobivanje znanja in preoblikovanje poizvedb. Proizvajalec za običajno izdajo navaja kontekst 128k, za ločene kvantizirane različice pa 8k; izhod je večjezično besedilo ali koda. Dovoljeni vhodi Besedilo Rezultati Besedilo ### Na voljo v Ailoot · vhodi in metode **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Vhod `text` Izhod `text` Izhodni format json ali SSE | Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto | | --- | --- | --- | --- | --- | | Polje`model` | Vrsta`string` | ZahtevaObvezno | Vrednosti in omejitve meta-llama/llama-3.2-1b-instruct | Privzeto— | | Polje`messages` | Vrsta`message[]` | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— | | Polje`messages[].role` | Vrsta`string` | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— | | Polje`messages[].content` | Vrsta`string\|content_part[]\|null` | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— | | Polje`messages[].tool_calls` | Vrsta`tool_call[]` | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— | | Polje`messages[].tool_call_id` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— | | Polje`messages[].name` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— | | Polje`messages[].reasoning_content` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— | | Polje`messages[].reasoning_details` | Vrsta`object\|array` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`max_tokens` | Vrsta`integer` | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— | | Polje`max_completion_tokens` | Vrsta`integer` | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— | | Polje`stream` | Vrsta`boolean` | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse | | Polje`stream_options.include_usage` | Vrsta`boolean` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`temperature` | Vrsta`number` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`top_p` | Vrsta`number` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`stop` | Vrsta`string\|string[]` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`tools` | Vrsta`function_tool[]` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`tools[].type` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— | | Polje`tools[].function.name` | Vrsta`string` | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— | | Polje`tools[].function.description` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— | | Polje`tools[].function.parameters` | Vrsta`JSON_schema` | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— | | Polje`tool_choice` | Vrsta`string\|object` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`parallel_tool_calls` | Vrsta`boolean` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`response_format` | Vrsta`object` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`reasoning_effort` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`reasoning` | Vrsta`object` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`service_tier` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`instructions` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— | | Polje`functions` | Vrsta`function[]` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`function_call` | Vrsta`string\|object` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`prompt_cache_options` | Vrsta`object` | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— | | Polje`modalities` | Vrsta`string[]` | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— | | Polje`provider` | Vrsta`object` | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— | | Polje`cache_control.ttl` | Vrsta`string` | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— | Kombinacije vhodnih gradiv **Besedilo** · Besedilo UTF8 `messages[].content` Parametri in življenjski cikel metode | Parameter | Specifikacija | | --- | --- | | Parameter`content_type` | Specifikacijaapplication/json | | Parameter`required` | Specifikacijamodel, messages | | Parameter`material_types` | Specifikacijatext | | Parameter`messages` | Specifikacijapolje sporočil s strukturo role/content | | Parameter`file_material` | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje | | Parameter`optional_controls` | Specifikacijastream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parameter`control_scope` | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev | | Parameter`output_modalities` | Specifikacijatext | | Parameter`hosted_operations` | Specifikacijafalse | | Parameter`multimodal_input_binding` | Specifikacijanull | Življenjski cikel: `synchronous_or_streamed` Pošljite natančen ID modela skupaj z messages. Dolžina konteksta ni zgornja meja izhoda. Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo. ### Cenik Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi. Hitri način Standardna tarifa Ko je izbran hitri način Način flex Standardna tarifa Ko je izbran način flex Najvišja raven razmišljanja Standardna tarifa Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default) #### Cene Ailoot #### Cene po nastavitvah Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno. | Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek | | --- | --- | --- | --- | --- | | NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni **$0.000054** / 1K žetonov Izhod · Izhodni žetoni **$0.000402** / 1K žetonov Vhod · Branje predpomnilnika **—** / 1K žetonov Vhod · Zapis v predpomnilnik **—** / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura **—** / 1K žetonov | | NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni **$0.000054** / 1K žetonov Izhod · Izhodni žetoni **$0.000402** / 1K žetonov Vhod · Branje predpomnilnika **—** / 1K žetonov Vhod · Zapis v predpomnilnik **—** / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura **—** / 1K žetonov | Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. [Kako delujeta rezervacija in obračun →](https://ailoot.ai/docs/sl/billing/reserve/) ### Primeri zahtev #### Ailoot Ultra · OpenAI Chat curlPython SDKTok Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Prejmi in shrani rezultate #### Ailoot Ultra · OpenAI Chat json ali SSE ##### Ohrani vse dokončane rezultate Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine. Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi. ##### Če je treba preveriti izvirni odgovor Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan. Polja odgovora | Polje | Vrsta | | --- | --- | | Polje`choices[].index` | Vrstainteger | | Polje`choices[].message.content` | Vrstastring\|null | | Polje`choices[].message.tool_calls` | Vrstatool\_call\[\] | | Polje`choices[].message.reasoning_content` | Vrstastring | | Polje`choices[].message.reasoning_details` | Vrstaobject\|array | | Polje`choices[].finish_reason` | Vrstastring\|null | | Polje`usage` | Vrstaobject | Napake in naslednji koraki | Odgovor | Pogoj | Naslednji korak | | --- | --- | --- | | Odgovor400 · `invalid_request_error` | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. | ### Druga imena #### Druga imena modelov **Ailoot Ultra** [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=chat) #### Druga imena poti metod Uporabite zgoraj navedene poti metod. #### Povezani ID-ji za klic [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.2-1b-instruct` [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=messages) Meta /`meta-llama/llama-3.2-1b-instruct` ### Začetek Llama 3.2 1B Instruct je Metin kompakten besedilni model z 1.23B parametri za dialog, povzemanje, pridobivanje znanja in preoblikovanje poizvedb. Proizvajalec za običajno izdajo navaja kontekst 128k, za ločene kvantizirane različice pa 8k; izhod je večjezično besedilo ali koda. Dovoljeni vhodi Besedilo Rezultati json · sse ### Na voljo v Ailoot · vhodi in metode **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Vhod `text` Izhod `json`, `sse` Izhodni format JSON ali SSE | Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto | | --- | --- | --- | --- | --- | | Polje`model` | Vrsta`string` | ZahtevaObvezno | Vrednosti in omejitve meta-llama/llama-3.2-1b-instruct | Privzeto— | | Polje`messages` | Vrsta`message[]` | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— | | Polje`messages[].role` | Vrsta`string` | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— | | Polje`messages[].content` | Vrsta`string` | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— | | Polje`max_tokens` | Vrsta`integer` | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— | | Polje`stream` | Vrsta`boolean` | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse | Kombinacije vhodnih gradiv **Besedilo** · Besedilo UTF-8 `niz messages[].content` Parametri in življenjski cikel metode | Parameter | Specifikacija | | --- | --- | | Parameter`content_type` | Specifikacijaapplication/json | | Parameter`required` | Specifikacijamodel, messages, max\_tokens | | Parameter`optional_controls` | Specifikacijastream | | Parameter`material_types` | Specifikacijatext | | Parameter`text_file_material` | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. | Življenjski cikel: `synchronous_or_streamed` ### Cenik Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi. Hitri način Standardna tarifa Ko je izbran hitri način Način flex Standardna tarifa Ko je izbran način flex Najvišja raven razmišljanja Standardna tarifa Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default) #### Cene Ailoot #### Cene po nastavitvah Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno. | Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek | | --- | --- | --- | --- | --- | | NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni **$0.000054** / 1K žetonov Izhod · Izhodni žetoni **$0.000402** / 1K žetonov Vhod · Branje predpomnilnika **—** / 1K žetonov Vhod · Zapis v predpomnilnik **—** / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura **—** / 1K žetonov | | NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni **$0.000054** / 1K žetonov Izhod · Izhodni žetoni **$0.000402** / 1K žetonov Vhod · Branje predpomnilnika **—** / 1K žetonov Vhod · Zapis v predpomnilnik **—** / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura **—** / 1K žetonov | Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. [Kako delujeta rezervacija in obračun →](https://ailoot.ai/docs/sl/billing/reserve/) ### Primeri zahtev #### Ailoot Ultra · Anthropic Messages Popolno minimalno telo zahteve JSONcurl · uporabite svoj dokument UTF-8Python · shranite celoten rezultat ```json { "model": "meta-llama/llama-3.2-1b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Prejmi in shrani rezultate #### Ailoot Ultra · Anthropic Messages JSON ali SSE ##### Ohrani vse dokončane rezultate Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine. Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod. ##### Če je treba preveriti izvirni odgovor Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan. Polja odgovora | Polje | Vrsta | | --- | --- | | Polje`id` | Vrstastring | | Polje`model` | Vrstastring | | Polje`content[]` | Vrstatext\|thinking\|tool\_use\|other content block | | Polje`stop_reason` | Vrstastring\|null | | Polje`usage` | Vrstaobject | Napake in naslednji koraki | Odgovor | Pogoj | Naslednji korak | | --- | --- | --- | | Odgovor400 · `invalid_request_error` | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. | ### Druga imena #### Druga imena modelov **Ailoot Ultra** [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=messages) #### Druga imena poti metod Uporabite zgoraj navedene poti metod. #### Povezani ID-ji za klic [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/sl/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=messages) FAQ · Meta: Llama 3.2 1B Instruct Kateri vhodi in rezultati so na voljo? `POST /v1/chat/completions` · `meta-llama/llama-3.2-1b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.2-1b-instruct`: `text` → `json`, `sse` Katera polja uporablja zahteva? `POST /v1/chat/completions` · `meta-llama/llama-3.2-1b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.2-1b-instruct`: `model`, `messages`, `max_tokens`, `stream` Katere omejitve veljajo? `POST /v1/chat/completions` · `meta-llama/llama-3.2-1b-instruct`: `messages.min_items`: `1` Ailoot povežite s Claude Code, OpenCode, Hermes ali svojo aplikacijo. ## Podjetje in njegov portfelj projektov Podjetje in njegov portfelj projektov: milijoni strank; mesečna prodaja v milijardah. ## Žetone kupujte s popustom. Naročniški popust za redno delo. Promocijske kode prinesejo do 50% popusta na nakup žetonov. Naročnina Za redne zahteve izberite paket s popustom. Promocijska koda do 50% Kodo vnesite ob nakupu. Cena se preračuna po veljavni akciji. Poraba v zgodovini Za vsako zahtevo se shranijo model, žetoni in znesek. [Izberite naročnino](https://ailoot.ai/docs/sl/billing/subscriptions/) · [Oglejte si cene modelov](https://ailoot.ai/models/sl/) ## API povežite z izdelkom, ki ga prodajate. SaaS, aplikacije in boti po ponudbi in licenčni pogodbi Ailoot. Za nadaljnjo prodajo zaprosite za preprodajno licenco. Komercialna aplikacija Ustvarjanje besedila, slik, videa in zvoka vključite v plačljive funkcije svoje storitve. Licenca za preprodajalca Pošljite opis projekta in shemo dostopa. Zahtevajte pisne pogoje uporabe in nadaljnje prodaje. Dokumenti na strani Ponudba, licenčna pogodba in politika obdelave podatkov so dostopne pred povezavo. [Zaprosite za preprodajno licenco](mailto:support@ailoot.ai) · [Ponudba in licenčna pogodba](https://ailoot.ai/legal/offer?lang=sl) ## Ailoot · Podjetje in njegov portfelj projektov Ailoot temelji na pridobljenih operativnih izkušnjah, široki bazi strank, stabilni storitvi in stalnem spremljanju KPI. Podjetje in njegov portfelj projektov: milijoni strank; mesečna prodaja v milijardah. Ailoot te operativne izkušnje uporablja za dostop prek API do funkcij umetne inteligence v izdelkih strank, agentih, aplikacijah in avtomatizacijah.