Meta Llama 3.2 3B Instruct je besedilni model, prilagojen sledenju navodilom, zasnovan za večjezične pogovore s pomočnikom, delo na podlagi pridobljenih virov in povzemanje. Proizvajalčeva preglednica modelov navaja razred 3B s 3.21B parametri. Sprejema besedilo in ustvarja besedilo ali kodo. Njegov razvoj združuje obrezovanje modela in destilacijo znanja s prilagajanjem navodilom, s čimer nastane majhen model za osredotočene naloge pisanja in pomoči.
Modelu podajte izvorno gradivo, vprašanje in pričakovano obliko odgovora. Zahteva za pomoč pri pisanju lahko določa občinstvo, ton in podrobnosti, ki morajo ostati. Povzetek lahko opredeli razdelke, ki jih je treba zajeti, ter želeno dolžino ali strukturo. Za kratek odgovor iz zbirke znanja priložite ustrezen odlomek in zahtevajte razlago, ki temelji na tem viru.
Proizvajalec med predvidenimi uporabami besedilnih modelov, prilagojenih navodilom, navaja pridobivanje znanja, povzemanje, mobilne pomočnike za pisanje, preoblikovanje poizvedb in preoblikovanje pozivov. Aplikacija za pridobivanje informacij lahko posreduje najdene odlomke in model prosi, naj sestavi odgovor. Ob rezultatu ohranite identifikatorje odlomkov, da lahko bralec ali druga komponenta preveri dokaze.
Pri preoblikovanju poizvedbe ohranite prvotno vprašanje in zahtevajte jedrnato iskalno formulacijo, ki ohranja njegov namen. Pri povzetku dokumenta zahtevajte glavne trditve in pridržke, ki vplivajo nanje. Preverite, ali dejanski izhod izpušča pogoje, spreminja številke ali dodaja izmišljene informacije, zlasti kadar kratek odgovor stisne obsežnejši vir.
Angleščina, nemščina, francoščina, italijanščina, portugalščina, hindijščina, španščina in tajščina so osem uradno podprtih jezikov. Navedite želeni jezik izhoda in ohranite zapis imen ali strokovnega izrazja, ki mora ostati nespremenjeno. Večjezična naloga naj vsebuje dovolj izvornega konteksta, da je mogoče presoditi pomen vrnjenega besedila, namesto da bi se zanašali samo na tekočnost jezika.
Standardna besedilna različica Llama 3.2 ima kontekstno okno 128K žetonov. Ta obseg uporabite za ustrezno izvorno gradivo, zgodovino pogovora in ustvarjeni rezultat. Ohranite prejšnje odločitve, potrebne za nadaljevanje, in pustite prostor za odgovor. Presečni datum podatkov za predhodno učenje je december 2023, zato poznejše informacije potrebujejo dokaze, priložene nalogi ali pridobljene prek povezane aplikacije za iskanje informacij.
To je različica Instruct, pripravljena za dialog s pomočnikom. Kartica modela opisuje nadzorovano dodatno učenje in usklajevanje s človeškimi preferencami ter dodatno destilacijo med razvojem majhnih modelov. Primeri uporabe podajajo sistemska in uporabniška sporočila v obliki klepeta. Sistemsko navodilo lahko določi vlogo in pričakovanja glede izhoda, uporabniško sporočilo pa vsebuje trenutno nalogo in vire.
Pri neposredni uporabi modela ohranite obliko pogovora, primerno za izbrano izdajo. Jasno opredelite rezultat in preglejte ustvarjeni odgovor, tudi njegovo povezavo s priloženimi dokazi. Pri strukturiranem besedilnem izdelku določite zahtevana polja ali naslove in preverite dejanski izhod, preden ga uporabi aplikacija; pisna zahteva glede oblike ne zagotavlja pravilnosti vseh vrednosti.
Proizvajalec razlikuje med standardnim besedilnim modelom in ločeno objavljenimi kvantiziranimi besedilnimi profili Llama 3.2. Njegova preglednica modelov za te kvantizirane profile navaja kontekst 8K, ki se razlikuje od standardnega okna 128K. Model in delovni obseg izberite skupaj, namesto da bi predpostavljali, da vsaka namestitev z oznako 3B ohranja enako dovoljeno velikost konteksta.
Model 3B Instruct je prav tako ločen od večjih slikovnih modelov Llama 3.2. Za ta besedilni profil pripravite besedilno izvorno gradivo ali besedilo, ki ga pridobi povezana aplikacija. Model uporabite za osredotočen odgovor, preoblikovanje, povzetek ali kratko razlago kode. Ob rezultatu ohranite izbrano različico, poziv in vir, nato pa naslednje navodilo usmerite na manjkajočo podrobnost ali opaženo napako.
", "aboutText": "Meta Llama 3.2 3B Instruct je besedilni model, prilagojen sledenju navodilom, zasnovan za večjezične pogovore s pomočnikom, delo na podlagi pridobljenih virov in povzemanje. Proizvajalčeva preglednica modelov navaja razred 3B s 3.21B parametri. Sprejema besedilo in ustvarja besedilo ali kodo. Njegov razvoj združuje obrezovanje modela in destilacijo znanja s prilagajanjem navodilom, s čimer nastane majhen model za osredotočene naloge pisanja in pomoči.\n\n### Določite omejen besedilni rezultat\n\nModelu podajte izvorno gradivo, vprašanje in pričakovano obliko odgovora. Zahteva za pomoč pri pisanju lahko določa občinstvo, ton in podrobnosti, ki morajo ostati. Povzetek lahko opredeli razdelke, ki jih je treba zajeti, ter želeno dolžino ali strukturo. Za kratek odgovor iz zbirke znanja priložite ustrezen odlomek in zahtevajte razlago, ki temelji na tem viru.\n\nProizvajalec med predvidenimi uporabami besedilnih modelov, prilagojenih navodilom, navaja pridobivanje znanja, povzemanje, mobilne pomočnike za pisanje, preoblikovanje poizvedb in preoblikovanje pozivov. Aplikacija za pridobivanje informacij lahko posreduje najdene odlomke in model prosi, naj sestavi odgovor. Ob rezultatu ohranite identifikatorje odlomkov, da lahko bralec ali druga komponenta preveri dokaze.\n\nPri preoblikovanju poizvedbe ohranite prvotno vprašanje in zahtevajte jedrnato iskalno formulacijo, ki ohranja njegov namen. Pri povzetku dokumenta zahtevajte glavne trditve in pridržke, ki vplivajo nanje. Preverite, ali dejanski izhod izpušča pogoje, spreminja številke ali dodaja izmišljene informacije, zlasti kadar kratek odgovor stisne obsežnejši vir.\n\n### Jeziki in kontekst\n\nAngleščina, nemščina, francoščina, italijanščina, portugalščina, hindijščina, španščina in tajščina so osem uradno podprtih jezikov. Navedite želeni jezik izhoda in ohranite zapis imen ali strokovnega izrazja, ki mora ostati nespremenjeno. Večjezična naloga naj vsebuje dovolj izvornega konteksta, da je mogoče presoditi pomen vrnjenega besedila, namesto da bi se zanašali samo na tekočnost jezika.\n\nStandardna besedilna različica Llama 3.2 ima kontekstno okno 128K žetonov. Ta obseg uporabite za ustrezno izvorno gradivo, zgodovino pogovora in ustvarjeni rezultat. Ohranite prejšnje odločitve, potrebne za nadaljevanje, in pustite prostor za odgovor. Presečni datum podatkov za predhodno učenje je december 2023, zato poznejše informacije potrebujejo dokaze, priložene nalogi ali pridobljene prek povezane aplikacije za iskanje informacij.\n\n### Prilagajanje navodilom in oblika pogovora\n\nTo je različica Instruct, pripravljena za dialog s pomočnikom. Kartica modela opisuje nadzorovano dodatno učenje in usklajevanje s človeškimi preferencami ter dodatno destilacijo med razvojem majhnih modelov. Primeri uporabe podajajo sistemska in uporabniška sporočila v obliki klepeta. Sistemsko navodilo lahko določi vlogo in pričakovanja glede izhoda, uporabniško sporočilo pa vsebuje trenutno nalogo in vire.\n\nPri neposredni uporabi modela ohranite obliko pogovora, primerno za izbrano izdajo. Jasno opredelite rezultat in preglejte ustvarjeni odgovor, tudi njegovo povezavo s priloženimi dokazi. Pri strukturiranem besedilnem izdelku določite zahtevana polja ali naslove in preverite dejanski izhod, preden ga uporabi aplikacija; pisna zahteva glede oblike ne zagotavlja pravilnosti vseh vrednosti.\n\n### Standardni, kvantizirani in slikovni profili\n\nProizvajalec razlikuje med standardnim besedilnim modelom in ločeno objavljenimi kvantiziranimi besedilnimi profili Llama 3.2. Njegova preglednica modelov za te kvantizirane profile navaja kontekst 8K, ki se razlikuje od standardnega okna 128K. Model in delovni obseg izberite skupaj, namesto da bi predpostavljali, da vsaka namestitev z oznako 3B ohranja enako dovoljeno velikost konteksta.\n\nModel 3B Instruct je prav tako ločen od večjih slikovnih modelov Llama 3.2. Za ta besedilni profil pripravite besedilno izvorno gradivo ali besedilo, ki ga pridobi povezana aplikacija. Model uporabite za osredotočen odgovor, preoblikovanje, povzetek ali kratko razlago kode. Ob rezultatu ohranite izbrano različico, poziv in vir, nato pa naslednje navodilo usmerite na manjkajočo podrobnost ali opaženo napako.", "editorialOverlay": { "copy_fields": { "practical_html": "Tehnični primer v angleščini
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct je kompakten besedilni model za večjezični klepet, povzetke, podprte s pridobljenimi viri, in pomoč pri pisanju. Njegova standardna različica ima kontekst 128K; ločeno objavljene kvantizirane različice imajo drugačno delovno okno.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Meta Llama 3.2 3B Instruct je besedilni model, prilagojen sledenju navodilom, zasnovan za večjezične pogovore s pomočnikom, delo na podlagi pridobljenih virov in povzemanje. Proizvajalčeva preglednica modelov navaja razred 3B s 3.21B parametri. Sprejema besedilo in ustvarja besedilo ali kodo. Njegov razvoj združuje obrezovanje modela in destilacijo znanja s prilagajanjem navodilom, s čimer nastane majhen model za osredotočene naloge pisanja in pomoči.
Modelu podajte izvorno gradivo, vprašanje in pričakovano obliko odgovora. Zahteva za pomoč pri pisanju lahko določa občinstvo, ton in podrobnosti, ki morajo ostati. Povzetek lahko opredeli razdelke, ki jih je treba zajeti, ter želeno dolžino ali strukturo. Za kratek odgovor iz zbirke znanja priložite ustrezen odlomek in zahtevajte razlago, ki temelji na tem viru.
Proizvajalec med predvidenimi uporabami besedilnih modelov, prilagojenih navodilom, navaja pridobivanje znanja, povzemanje, mobilne pomočnike za pisanje, preoblikovanje poizvedb in preoblikovanje pozivov. Aplikacija za pridobivanje informacij lahko posreduje najdene odlomke in model prosi, naj sestavi odgovor. Ob rezultatu ohranite identifikatorje odlomkov, da lahko bralec ali druga komponenta preveri dokaze.
Pri preoblikovanju poizvedbe ohranite prvotno vprašanje in zahtevajte jedrnato iskalno formulacijo, ki ohranja njegov namen. Pri povzetku dokumenta zahtevajte glavne trditve in pridržke, ki vplivajo nanje. Preverite, ali dejanski izhod izpušča pogoje, spreminja številke ali dodaja izmišljene informacije, zlasti kadar kratek odgovor stisne obsežnejši vir.
Angleščina, nemščina, francoščina, italijanščina, portugalščina, hindijščina, španščina in tajščina so osem uradno podprtih jezikov. Navedite želeni jezik izhoda in ohranite zapis imen ali strokovnega izrazja, ki mora ostati nespremenjeno. Večjezična naloga naj vsebuje dovolj izvornega konteksta, da je mogoče presoditi pomen vrnjenega besedila, namesto da bi se zanašali samo na tekočnost jezika.
Standardna besedilna različica Llama 3.2 ima kontekstno okno 128K žetonov. Ta obseg uporabite za ustrezno izvorno gradivo, zgodovino pogovora in ustvarjeni rezultat. Ohranite prejšnje odločitve, potrebne za nadaljevanje, in pustite prostor za odgovor. Presečni datum podatkov za predhodno učenje je december 2023, zato poznejše informacije potrebujejo dokaze, priložene nalogi ali pridobljene prek povezane aplikacije za iskanje informacij.
To je različica Instruct, pripravljena za dialog s pomočnikom. Kartica modela opisuje nadzorovano dodatno učenje in usklajevanje s človeškimi preferencami ter dodatno destilacijo med razvojem majhnih modelov. Primeri uporabe podajajo sistemska in uporabniška sporočila v obliki klepeta. Sistemsko navodilo lahko določi vlogo in pričakovanja glede izhoda, uporabniško sporočilo pa vsebuje trenutno nalogo in vire.
Pri neposredni uporabi modela ohranite obliko pogovora, primerno za izbrano izdajo. Jasno opredelite rezultat in preglejte ustvarjeni odgovor, tudi njegovo povezavo s priloženimi dokazi. Pri strukturiranem besedilnem izdelku določite zahtevana polja ali naslove in preverite dejanski izhod, preden ga uporabi aplikacija; pisna zahteva glede oblike ne zagotavlja pravilnosti vseh vrednosti.
Proizvajalec razlikuje med standardnim besedilnim modelom in ločeno objavljenimi kvantiziranimi besedilnimi profili Llama 3.2. Njegova preglednica modelov za te kvantizirane profile navaja kontekst 8K, ki se razlikuje od standardnega okna 128K. Model in delovni obseg izberite skupaj, namesto da bi predpostavljali, da vsaka namestitev z oznako 3B ohranja enako dovoljeno velikost konteksta.
Model 3B Instruct je prav tako ločen od večjih slikovnih modelov Llama 3.2. Za ta besedilni profil pripravite besedilno izvorno gradivo ali besedilo, ki ga pridobi povezana aplikacija. Model uporabite za osredotočen odgovor, preoblikovanje, povzetek ali kratko razlago kode. Ob rezultatu ohranite izbrano različico, poziv in vir, nato pa naslednje navodilo usmerite na manjkajočo podrobnost ali opaženo napako.
POST /v1/chat/completionstexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve meta-llama/llama-3.2-3b-instruct | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— |
Poljemessages[].content | Vrstastring|content_part[]|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_calls | Vrstatool_call[] | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_call_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— |
Poljemessages[].name | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].reasoning_content | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— |
Poljemessages[].reasoning_details | Vrstaobject|array | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljemax_completion_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Poljestream_options.include_usage | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetemperature | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetop_p | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljestop | Vrstastring|string[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools | Vrstafunction_tool[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools[].type | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— |
Poljetools[].function.name | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— |
Poljetools[].function.description | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetools[].function.parameters | VrstaJSON_schema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetool_choice | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeparallel_tool_calls | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeresponse_format | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning_effort | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeservice_tier | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeinstructions | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— |
Poljefunctions | Vrstafunction[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljefunction_call | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeprompt_cache_options | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemodalities | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— |
Poljecache_control.ttl | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— |
Besedilo · Besedilo UTF8
messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages |
Parametermaterial_types | Specifikacijatext |
Parametermessages | Specifikacijapolje sporočil s strukturo role/content |
Parameterfile_material | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje |
Parameteroptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev |
Parameteroutput_modalities | Specifikacijatext |
Parameterhosted_operations | Specifikacijafalse |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous_or_streamed
Pošljite natančen ID modela skupaj z messages.
Dolžina konteksta ni zgornja meja izhoda.
Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo.
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.0001 / 1K žetonov Izhod · Izhodni žetoni $0.00066 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.0001 / 1K žetonov Izhod · Izhodni žetoni $0.00066 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljechoices[].index | Vrstainteger |
Poljechoices[].message.content | Vrstastring|null |
Poljechoices[].message.tool_calls | Vrstatool_call[] |
Poljechoices[].message.reasoning_content | Vrstastring |
Poljechoices[].message.reasoning_details | Vrstaobject|array |
Poljechoices[].finish_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Uporabite zgoraj navedene poti metod.
meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct je kompakten besedilni model za večjezični klepet, povzetke, podprte s pridobljenimi viri, in pomoč pri pisanju. Njegova standardna različica ima kontekst 128K; ločeno objavljene kvantizirane različice imajo drugačno delovno okno.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Meta Llama 3.2 3B Instruct je besedilni model, prilagojen sledenju navodilom, zasnovan za večjezične pogovore s pomočnikom, delo na podlagi pridobljenih virov in povzemanje. Proizvajalčeva preglednica modelov navaja razred 3B s 3.21B parametri. Sprejema besedilo in ustvarja besedilo ali kodo. Njegov razvoj združuje obrezovanje modela in destilacijo znanja s prilagajanjem navodilom, s čimer nastane majhen model za osredotočene naloge pisanja in pomoči.
Modelu podajte izvorno gradivo, vprašanje in pričakovano obliko odgovora. Zahteva za pomoč pri pisanju lahko določa občinstvo, ton in podrobnosti, ki morajo ostati. Povzetek lahko opredeli razdelke, ki jih je treba zajeti, ter želeno dolžino ali strukturo. Za kratek odgovor iz zbirke znanja priložite ustrezen odlomek in zahtevajte razlago, ki temelji na tem viru.
Proizvajalec med predvidenimi uporabami besedilnih modelov, prilagojenih navodilom, navaja pridobivanje znanja, povzemanje, mobilne pomočnike za pisanje, preoblikovanje poizvedb in preoblikovanje pozivov. Aplikacija za pridobivanje informacij lahko posreduje najdene odlomke in model prosi, naj sestavi odgovor. Ob rezultatu ohranite identifikatorje odlomkov, da lahko bralec ali druga komponenta preveri dokaze.
Pri preoblikovanju poizvedbe ohranite prvotno vprašanje in zahtevajte jedrnato iskalno formulacijo, ki ohranja njegov namen. Pri povzetku dokumenta zahtevajte glavne trditve in pridržke, ki vplivajo nanje. Preverite, ali dejanski izhod izpušča pogoje, spreminja številke ali dodaja izmišljene informacije, zlasti kadar kratek odgovor stisne obsežnejši vir.
Angleščina, nemščina, francoščina, italijanščina, portugalščina, hindijščina, španščina in tajščina so osem uradno podprtih jezikov. Navedite želeni jezik izhoda in ohranite zapis imen ali strokovnega izrazja, ki mora ostati nespremenjeno. Večjezična naloga naj vsebuje dovolj izvornega konteksta, da je mogoče presoditi pomen vrnjenega besedila, namesto da bi se zanašali samo na tekočnost jezika.
Standardna besedilna različica Llama 3.2 ima kontekstno okno 128K žetonov. Ta obseg uporabite za ustrezno izvorno gradivo, zgodovino pogovora in ustvarjeni rezultat. Ohranite prejšnje odločitve, potrebne za nadaljevanje, in pustite prostor za odgovor. Presečni datum podatkov za predhodno učenje je december 2023, zato poznejše informacije potrebujejo dokaze, priložene nalogi ali pridobljene prek povezane aplikacije za iskanje informacij.
To je različica Instruct, pripravljena za dialog s pomočnikom. Kartica modela opisuje nadzorovano dodatno učenje in usklajevanje s človeškimi preferencami ter dodatno destilacijo med razvojem majhnih modelov. Primeri uporabe podajajo sistemska in uporabniška sporočila v obliki klepeta. Sistemsko navodilo lahko določi vlogo in pričakovanja glede izhoda, uporabniško sporočilo pa vsebuje trenutno nalogo in vire.
Pri neposredni uporabi modela ohranite obliko pogovora, primerno za izbrano izdajo. Jasno opredelite rezultat in preglejte ustvarjeni odgovor, tudi njegovo povezavo s priloženimi dokazi. Pri strukturiranem besedilnem izdelku določite zahtevana polja ali naslove in preverite dejanski izhod, preden ga uporabi aplikacija; pisna zahteva glede oblike ne zagotavlja pravilnosti vseh vrednosti.
Proizvajalec razlikuje med standardnim besedilnim modelom in ločeno objavljenimi kvantiziranimi besedilnimi profili Llama 3.2. Njegova preglednica modelov za te kvantizirane profile navaja kontekst 8K, ki se razlikuje od standardnega okna 128K. Model in delovni obseg izberite skupaj, namesto da bi predpostavljali, da vsaka namestitev z oznako 3B ohranja enako dovoljeno velikost konteksta.
Model 3B Instruct je prav tako ločen od večjih slikovnih modelov Llama 3.2. Za ta besedilni profil pripravite besedilno izvorno gradivo ali besedilo, ki ga pridobi povezana aplikacija. Model uporabite za osredotočen odgovor, preoblikovanje, povzetek ali kratko razlago kode. Ob rezultatu ohranite izbrano različico, poziv in vir, nato pa naslednje navodilo usmerite na manjkajočo podrobnost ali opaženo napako.
POST /v1/messagestextjson, sse| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve meta-llama/llama-3.2-3b-instruct | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— |
Poljemessages[].content | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Besedilo · Besedilo UTF-8
niz messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages, max_tokens |
Parameteroptional_controls | Specifikacijastream |
Parametermaterial_types | Specifikacijatext |
Parametertext_file_material | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. |
Življenjski cikel: synchronous_or_streamed
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.0001 / 1K žetonov Izhod · Izhodni žetoni $0.00066 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.0001 / 1K žetonov Izhod · Izhodni žetoni $0.00066 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljecontent[] | Vrstatext|thinking|tool_use|other content block |
Poljestop_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Uporabite zgoraj navedene poti metod.
Tehnični primer v angleščini
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.