Meta Llama 3.2 3B Instruct är en instruktionsfinjusterad textmodell utformad för flerspråkiga assistentsamtal, arbete grundat i hämtat material och sammanfattningar. Tillverkarens modelltabell anger en 3B-klass med 3.21B parametrar. Den tar emot text och producerar text eller kod. Utvecklingen kombinerar modellbeskärning och kunskapsdestillering med instruktionsfinjustering och skapar därmed en liten modellprofil för avgränsade skriv- och assistentuppgifter.
Ge modellen källmaterialet, frågan och svarets förväntade form. En begäran om skrivstöd kan ange målgrupp, ton och detaljer som måste bevaras. En sammanfattning kan identifiera avsnitten som ska täckas och önskad längd eller struktur. För ett kort kunskapsbassvar tillhandahåller du det relevanta textavsnittet och ber om en förklaring grundad i den källan.
Tillverkaren nämner kunskapshämtning, sammanfattning, mobila skrivassistenter, omformulering av sökfrågor och omarbetning av promptar bland de avsedda användningarna för de instruktionsfinjusterade textmodellerna. En hämtningsapplikation kan tillhandahålla de textavsnitt den hittat och be modellen formulera svaret. Behåll avsnittsidentifierarna tillsammans med resultatet så att en läsare eller annan komponent kan granska underlaget.
För omformulering av sökfrågor bevarar du originalfrågan och ber om en kortfattad sökformulering som behåller dess avsikt. För en dokumentsammanfattning ber du om huvudutsagorna och de förbehåll som påverkar dem. Granska faktiska utdata efter utelämnade villkor, ändrade tal eller påhittad information, särskilt när ett kort svar komprimerar en större källa.
Engelska, tyska, franska, italienska, portugisiska, hindi, spanska och thailändska är de åtta språk som har officiellt stöd. Ange önskat utdataspråk och behåll stavningen av namn eller facktermer som måste förbli oförändrade. En flerspråkig uppgift bör bära med sig tillräcklig källkontext för att bedöma innebörden i den returnerade formuleringen, snarare än att bara förlita sig på språkligt flyt.
Standardcheckpointen för Llama 3.2 text har ett kontextfönster på 128K token. Använd den budgeten för relevant källmaterial, konversationshistorik och det genererade resultatet. Bevara tidigare beslut som behövs för fortsättningen och lämna utrymme för svaret. Förträningsdatans slutdatum är december 2023, så senare information behöver underlag som tillhandahålls med uppgiften eller av den omgivande hämtningsapplikationen.
Detta är Instruct-checkpointen, förberedd för assistentliknande dialog. Modellkortet beskriver övervakad finjustering och anpassning efter mänskliga preferenser, med ytterligare destillering under utvecklingen av de små modellerna. Användningsexemplen tillhandahåller system- och användarmeddelanden genom ett chattformat. En systeminstruktion kan definiera rollen och förväntningarna på utdata, medan användarmeddelandet tillhandahåller den aktuella uppgiften och källorna.
Använd ett konversationsformat som passar den valda utgåvan när dess checkpoint används direkt. Definiera resultatet tydligt och granska det genererade svaret, inklusive dess relation till det tillhandahållna underlaget. För ett strukturerat textresultat anger du vilka fält eller rubriker som krävs och validerar faktiska utdata innan en applikation använder dem; en skriftlig formatbegäran garanterar inte att varje värde är korrekt.
Tillverkaren skiljer standardtextmodellen från separat publicerade kvantiserade textprofiler för Llama 3.2. Modelltabellen anger en 8K-kontext för dessa kvantiserade profiler, skild från standardfönstret på 128K. Välj modell och arbetsbudget tillsammans i stället för att anta att varje driftsättning märkt 3B bevarar samma kontextutrymme.
Modellen 3B Instruct är också skild från Llama 3.2:s större bildmodeller. För denna textprofil förbereder du textuellt källmaterial eller text som den omgivande applikationen har hämtat fram. Använd modellen för ett avgränsat svar, en omskrivning, en sammanfattning eller en kort kodförklaring. Behåll den valda checkpointen, prompten och källan tillsammans med resultatet och gör sedan nästa instruktion specifik för den saknade detaljen eller det observerade felet.
", "aboutText": "Meta Llama 3.2 3B Instruct är en instruktionsfinjusterad textmodell utformad för flerspråkiga assistentsamtal, arbete grundat i hämtat material och sammanfattningar. Tillverkarens modelltabell anger en 3B-klass med 3.21B parametrar. Den tar emot text och producerar text eller kod. Utvecklingen kombinerar modellbeskärning och kunskapsdestillering med instruktionsfinjustering och skapar därmed en liten modellprofil för avgränsade skriv- och assistentuppgifter.\n\n### Definiera ett avgränsat textresultat\n\nGe modellen källmaterialet, frågan och svarets förväntade form. En begäran om skrivstöd kan ange målgrupp, ton och detaljer som måste bevaras. En sammanfattning kan identifiera avsnitten som ska täckas och önskad längd eller struktur. För ett kort kunskapsbassvar tillhandahåller du det relevanta textavsnittet och ber om en förklaring grundad i den källan.\n\nTillverkaren nämner kunskapshämtning, sammanfattning, mobila skrivassistenter, omformulering av sökfrågor och omarbetning av promptar bland de avsedda användningarna för de instruktionsfinjusterade textmodellerna. En hämtningsapplikation kan tillhandahålla de textavsnitt den hittat och be modellen formulera svaret. Behåll avsnittsidentifierarna tillsammans med resultatet så att en läsare eller annan komponent kan granska underlaget.\n\nFör omformulering av sökfrågor bevarar du originalfrågan och ber om en kortfattad sökformulering som behåller dess avsikt. För en dokumentsammanfattning ber du om huvudutsagorna och de förbehåll som påverkar dem. Granska faktiska utdata efter utelämnade villkor, ändrade tal eller påhittad information, särskilt när ett kort svar komprimerar en större källa.\n\n### Språk och kontext\n\nEngelska, tyska, franska, italienska, portugisiska, hindi, spanska och thailändska är de åtta språk som har officiellt stöd. Ange önskat utdataspråk och behåll stavningen av namn eller facktermer som måste förbli oförändrade. En flerspråkig uppgift bör bära med sig tillräcklig källkontext för att bedöma innebörden i den returnerade formuleringen, snarare än att bara förlita sig på språkligt flyt.\n\nStandardcheckpointen för Llama 3.2 text har ett kontextfönster på 128K token. Använd den budgeten för relevant källmaterial, konversationshistorik och det genererade resultatet. Bevara tidigare beslut som behövs för fortsättningen och lämna utrymme för svaret. Förträningsdatans slutdatum är december 2023, så senare information behöver underlag som tillhandahålls med uppgiften eller av den omgivande hämtningsapplikationen.\n\n### Instruktionsfinjustering och konversationsformat\n\nDetta är Instruct-checkpointen, förberedd för assistentliknande dialog. Modellkortet beskriver övervakad finjustering och anpassning efter mänskliga preferenser, med ytterligare destillering under utvecklingen av de små modellerna. Användningsexemplen tillhandahåller system- och användarmeddelanden genom ett chattformat. En systeminstruktion kan definiera rollen och förväntningarna på utdata, medan användarmeddelandet tillhandahåller den aktuella uppgiften och källorna.\n\nAnvänd ett konversationsformat som passar den valda utgåvan när dess checkpoint används direkt. Definiera resultatet tydligt och granska det genererade svaret, inklusive dess relation till det tillhandahållna underlaget. För ett strukturerat textresultat anger du vilka fält eller rubriker som krävs och validerar faktiska utdata innan en applikation använder dem; en skriftlig formatbegäran garanterar inte att varje värde är korrekt.\n\n### Standard-, kvantiserade och bildinriktade profiler\n\nTillverkaren skiljer standardtextmodellen från separat publicerade kvantiserade textprofiler för Llama 3.2. Modelltabellen anger en 8K-kontext för dessa kvantiserade profiler, skild från standardfönstret på 128K. Välj modell och arbetsbudget tillsammans i stället för att anta att varje driftsättning märkt 3B bevarar samma kontextutrymme.\n\nModellen 3B Instruct är också skild från Llama 3.2:s större bildmodeller. För denna textprofil förbereder du textuellt källmaterial eller text som den omgivande applikationen har hämtat fram. Använd modellen för ett avgränsat svar, en omskrivning, en sammanfattning eller en kort kodförklaring. Behåll den valda checkpointen, prompten och källan tillsammans med resultatet och gör sedan nästa instruktion specifik för den saknade detaljen eller det observerade felet.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct är en kompakt textmodell för flerspråkig chatt, sammanfattningar grundade i hämtat material och skrivstöd. Dess standardcheckpoint har en 128K-kontext; separat publicerade kvantiserade varianter har ett annat arbetsfönster.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Meta Llama 3.2 3B Instruct är en instruktionsfinjusterad textmodell utformad för flerspråkiga assistentsamtal, arbete grundat i hämtat material och sammanfattningar. Tillverkarens modelltabell anger en 3B-klass med 3.21B parametrar. Den tar emot text och producerar text eller kod. Utvecklingen kombinerar modellbeskärning och kunskapsdestillering med instruktionsfinjustering och skapar därmed en liten modellprofil för avgränsade skriv- och assistentuppgifter.
Ge modellen källmaterialet, frågan och svarets förväntade form. En begäran om skrivstöd kan ange målgrupp, ton och detaljer som måste bevaras. En sammanfattning kan identifiera avsnitten som ska täckas och önskad längd eller struktur. För ett kort kunskapsbassvar tillhandahåller du det relevanta textavsnittet och ber om en förklaring grundad i den källan.
Tillverkaren nämner kunskapshämtning, sammanfattning, mobila skrivassistenter, omformulering av sökfrågor och omarbetning av promptar bland de avsedda användningarna för de instruktionsfinjusterade textmodellerna. En hämtningsapplikation kan tillhandahålla de textavsnitt den hittat och be modellen formulera svaret. Behåll avsnittsidentifierarna tillsammans med resultatet så att en läsare eller annan komponent kan granska underlaget.
För omformulering av sökfrågor bevarar du originalfrågan och ber om en kortfattad sökformulering som behåller dess avsikt. För en dokumentsammanfattning ber du om huvudutsagorna och de förbehåll som påverkar dem. Granska faktiska utdata efter utelämnade villkor, ändrade tal eller påhittad information, särskilt när ett kort svar komprimerar en större källa.
Engelska, tyska, franska, italienska, portugisiska, hindi, spanska och thailändska är de åtta språk som har officiellt stöd. Ange önskat utdataspråk och behåll stavningen av namn eller facktermer som måste förbli oförändrade. En flerspråkig uppgift bör bära med sig tillräcklig källkontext för att bedöma innebörden i den returnerade formuleringen, snarare än att bara förlita sig på språkligt flyt.
Standardcheckpointen för Llama 3.2 text har ett kontextfönster på 128K token. Använd den budgeten för relevant källmaterial, konversationshistorik och det genererade resultatet. Bevara tidigare beslut som behövs för fortsättningen och lämna utrymme för svaret. Förträningsdatans slutdatum är december 2023, så senare information behöver underlag som tillhandahålls med uppgiften eller av den omgivande hämtningsapplikationen.
Detta är Instruct-checkpointen, förberedd för assistentliknande dialog. Modellkortet beskriver övervakad finjustering och anpassning efter mänskliga preferenser, med ytterligare destillering under utvecklingen av de små modellerna. Användningsexemplen tillhandahåller system- och användarmeddelanden genom ett chattformat. En systeminstruktion kan definiera rollen och förväntningarna på utdata, medan användarmeddelandet tillhandahåller den aktuella uppgiften och källorna.
Använd ett konversationsformat som passar den valda utgåvan när dess checkpoint används direkt. Definiera resultatet tydligt och granska det genererade svaret, inklusive dess relation till det tillhandahållna underlaget. För ett strukturerat textresultat anger du vilka fält eller rubriker som krävs och validerar faktiska utdata innan en applikation använder dem; en skriftlig formatbegäran garanterar inte att varje värde är korrekt.
Tillverkaren skiljer standardtextmodellen från separat publicerade kvantiserade textprofiler för Llama 3.2. Modelltabellen anger en 8K-kontext för dessa kvantiserade profiler, skild från standardfönstret på 128K. Välj modell och arbetsbudget tillsammans i stället för att anta att varje driftsättning märkt 3B bevarar samma kontextutrymme.
Modellen 3B Instruct är också skild från Llama 3.2:s större bildmodeller. För denna textprofil förbereder du textuellt källmaterial eller text som den omgivande applikationen har hämtat fram. Använd modellen för ett avgränsat svar, en omskrivning, en sammanfattning eller en kort kodförklaring. Behåll den valda checkpointen, prompten och källan tillsammans med resultatet och gör sedan nästa instruktion specifik för den saknade detaljen eller det observerade felet.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser meta-llama/llama-3.2-3b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0001 / 1K token Utdata · Utdatatoken $0.00066 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0001 / 1K token Utdata · Utdatatoken $0.00066 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Använd metodsökvägarna som visas ovan.
meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct är en kompakt textmodell för flerspråkig chatt, sammanfattningar grundade i hämtat material och skrivstöd. Dess standardcheckpoint har en 128K-kontext; separat publicerade kvantiserade varianter har ett annat arbetsfönster.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Meta Llama 3.2 3B Instruct är en instruktionsfinjusterad textmodell utformad för flerspråkiga assistentsamtal, arbete grundat i hämtat material och sammanfattningar. Tillverkarens modelltabell anger en 3B-klass med 3.21B parametrar. Den tar emot text och producerar text eller kod. Utvecklingen kombinerar modellbeskärning och kunskapsdestillering med instruktionsfinjustering och skapar därmed en liten modellprofil för avgränsade skriv- och assistentuppgifter.
Ge modellen källmaterialet, frågan och svarets förväntade form. En begäran om skrivstöd kan ange målgrupp, ton och detaljer som måste bevaras. En sammanfattning kan identifiera avsnitten som ska täckas och önskad längd eller struktur. För ett kort kunskapsbassvar tillhandahåller du det relevanta textavsnittet och ber om en förklaring grundad i den källan.
Tillverkaren nämner kunskapshämtning, sammanfattning, mobila skrivassistenter, omformulering av sökfrågor och omarbetning av promptar bland de avsedda användningarna för de instruktionsfinjusterade textmodellerna. En hämtningsapplikation kan tillhandahålla de textavsnitt den hittat och be modellen formulera svaret. Behåll avsnittsidentifierarna tillsammans med resultatet så att en läsare eller annan komponent kan granska underlaget.
För omformulering av sökfrågor bevarar du originalfrågan och ber om en kortfattad sökformulering som behåller dess avsikt. För en dokumentsammanfattning ber du om huvudutsagorna och de förbehåll som påverkar dem. Granska faktiska utdata efter utelämnade villkor, ändrade tal eller påhittad information, särskilt när ett kort svar komprimerar en större källa.
Engelska, tyska, franska, italienska, portugisiska, hindi, spanska och thailändska är de åtta språk som har officiellt stöd. Ange önskat utdataspråk och behåll stavningen av namn eller facktermer som måste förbli oförändrade. En flerspråkig uppgift bör bära med sig tillräcklig källkontext för att bedöma innebörden i den returnerade formuleringen, snarare än att bara förlita sig på språkligt flyt.
Standardcheckpointen för Llama 3.2 text har ett kontextfönster på 128K token. Använd den budgeten för relevant källmaterial, konversationshistorik och det genererade resultatet. Bevara tidigare beslut som behövs för fortsättningen och lämna utrymme för svaret. Förträningsdatans slutdatum är december 2023, så senare information behöver underlag som tillhandahålls med uppgiften eller av den omgivande hämtningsapplikationen.
Detta är Instruct-checkpointen, förberedd för assistentliknande dialog. Modellkortet beskriver övervakad finjustering och anpassning efter mänskliga preferenser, med ytterligare destillering under utvecklingen av de små modellerna. Användningsexemplen tillhandahåller system- och användarmeddelanden genom ett chattformat. En systeminstruktion kan definiera rollen och förväntningarna på utdata, medan användarmeddelandet tillhandahåller den aktuella uppgiften och källorna.
Använd ett konversationsformat som passar den valda utgåvan när dess checkpoint används direkt. Definiera resultatet tydligt och granska det genererade svaret, inklusive dess relation till det tillhandahållna underlaget. För ett strukturerat textresultat anger du vilka fält eller rubriker som krävs och validerar faktiska utdata innan en applikation använder dem; en skriftlig formatbegäran garanterar inte att varje värde är korrekt.
Tillverkaren skiljer standardtextmodellen från separat publicerade kvantiserade textprofiler för Llama 3.2. Modelltabellen anger en 8K-kontext för dessa kvantiserade profiler, skild från standardfönstret på 128K. Välj modell och arbetsbudget tillsammans i stället för att anta att varje driftsättning märkt 3B bevarar samma kontextutrymme.
Modellen 3B Instruct är också skild från Llama 3.2:s större bildmodeller. För denna textprofil förbereder du textuellt källmaterial eller text som den omgivande applikationen har hämtat fram. Använd modellen för ett avgränsat svar, en omskrivning, en sammanfattning eller en kort kodförklaring. Behåll den valda checkpointen, prompten och källan tillsammans med resultatet och gör sedan nästa instruktion specifik för den saknade detaljen eller det observerade felet.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser meta-llama/llama-3.2-3b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0001 / 1K token Utdata · Utdatatoken $0.00066 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0001 / 1K token Utdata · Utdatatoken $0.00066 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.