Llama 3.1 70B on nimetty palvelussa ylläpidetty profiili Metan Llama 3.1 -malliperheessä. Sen malliluettelossa kontekstin pituudeksi ilmoitetaan 128,000 tokenia. Valmistaja dokumentoi tekstisyötteen sekä teksti- tai koodituloksen malliperheen 8B-, 70B- ja 405B-koille. Esikoulutetut ja ohjeviritetyt versiot julkaistaan erikseen; palvelussa ylläpidetyn profiilin tunniste säilytetään tässä kortissa.
Anna teksti ja nimeä lukijan tarvitsema tulos. Selitys voi keskittyä katkelman termiin, vaatimukseen tai suhteeseen. Uudelleenkirjoitus voi määritellä kohdeyleisön, sävyn ja halutun pituuden säilyttäen alkuperäisen merkityksen. Säilytä lähdetunnisteet, nimet ja määrät, kun ne vaikuttavat tarkastukseen.
Keskustelutiivistelmässä voidaan pyytää asiakkaan ongelma, jo tehdyt toimenpiteet ja jäljellä oleva kysymys. Anna olennaiset viestit ja pyydä niiden tunnisteet tiivistelmän mukaan, jotta jokainen yksityiskohta voidaan tarkistaa.
Koodikysymys voi sisältää olennaisen katkelman, sen syötteet ja toteutettavaksi tarkoitetun käyttäytymisen. Pyydä selitys tai kohdennettu ehdotus sekä esimerkki, jonka avulla sitä voi testata. Suorita palautettu toteutus kohdekehitysympäristössä ennen sen integroimista.
Merkitse katkelmavertailussa lähteet tunnistein ja nimeä tutkittavat näkökulmat. Pyydä havainto jokaisesta näkökulmasta sekä sitä tukeva lähdetunniste. Täsmällinen tulosmuoto antaa tarkastajalle konkreettisen kohteen.
Käytä ilmoitettua kontekstia olennaiseen aineistoon ja aiempiin päätöksiin jättäen vastaukselle tilaa. Ilmoita vastauskieli ja anna tarvittaessa suositeltu termistö. Anna ajantasainen näyttö nykyisistä tosiasioista riippuviin kysymyksiin, sillä malliperhe on koulutettu offline-aineistolla.
Säilytä profiilin identiteetti kehotteen ja tuloksen yhteydessä. Täsmällisestä esikoulutetusta tai ohjeviritetystä malliversiosta riippuvien ominaisuuksien tulee seurata todella valittua versiota.
", "aboutText": "Llama 3.1 70B on nimetty palvelussa ylläpidetty profiili Metan Llama 3.1 -malliperheessä. Sen malliluettelossa kontekstin pituudeksi ilmoitetaan 128,000 tokenia. Valmistaja dokumentoi tekstisyötteen sekä teksti- tai koodituloksen malliperheen 8B-, 70B- ja 405B-koille. Esikoulutetut ja ohjeviritetyt versiot julkaistaan erikseen; palvelussa ylläpidetyn profiilin tunniste säilytetään tässä kortissa.\n\n### Selitä tai muokkaa katkelmaa\n\nAnna teksti ja nimeä lukijan tarvitsema tulos. Selitys voi keskittyä katkelman termiin, vaatimukseen tai suhteeseen. Uudelleenkirjoitus voi määritellä kohdeyleisön, sävyn ja halutun pituuden säilyttäen alkuperäisen merkityksen. Säilytä lähdetunnisteet, nimet ja määrät, kun ne vaikuttavat tarkastukseen.\n\nKeskustelutiivistelmässä voidaan pyytää asiakkaan ongelma, jo tehdyt toimenpiteet ja jäljellä oleva kysymys. Anna olennaiset viestit ja pyydä niiden tunnisteet tiivistelmän mukaan, jotta jokainen yksityiskohta voidaan tarkistaa.\n\n### Työskentele koodin tai useiden katkelmien pohjalta\n\nKoodikysymys voi sisältää olennaisen katkelman, sen syötteet ja toteutettavaksi tarkoitetun käyttäytymisen. Pyydä selitys tai kohdennettu ehdotus sekä esimerkki, jonka avulla sitä voi testata. Suorita palautettu toteutus kohdekehitysympäristössä ennen sen integroimista.\n\nMerkitse katkelmavertailussa lähteet tunnistein ja nimeä tutkittavat näkökulmat. Pyydä havainto jokaisesta näkökulmasta sekä sitä tukeva lähdetunniste. Täsmällinen tulosmuoto antaa tarkastajalle konkreettisen kohteen.\n\n### Suunnittele konteksti ja kieli\n\nKäytä ilmoitettua kontekstia olennaiseen aineistoon ja aiempiin päätöksiin jättäen vastaukselle tilaa. Ilmoita vastauskieli ja anna tarvittaessa suositeltu termistö. Anna ajantasainen näyttö nykyisistä tosiasioista riippuviin kysymyksiin, sillä malliperhe on koulutettu offline-aineistolla.\n\nSäilytä profiilin identiteetti kehotteen ja tuloksen yhteydessä. Täsmällisestä esikoulutetusta tai ohjeviritetystä malliversiosta riippuvien ominaisuuksien tulee seurata todella valittua versiota.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekninen esimerkki englanniksi
Summarize a customer conversation\n\nSummarize this support conversation for a colleague. [M1 customer] Export fails for February orders. [M2 agent] Asked for the error text. [M3 customer] Error E-17; January exports work. Return the issue, evidence already received and the next unanswered question. Keep the message labels and do not claim a diagnosis.Three labelled handover fields tied to M1-M3, distinguishing the symptom from an unconfirmed cause.Check that E-17 and the January/February distinction remain and no fix is asserted.llama3.1-70bLlama 3.1 70B on Metan nimetty monikielinen tekstiprofiili, jonka ilmoitettu konteksti on 128,000 tokenia. Anna katkelma, keskustelu tai koodinäyte ja määrittele palautettava selitys, muokkaus tai lähteisiin liitetty tiivistelmä.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Llama 3.1 70B on nimetty palvelussa ylläpidetty profiili Metan Llama 3.1 -malliperheessä. Sen malliluettelossa kontekstin pituudeksi ilmoitetaan 128,000 tokenia. Valmistaja dokumentoi tekstisyötteen sekä teksti- tai koodituloksen malliperheen 8B-, 70B- ja 405B-koille. Esikoulutetut ja ohjeviritetyt versiot julkaistaan erikseen; palvelussa ylläpidetyn profiilin tunniste säilytetään tässä kortissa.
Anna teksti ja nimeä lukijan tarvitsema tulos. Selitys voi keskittyä katkelman termiin, vaatimukseen tai suhteeseen. Uudelleenkirjoitus voi määritellä kohdeyleisön, sävyn ja halutun pituuden säilyttäen alkuperäisen merkityksen. Säilytä lähdetunnisteet, nimet ja määrät, kun ne vaikuttavat tarkastukseen.
Keskustelutiivistelmässä voidaan pyytää asiakkaan ongelma, jo tehdyt toimenpiteet ja jäljellä oleva kysymys. Anna olennaiset viestit ja pyydä niiden tunnisteet tiivistelmän mukaan, jotta jokainen yksityiskohta voidaan tarkistaa.
Koodikysymys voi sisältää olennaisen katkelman, sen syötteet ja toteutettavaksi tarkoitetun käyttäytymisen. Pyydä selitys tai kohdennettu ehdotus sekä esimerkki, jonka avulla sitä voi testata. Suorita palautettu toteutus kohdekehitysympäristössä ennen sen integroimista.
Merkitse katkelmavertailussa lähteet tunnistein ja nimeä tutkittavat näkökulmat. Pyydä havainto jokaisesta näkökulmasta sekä sitä tukeva lähdetunniste. Täsmällinen tulosmuoto antaa tarkastajalle konkreettisen kohteen.
Käytä ilmoitettua kontekstia olennaiseen aineistoon ja aiempiin päätöksiin jättäen vastaukselle tilaa. Ilmoita vastauskieli ja anna tarvittaessa suositeltu termistö. Anna ajantasainen näyttö nykyisistä tosiasioista riippuviin kysymyksiin, sillä malliperhe on koulutettu offline-aineistolla.
Säilytä profiilin identiteetti kehotteen ja tuloksen yhteydessä. Täsmällisestä esikoulutetusta tai ohjeviritetystä malliversiosta riippuvien ominaisuuksien tulee seurata todella valittua versiota.
POST /v1/chat/completionstexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat llama3.1-70b | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Esimerkit: system, user, assistant, tool, function Ehdot: Nämä roolit esitetään nimenomaisesti lähdekoodin yhteensopivuustyypeissä; mallin täsmällinen roolijoukko pysyy mallikohtaisena. Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring|content_part[]|null | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_calls | Tyyppitool_call[] | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_call_id | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: role=tool; käytä todella palautettua ID:tä | Oletus— |
Kenttämessages[].name | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].reasoning_content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Palauta todella saatu päättely takaisin mallille, kun kyseinen malli käyttää sitä | Oletus— |
Kenttämessages[].reasoning_details | Tyyppiobject|array | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttämax_completion_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Kenttästream_options.include_usage | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätemperature | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätop_p | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttästop | Tyyppistring|string[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools | Tyyppifunction_tool[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools[].type | Tyyppistring | VaatimusValinnainen | Arvot & rajat function Riippuu mallista | Oletus— |
Kenttätools[].function.name | Tyyppistring | VaatimusPakollinen | Arvot & rajat Sovelletaan, kun: funktiotyökalu annettu | Oletus— |
Kenttätools[].function.description | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätools[].function.parameters | TyyppiJSON_schema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätool_choice | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäparallel_tool_calls | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäresponse_format | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning_effort | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäservice_tier | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäinstructions | Tyyppistring | VaatimusValinnainen | Arvot & rajat Yhteensopivuuskenttä | Oletus— |
Kenttäfunctions | Tyyppifunction[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäfunction_call | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäprompt_cache_options | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämodalities | Tyyppistring[] | VaatimusValinnainen | Arvot & rajat text | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätään tällä Ultran tekstireitillä | Oletus— |
Kenttäcache_control.ttl | Tyyppistring | VaatimusValinnainen | Arvot & rajat Ehdot: 1h hylätään varsinaisissa kehotevälimuistin kohdissa | Oletus— |
Teksti · UTF8-teksti
messages[].content
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametricontrol_scope | Sopimusmallikohtainen; käyttäjän funktiotyökalut eroavat palvelun isännöimistä työkaluista |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.003 / 1K tokenia Tuloste · Tulostokenit $0.003 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "llama3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='llama3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='llama3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra llama3.1-70b
Käytä yllä näytettyjä menetelmäpolkuja.
llama3.1-70bLlama 3.1 70B on Metan nimetty monikielinen tekstiprofiili, jonka ilmoitettu konteksti on 128,000 tokenia. Anna katkelma, keskustelu tai koodinäyte ja määrittele palautettava selitys, muokkaus tai lähteisiin liitetty tiivistelmä.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Llama 3.1 70B on nimetty palvelussa ylläpidetty profiili Metan Llama 3.1 -malliperheessä. Sen malliluettelossa kontekstin pituudeksi ilmoitetaan 128,000 tokenia. Valmistaja dokumentoi tekstisyötteen sekä teksti- tai koodituloksen malliperheen 8B-, 70B- ja 405B-koille. Esikoulutetut ja ohjeviritetyt versiot julkaistaan erikseen; palvelussa ylläpidetyn profiilin tunniste säilytetään tässä kortissa.
Anna teksti ja nimeä lukijan tarvitsema tulos. Selitys voi keskittyä katkelman termiin, vaatimukseen tai suhteeseen. Uudelleenkirjoitus voi määritellä kohdeyleisön, sävyn ja halutun pituuden säilyttäen alkuperäisen merkityksen. Säilytä lähdetunnisteet, nimet ja määrät, kun ne vaikuttavat tarkastukseen.
Keskustelutiivistelmässä voidaan pyytää asiakkaan ongelma, jo tehdyt toimenpiteet ja jäljellä oleva kysymys. Anna olennaiset viestit ja pyydä niiden tunnisteet tiivistelmän mukaan, jotta jokainen yksityiskohta voidaan tarkistaa.
Koodikysymys voi sisältää olennaisen katkelman, sen syötteet ja toteutettavaksi tarkoitetun käyttäytymisen. Pyydä selitys tai kohdennettu ehdotus sekä esimerkki, jonka avulla sitä voi testata. Suorita palautettu toteutus kohdekehitysympäristössä ennen sen integroimista.
Merkitse katkelmavertailussa lähteet tunnistein ja nimeä tutkittavat näkökulmat. Pyydä havainto jokaisesta näkökulmasta sekä sitä tukeva lähdetunniste. Täsmällinen tulosmuoto antaa tarkastajalle konkreettisen kohteen.
Käytä ilmoitettua kontekstia olennaiseen aineistoon ja aiempiin päätöksiin jättäen vastaukselle tilaa. Ilmoita vastauskieli ja anna tarvittaessa suositeltu termistö. Anna ajantasainen näyttö nykyisistä tosiasioista riippuviin kysymyksiin, sillä malliperhe on koulutettu offline-aineistolla.
Säilytä profiilin identiteetti kehotteen ja tuloksen yhteydessä. Täsmällisestä esikoulutetusta tai ohjeviritetystä malliversiosta riippuvien ominaisuuksien tulee seurata todella valittua versiota.
POST /v1/messagestextjson, sse| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat llama3.1-70b | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF-8-teksti
messages[].content-merkkijono
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.003 / 1K tokenia Tuloste · Tulostokenit $0.003 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
{\n "model": "llama3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra llama3.1-70b
Käytä yllä näytettyjä menetelmäpolkuja.
Tekninen esimerkki englanniksi
Summarize a customer conversation\n\nSummarize this support conversation for a colleague. [M1 customer] Export fails for February orders. [M2 agent] Asked for the error text. [M3 customer] Error E-17; January exports work. Return the issue, evidence already received and the next unanswered question. Keep the message labels and do not claim a diagnosis.Three labelled handover fields tied to M1-M3, distinguishing the symptom from an unconfirmed cause.Check that E-17 and the January/February distinction remain and no fix is asserted.