GPT-4 32K je besedilni profil GPT-4 podjetja OpenAI z razširjenim kontekstom za naloge, ki potrebujejo več povezanega gradiva v eni zahtevi. Proizvajalec dokumentira kontekst 32 768 tokenov v primerjavi z 8 192 tokeni prvotnega profila GPT-4. Sprejema besedilo in vrača besedilo, vključno s pojasnili v naravnem jeziku, osnutki in kodo. Njegova glavna razlika je večji kontekst, ne okno 128K ali večmodalne zmogljivosti poznejših profilov GPT-4 Turbo.
Priložite dokumente ali kodo, relevantne za jasno določeno nalogo. Primerjava zahtev lahko združi več specifikacij in vpraša, kateri pogoji se ujemajo, kateri si nasprotujejo in kateri vir določa odločitev. Vsakemu viru dodelite identifikator in zahtevajte odlomek, ki podpira pomembno ugotovitev. Skupna obravnava povezanih dokazov lahko modelu pomaga pri primerjanju, rezultat pa mora še vedno ohraniti povezavo med zaključkom in njegovim virom.
Pri vprašanju o kodni zbirki vključite relevantne funkcije, mesta njihovih klicev in preučevano vedenje. Zahtevajte pojasnilo odvisnosti ali osredotočeno spremembo, povezano s tem vedenjem. Večji kontekst lahko zajame uporabno okoliško kodo, vendar ne odpravi potrebe po določitvi vprašanja ali merila dokončanja. Predlog kode naj opredeli vhodni primer, ki ga utemeljuje, in pričakovani rezultat, ki ga je mogoče preveriti.
Objava GPT-4 opisuje usmerjanje s sistemskim sporočilom: razvijalec lahko določi nalogo, ton in slog modela. S tem navodilom določite, ali naj bo odgovor kratko pojasnilo, primerjava, osnutek ali zapis s poimenovanimi polji. Določite, kako naj bodo prikazane manjkajoče informacije, in ločite priložena dejstva od predpostavk. Naloga obdelave dokumentov lahko zahteva seznam pogojev z identifikatorjem vira in relevantnim odlomkom ob vsakem pogoju.
Ta navodila ohranjajte med razvojem pogovora. Kadar naslednja zahteva popravlja prejšnji rezultat, vključite dejanski prejšnji rezultat in določite, kaj naj se spremeni. Uporabno nadaljnje vprašanje zoži nesoglasje v primerjavi ali zahteva popravek enega dela osnutka, namesto da predpostavi, da nov, ločen poziv ohranja celotno prejšnjo nalogo.
Proizvajalčeva posodobitev 0613 izdaji z razširjenim kontekstom doda izboljšave klicanja funkcij iz GPT-4. Razvijalec opiše funkcijo in njene parametre, model pa lahko vrne objekt JSON z argumenti za to funkcijo. Aplikacija izvede operacijo in poda vrnjeni rezultat. Uporabna zmogljivost je strukturirana zahteva, povezana z vedenjem aplikacije, ne neposredna izvedba zunanjega dejanja s strani modela.
Pri informacijskem asistentu lahko funkcija pridobi dejanski zapis, potreben za odgovor na vprašanje. Zahtevani identifikator in vrnjeni zapis ohranite povezana, nato zahtevajte odgovor na podlagi tega rezultata. Preverite, ali uporabnikova zahteva podpira predlagano dejanje in ali ga je funkcija dejansko dokončala. Posodobljeni vmesnik funkcij je ločen od poznejših dodatkov načina JSON in vzporednega klicanja v GPT-4 Turbo.
Prvotna objava GPT-4 kot pomembne omejitve navaja izmišljena dejstva, napake pri sklepanju in omejeno poznavanje novejših dogodkov. Ta objava navaja, da se večina učnih podatkov GPT-4 časovno konča septembra 2021. Pri vprašanju, katerega odgovor se je spremenil, priložite aktualne dokaze ter pomembne številke, imena in vedenje kode preverite glede na vir. Tudi samozavestno pojasnilo lahko napačno razume pogoj ali uvede napako.
Zahtevani izdelek naj bo sorazmeren nalogi in razpoložljivemu kontekstu. Podatek 32K pomeni zmogljivost konteksta, ne obljube enako dolgega dokončanega odgovora ali popolnega razumevanja vsakega vključenega odlomka. Izbrani profil modela, navodila, izvorno gradivo in rezultat shranite skupaj. Tako so primerjava dolgih dokumentov, pojasnilo kode ali popravljeni osnutek dovolj konkretni za pregled in nadaljevanje.
", "aboutText": "GPT-4 32K je besedilni profil GPT-4 podjetja OpenAI z razširjenim kontekstom za naloge, ki potrebujejo več povezanega gradiva v eni zahtevi. Proizvajalec dokumentira kontekst 32 768 tokenov v primerjavi z 8 192 tokeni prvotnega profila GPT-4. Sprejema besedilo in vrača besedilo, vključno s pojasnili v naravnem jeziku, osnutki in kodo. Njegova glavna razlika je večji kontekst, ne okno 128K ali večmodalne zmogljivosti poznejših profilov GPT-4 Turbo.\n\n### Kontekst uporabite za povezane dokaze\n\nPriložite dokumente ali kodo, relevantne za jasno določeno nalogo. Primerjava zahtev lahko združi več specifikacij in vpraša, kateri pogoji se ujemajo, kateri si nasprotujejo in kateri vir določa odločitev. Vsakemu viru dodelite identifikator in zahtevajte odlomek, ki podpira pomembno ugotovitev. Skupna obravnava povezanih dokazov lahko modelu pomaga pri primerjanju, rezultat pa mora še vedno ohraniti povezavo med zaključkom in njegovim virom.\n\nPri vprašanju o kodni zbirki vključite relevantne funkcije, mesta njihovih klicev in preučevano vedenje. Zahtevajte pojasnilo odvisnosti ali osredotočeno spremembo, povezano s tem vedenjem. Večji kontekst lahko zajame uporabno okoliško kodo, vendar ne odpravi potrebe po določitvi vprašanja ali merila dokončanja. Predlog kode naj opredeli vhodni primer, ki ga utemeljuje, in pričakovani rezultat, ki ga je mogoče preveriti.\n\n### Določite nalogo in slog odgovora\n\nObjava GPT-4 opisuje usmerjanje s sistemskim sporočilom: razvijalec lahko določi nalogo, ton in slog modela. S tem navodilom določite, ali naj bo odgovor kratko pojasnilo, primerjava, osnutek ali zapis s poimenovanimi polji. Določite, kako naj bodo prikazane manjkajoče informacije, in ločite priložena dejstva od predpostavk. Naloga obdelave dokumentov lahko zahteva seznam pogojev z identifikatorjem vira in relevantnim odlomkom ob vsakem pogoju.\n\nTa navodila ohranjajte med razvojem pogovora. Kadar naslednja zahteva popravlja prejšnji rezultat, vključite dejanski prejšnji rezultat in določite, kaj naj se spremeni. Uporabno nadaljnje vprašanje zoži nesoglasje v primerjavi ali zahteva popravek enega dela osnutka, namesto da predpostavi, da nov, ločen poziv ohranja celotno prejšnjo nalogo.\n\n### Klicanje funkcij v posodobljeni liniji 32K\n\nProizvajalčeva posodobitev 0613 izdaji z razširjenim kontekstom doda izboljšave klicanja funkcij iz GPT-4. Razvijalec opiše funkcijo in njene parametre, model pa lahko vrne objekt JSON z argumenti za to funkcijo. Aplikacija izvede operacijo in poda vrnjeni rezultat. Uporabna zmogljivost je strukturirana zahteva, povezana z vedenjem aplikacije, ne neposredna izvedba zunanjega dejanja s strani modela.\n\nPri informacijskem asistentu lahko funkcija pridobi dejanski zapis, potreben za odgovor na vprašanje. Zahtevani identifikator in vrnjeni zapis ohranite povezana, nato zahtevajte odgovor na podlagi tega rezultata. Preverite, ali uporabnikova zahteva podpira predlagano dejanje in ali ga je funkcija dejansko dokončala. Posodobljeni vmesnik funkcij je ločen od poznejših dodatkov načina JSON in vzporednega klicanja v GPT-4 Turbo.\n\n### Odgovor preverite glede na gradivo\n\nPrvotna objava GPT-4 kot pomembne omejitve navaja izmišljena dejstva, napake pri sklepanju in omejeno poznavanje novejših dogodkov. Ta objava navaja, da se večina učnih podatkov GPT-4 časovno konča septembra 2021. Pri vprašanju, katerega odgovor se je spremenil, priložite aktualne dokaze ter pomembne številke, imena in vedenje kode preverite glede na vir. Tudi samozavestno pojasnilo lahko napačno razume pogoj ali uvede napako.\n\nZahtevani izdelek naj bo sorazmeren nalogi in razpoložljivemu kontekstu. Podatek 32K pomeni zmogljivost konteksta, ne obljube enako dolgega dokončanega odgovora ali popolnega razumevanja vsakega vključenega odlomka. Izbrani profil modela, navodila, izvorno gradivo in rezultat shranite skupaj. Tako so primerjava dolgih dokumentov, pojasnilo kode ali popravljeni osnutek dovolj konkretni za pregled in nadaljevanje.", "editorialOverlay": { "copy_fields": { "practical_html": "Tehnični primer v angleščini
Compare a specification and addendum\n\nCompare these labelled terms for a project manager. Specification S: deliver 40 desks by 1 June; acceptance requires assembly. Addendum A: delivery moves to 8 June; all other terms remain unchanged. Addendum A has priority. Write the current obligations in three bullets and show which source establishes each. Do not treat the original deadline as still active.Three source-linked obligations for quantity, revised delivery date and assembly at acceptance.Only the deadline changes; the answer retains 40 desks and the assembly requirement.gpt-4-32kGPT-4 32K je besedilni profil GPT-4 z razširjenim kontekstom za delo z večjimi zbirkami dokumentov ali kode. Njegov dokumentirani kontekst 32 768 tokenov podpira povezano gradivo v eni nalogi, sistemska navodila usmerjajo odgovor, posodobljena izdaja 0613 pa dokumentira klicanje funkcij.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
GPT-4 32K je besedilni profil GPT-4 podjetja OpenAI z razširjenim kontekstom za naloge, ki potrebujejo več povezanega gradiva v eni zahtevi. Proizvajalec dokumentira kontekst 32 768 tokenov v primerjavi z 8 192 tokeni prvotnega profila GPT-4. Sprejema besedilo in vrača besedilo, vključno s pojasnili v naravnem jeziku, osnutki in kodo. Njegova glavna razlika je večji kontekst, ne okno 128K ali večmodalne zmogljivosti poznejših profilov GPT-4 Turbo.
Priložite dokumente ali kodo, relevantne za jasno določeno nalogo. Primerjava zahtev lahko združi več specifikacij in vpraša, kateri pogoji se ujemajo, kateri si nasprotujejo in kateri vir določa odločitev. Vsakemu viru dodelite identifikator in zahtevajte odlomek, ki podpira pomembno ugotovitev. Skupna obravnava povezanih dokazov lahko modelu pomaga pri primerjanju, rezultat pa mora še vedno ohraniti povezavo med zaključkom in njegovim virom.
Pri vprašanju o kodni zbirki vključite relevantne funkcije, mesta njihovih klicev in preučevano vedenje. Zahtevajte pojasnilo odvisnosti ali osredotočeno spremembo, povezano s tem vedenjem. Večji kontekst lahko zajame uporabno okoliško kodo, vendar ne odpravi potrebe po določitvi vprašanja ali merila dokončanja. Predlog kode naj opredeli vhodni primer, ki ga utemeljuje, in pričakovani rezultat, ki ga je mogoče preveriti.
Objava GPT-4 opisuje usmerjanje s sistemskim sporočilom: razvijalec lahko določi nalogo, ton in slog modela. S tem navodilom določite, ali naj bo odgovor kratko pojasnilo, primerjava, osnutek ali zapis s poimenovanimi polji. Določite, kako naj bodo prikazane manjkajoče informacije, in ločite priložena dejstva od predpostavk. Naloga obdelave dokumentov lahko zahteva seznam pogojev z identifikatorjem vira in relevantnim odlomkom ob vsakem pogoju.
Ta navodila ohranjajte med razvojem pogovora. Kadar naslednja zahteva popravlja prejšnji rezultat, vključite dejanski prejšnji rezultat in določite, kaj naj se spremeni. Uporabno nadaljnje vprašanje zoži nesoglasje v primerjavi ali zahteva popravek enega dela osnutka, namesto da predpostavi, da nov, ločen poziv ohranja celotno prejšnjo nalogo.
Proizvajalčeva posodobitev 0613 izdaji z razširjenim kontekstom doda izboljšave klicanja funkcij iz GPT-4. Razvijalec opiše funkcijo in njene parametre, model pa lahko vrne objekt JSON z argumenti za to funkcijo. Aplikacija izvede operacijo in poda vrnjeni rezultat. Uporabna zmogljivost je strukturirana zahteva, povezana z vedenjem aplikacije, ne neposredna izvedba zunanjega dejanja s strani modela.
Pri informacijskem asistentu lahko funkcija pridobi dejanski zapis, potreben za odgovor na vprašanje. Zahtevani identifikator in vrnjeni zapis ohranite povezana, nato zahtevajte odgovor na podlagi tega rezultata. Preverite, ali uporabnikova zahteva podpira predlagano dejanje in ali ga je funkcija dejansko dokončala. Posodobljeni vmesnik funkcij je ločen od poznejših dodatkov načina JSON in vzporednega klicanja v GPT-4 Turbo.
Prvotna objava GPT-4 kot pomembne omejitve navaja izmišljena dejstva, napake pri sklepanju in omejeno poznavanje novejših dogodkov. Ta objava navaja, da se večina učnih podatkov GPT-4 časovno konča septembra 2021. Pri vprašanju, katerega odgovor se je spremenil, priložite aktualne dokaze ter pomembne številke, imena in vedenje kode preverite glede na vir. Tudi samozavestno pojasnilo lahko napačno razume pogoj ali uvede napako.
Zahtevani izdelek naj bo sorazmeren nalogi in razpoložljivemu kontekstu. Podatek 32K pomeni zmogljivost konteksta, ne obljube enako dolgega dokončanega odgovora ali popolnega razumevanja vsakega vključenega odlomka. Izbrani profil modela, navodila, izvorno gradivo in rezultat shranite skupaj. Tako so primerjava dolgih dokumentov, pojasnilo kode ali popravljeni osnutek dovolj konkretni za pregled in nadaljevanje.
POST /v1/chat/completionstexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve gpt-4-32k | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— |
Poljemessages[].content | Vrstastring|content_part[]|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_calls | Vrstatool_call[] | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_call_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— |
Poljemessages[].name | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].reasoning_content | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— |
Poljemessages[].reasoning_details | Vrstaobject|array | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljemax_completion_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Poljestream_options.include_usage | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetemperature | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetop_p | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljestop | Vrstastring|string[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools | Vrstafunction_tool[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools[].type | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— |
Poljetools[].function.name | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— |
Poljetools[].function.description | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetools[].function.parameters | VrstaJSON_schema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetool_choice | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeparallel_tool_calls | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeresponse_format | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning_effort | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeservice_tier | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeinstructions | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— |
Poljefunctions | Vrstafunction[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljefunction_call | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeprompt_cache_options | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemodalities | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— |
Poljecache_control.ttl | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— |
Besedilo · Besedilo UTF8
messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages |
Parametermaterial_types | Specifikacijatext |
Parametermessages | Specifikacijapolje sporočil s strukturo role/content |
Parameterfile_material | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje |
Parameteroptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev |
Parameteroutput_modalities | Specifikacijatext |
Parameterhosted_operations | Specifikacijafalse |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous_or_streamed
Pošljite natančen ID modela skupaj z messages.
Dolžina konteksta ni zgornja meja izhoda.
Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo.
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.12 / 1K žetonov Izhod · Izhodni žetoni $0.24 / 1K žetonov Vhod · Branje predpomnilnika $0 / 1K žetonov Vhod · Zapis v predpomnilnik $0 / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "gpt-4-32k", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='gpt-4-32k',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='gpt-4-32k',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljechoices[].index | Vrstainteger |
Poljechoices[].message.content | Vrstastring|null |
Poljechoices[].message.tool_calls | Vrstatool_call[] |
Poljechoices[].message.reasoning_content | Vrstastring |
Poljechoices[].message.reasoning_details | Vrstaobject|array |
Poljechoices[].finish_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra gpt-4-32k
Uporabite zgoraj navedene poti metod.
gpt-4-32kGPT-4 32K je besedilni profil GPT-4 z razširjenim kontekstom za delo z večjimi zbirkami dokumentov ali kode. Njegov dokumentirani kontekst 32 768 tokenov podpira povezano gradivo v eni nalogi, sistemska navodila usmerjajo odgovor, posodobljena izdaja 0613 pa dokumentira klicanje funkcij.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
GPT-4 32K je besedilni profil GPT-4 podjetja OpenAI z razširjenim kontekstom za naloge, ki potrebujejo več povezanega gradiva v eni zahtevi. Proizvajalec dokumentira kontekst 32 768 tokenov v primerjavi z 8 192 tokeni prvotnega profila GPT-4. Sprejema besedilo in vrača besedilo, vključno s pojasnili v naravnem jeziku, osnutki in kodo. Njegova glavna razlika je večji kontekst, ne okno 128K ali večmodalne zmogljivosti poznejših profilov GPT-4 Turbo.
Priložite dokumente ali kodo, relevantne za jasno določeno nalogo. Primerjava zahtev lahko združi več specifikacij in vpraša, kateri pogoji se ujemajo, kateri si nasprotujejo in kateri vir določa odločitev. Vsakemu viru dodelite identifikator in zahtevajte odlomek, ki podpira pomembno ugotovitev. Skupna obravnava povezanih dokazov lahko modelu pomaga pri primerjanju, rezultat pa mora še vedno ohraniti povezavo med zaključkom in njegovim virom.
Pri vprašanju o kodni zbirki vključite relevantne funkcije, mesta njihovih klicev in preučevano vedenje. Zahtevajte pojasnilo odvisnosti ali osredotočeno spremembo, povezano s tem vedenjem. Večji kontekst lahko zajame uporabno okoliško kodo, vendar ne odpravi potrebe po določitvi vprašanja ali merila dokončanja. Predlog kode naj opredeli vhodni primer, ki ga utemeljuje, in pričakovani rezultat, ki ga je mogoče preveriti.
Objava GPT-4 opisuje usmerjanje s sistemskim sporočilom: razvijalec lahko določi nalogo, ton in slog modela. S tem navodilom določite, ali naj bo odgovor kratko pojasnilo, primerjava, osnutek ali zapis s poimenovanimi polji. Določite, kako naj bodo prikazane manjkajoče informacije, in ločite priložena dejstva od predpostavk. Naloga obdelave dokumentov lahko zahteva seznam pogojev z identifikatorjem vira in relevantnim odlomkom ob vsakem pogoju.
Ta navodila ohranjajte med razvojem pogovora. Kadar naslednja zahteva popravlja prejšnji rezultat, vključite dejanski prejšnji rezultat in določite, kaj naj se spremeni. Uporabno nadaljnje vprašanje zoži nesoglasje v primerjavi ali zahteva popravek enega dela osnutka, namesto da predpostavi, da nov, ločen poziv ohranja celotno prejšnjo nalogo.
Proizvajalčeva posodobitev 0613 izdaji z razširjenim kontekstom doda izboljšave klicanja funkcij iz GPT-4. Razvijalec opiše funkcijo in njene parametre, model pa lahko vrne objekt JSON z argumenti za to funkcijo. Aplikacija izvede operacijo in poda vrnjeni rezultat. Uporabna zmogljivost je strukturirana zahteva, povezana z vedenjem aplikacije, ne neposredna izvedba zunanjega dejanja s strani modela.
Pri informacijskem asistentu lahko funkcija pridobi dejanski zapis, potreben za odgovor na vprašanje. Zahtevani identifikator in vrnjeni zapis ohranite povezana, nato zahtevajte odgovor na podlagi tega rezultata. Preverite, ali uporabnikova zahteva podpira predlagano dejanje in ali ga je funkcija dejansko dokončala. Posodobljeni vmesnik funkcij je ločen od poznejših dodatkov načina JSON in vzporednega klicanja v GPT-4 Turbo.
Prvotna objava GPT-4 kot pomembne omejitve navaja izmišljena dejstva, napake pri sklepanju in omejeno poznavanje novejših dogodkov. Ta objava navaja, da se večina učnih podatkov GPT-4 časovno konča septembra 2021. Pri vprašanju, katerega odgovor se je spremenil, priložite aktualne dokaze ter pomembne številke, imena in vedenje kode preverite glede na vir. Tudi samozavestno pojasnilo lahko napačno razume pogoj ali uvede napako.
Zahtevani izdelek naj bo sorazmeren nalogi in razpoložljivemu kontekstu. Podatek 32K pomeni zmogljivost konteksta, ne obljube enako dolgega dokončanega odgovora ali popolnega razumevanja vsakega vključenega odlomka. Izbrani profil modela, navodila, izvorno gradivo in rezultat shranite skupaj. Tako so primerjava dolgih dokumentov, pojasnilo kode ali popravljeni osnutek dovolj konkretni za pregled in nadaljevanje.
POST /v1/messagestextjson, sse| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve gpt-4-32k | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— |
Poljemessages[].content | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Besedilo · Besedilo UTF-8
niz messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages, max_tokens |
Parameteroptional_controls | Specifikacijastream |
Parametermaterial_types | Specifikacijatext |
Parametertext_file_material | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. |
Življenjski cikel: synchronous_or_streamed
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.12 / 1K žetonov Izhod · Izhodni žetoni $0.24 / 1K žetonov Vhod · Branje predpomnilnika $0 / 1K žetonov Vhod · Zapis v predpomnilnik $0 / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
{\n "model": "gpt-4-32k",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'gpt-4-32k', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'gpt-4-32k', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljecontent[] | Vrstatext|thinking|tool_use|other content block |
Poljestop_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra gpt-4-32k
Uporabite zgoraj navedene poti metod.
Tehnični primer v angleščini
Compare a specification and addendum\n\nCompare these labelled terms for a project manager. Specification S: deliver 40 desks by 1 June; acceptance requires assembly. Addendum A: delivery moves to 8 June; all other terms remain unchanged. Addendum A has priority. Write the current obligations in three bullets and show which source establishes each. Do not treat the original deadline as still active.Three source-linked obligations for quantity, revised delivery date and assembly at acceptance.Only the deadline changes; the answer retains 40 desks and the assembly requirement.