GPT-4 32K er OpenAIs GPT-4-tekstprofil med udvidet kontekst til opgaver, der kræver mere relateret materiale i én anmodning. Producenten dokumenterer en kontekst på 32.768 tokens sammenlignet med de 8.192 tokens i den oprindelige GPT-4-profil. Den modtager tekst og returnerer tekst, herunder forklaringer i naturligt sprog, udkast og kode. Den afgørende forskel er den større kontekst frem for 128K-vinduet eller de multimodale funktioner i senere GPT-4 Turbo-profiler.
Lever de dokumenter eller den kode, der hører til en klart angivet opgave. En kravsammenligning kan samle flere specifikationer og spørge, hvilke betingelser der stemmer overens, hvilke der er modstridende, og hvilken kilde der styrer en beslutning. Giv hver kilde en identifikator, og bed om den passage, der understøtter en væsentlig observation. Når relateret kildegrundlag holdes samlet, kan det hjælpe modellen med at sammenligne det, mens resultatet stadig skal bevare forbindelsen mellem en konklusion og dens kilde.
Til et spørgsmål om en kodebase skal du medtage de relevante funktioner, deres kaldere og den adfærd, der undersøges. Bed om en forklaring af afhængigheden eller en afgrænset ændring knyttet til den adfærd. Den større kontekst kan rumme nyttig omgivende kode, men fjerner ikke behovet for at definere spørgsmålet eller afslutningskriteriet. Et kodeforslag skal angive det inputtilfælde, der begrunder forslaget, og det forventede resultat, som kan kontrolleres.
GPT-4-lanceringen beskriver styring gennem systembeskeden: Udvikleren kan angive modellens opgave, tone og stil. Brug instruktionen til at fastslå, om svaret skal være en kort forklaring, en sammenligning, et udkast eller en post med navngivne felter. Definer, hvordan manglende oplysninger skal vises, og skeln mellem leverede fakta og antagelser. En dokumentbehandlingsopgave kan bede om en liste over betingelser med kildeidentifikator og den relevante passage ved siden af hver betingelse.
Bevar instruktionerne, efterhånden som samtalen udvikler sig. Medtag det faktiske tidligere resultat, når den næste anmodning reviderer det, og angiv, hvad der skal ændres. En nyttig opfølgning afgrænser en uoverensstemmelse i en sammenligning eller beder om en rettelse af én del af et udkast frem for at antage, at en ny isoleret prompt bevarer hele den tidligere opgave.
Leverandørens 0613-opdatering tilføjer forbedringerne af funktionskald i GPT-4 til udgaven med udvidet kontekst. Udvikleren beskriver en funktion og dens parametre, og modellen kan returnere et JSON-objekt med argumenter til funktionen. Applikationen udfører handlingen og leverer det returnerede resultat. Den nyttige funktion er en struktureret anmodning knyttet til applikationens adfærd frem for, at modellen selv gennemfører en ekstern handling.
Til en informationsassistent kan en funktion hente den faktiske post, der er nødvendig for at besvare et spørgsmål. Hold den ønskede identifikator og den returnerede post knyttet sammen, og bed derefter om et svar baseret på resultatet. Kontroller, om en foreslået handling er understøttet af brugerens anmodning, og om funktionen faktisk gennemførte den. Den opdaterede funktionsgrænseflade er adskilt fra de senere tilføjelser af JSON-tilstand og parallelle kald i GPT-4 Turbo.
Den oprindelige GPT-4-lancering angiver faktuelle hallucinationer, ræsonneringsfejl og begrænset viden om nyere begivenheder som væsentlige begrænsninger. Lanceringen siger, at størstedelen af træningsdataene for GPT-4 stammer fra tiden frem til september 2021. Lever aktuelt kildegrundlag til et spørgsmål, hvis svar har ændret sig, og kontroller væsentlige tal, navne og kodeadfærd mod kilden. En selvsikker forklaring kan stadig fejlfortolke en betingelse eller introducere en fejl.
Hold det ønskede resultat i forhold til opgaven og den tilgængelige kontekst. Tallet 32K er en kontekstkapacitet, ikke et løfte om et lige så langt færdigt svar eller perfekt forståelse af hver medtaget passage. Gem den valgte modelprofil, instruktioner, kildemateriale og resultat samlet. Det gør en sammenligning af lange dokumenter, en kodeforklaring eller et revideret udkast konkret nok til at undersøge og fortsætte arbejdet med.
", "aboutText": "GPT-4 32K er OpenAIs GPT-4-tekstprofil med udvidet kontekst til opgaver, der kræver mere relateret materiale i én anmodning. Producenten dokumenterer en kontekst på 32.768 tokens sammenlignet med de 8.192 tokens i den oprindelige GPT-4-profil. Den modtager tekst og returnerer tekst, herunder forklaringer i naturligt sprog, udkast og kode. Den afgørende forskel er den større kontekst frem for 128K-vinduet eller de multimodale funktioner i senere GPT-4 Turbo-profiler.\n\n### Brug konteksten til relateret kildegrundlag\n\nLever de dokumenter eller den kode, der hører til en klart angivet opgave. En kravsammenligning kan samle flere specifikationer og spørge, hvilke betingelser der stemmer overens, hvilke der er modstridende, og hvilken kilde der styrer en beslutning. Giv hver kilde en identifikator, og bed om den passage, der understøtter en væsentlig observation. Når relateret kildegrundlag holdes samlet, kan det hjælpe modellen med at sammenligne det, mens resultatet stadig skal bevare forbindelsen mellem en konklusion og dens kilde.\n\nTil et spørgsmål om en kodebase skal du medtage de relevante funktioner, deres kaldere og den adfærd, der undersøges. Bed om en forklaring af afhængigheden eller en afgrænset ændring knyttet til den adfærd. Den større kontekst kan rumme nyttig omgivende kode, men fjerner ikke behovet for at definere spørgsmålet eller afslutningskriteriet. Et kodeforslag skal angive det inputtilfælde, der begrunder forslaget, og det forventede resultat, som kan kontrolleres.\n\n### Angiv opgaven og svarstilen\n\nGPT-4-lanceringen beskriver styring gennem systembeskeden: Udvikleren kan angive modellens opgave, tone og stil. Brug instruktionen til at fastslå, om svaret skal være en kort forklaring, en sammenligning, et udkast eller en post med navngivne felter. Definer, hvordan manglende oplysninger skal vises, og skeln mellem leverede fakta og antagelser. En dokumentbehandlingsopgave kan bede om en liste over betingelser med kildeidentifikator og den relevante passage ved siden af hver betingelse.\n\nBevar instruktionerne, efterhånden som samtalen udvikler sig. Medtag det faktiske tidligere resultat, når den næste anmodning reviderer det, og angiv, hvad der skal ændres. En nyttig opfølgning afgrænser en uoverensstemmelse i en sammenligning eller beder om en rettelse af én del af et udkast frem for at antage, at en ny isoleret prompt bevarer hele den tidligere opgave.\n\n### Funktionskald i den opdaterede 32K-serie\n\nLeverandørens 0613-opdatering tilføjer forbedringerne af funktionskald i GPT-4 til udgaven med udvidet kontekst. Udvikleren beskriver en funktion og dens parametre, og modellen kan returnere et JSON-objekt med argumenter til funktionen. Applikationen udfører handlingen og leverer det returnerede resultat. Den nyttige funktion er en struktureret anmodning knyttet til applikationens adfærd frem for, at modellen selv gennemfører en ekstern handling.\n\nTil en informationsassistent kan en funktion hente den faktiske post, der er nødvendig for at besvare et spørgsmål. Hold den ønskede identifikator og den returnerede post knyttet sammen, og bed derefter om et svar baseret på resultatet. Kontroller, om en foreslået handling er understøttet af brugerens anmodning, og om funktionen faktisk gennemførte den. Den opdaterede funktionsgrænseflade er adskilt fra de senere tilføjelser af JSON-tilstand og parallelle kald i GPT-4 Turbo.\n\n### Gennemgå svaret mod materialet\n\nDen oprindelige GPT-4-lancering angiver faktuelle hallucinationer, ræsonneringsfejl og begrænset viden om nyere begivenheder som væsentlige begrænsninger. Lanceringen siger, at størstedelen af træningsdataene for GPT-4 stammer fra tiden frem til september 2021. Lever aktuelt kildegrundlag til et spørgsmål, hvis svar har ændret sig, og kontroller væsentlige tal, navne og kodeadfærd mod kilden. En selvsikker forklaring kan stadig fejlfortolke en betingelse eller introducere en fejl.\n\nHold det ønskede resultat i forhold til opgaven og den tilgængelige kontekst. Tallet 32K er en kontekstkapacitet, ikke et løfte om et lige så langt færdigt svar eller perfekt forståelse af hver medtaget passage. Gem den valgte modelprofil, instruktioner, kildemateriale og resultat samlet. Det gør en sammenligning af lange dokumenter, en kodeforklaring eller et revideret udkast konkret nok til at undersøge og fortsætte arbejdet med.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Compare a specification and addendum\n\nCompare these labelled terms for a project manager. Specification S: deliver 40 desks by 1 June; acceptance requires assembly. Addendum A: delivery moves to 8 June; all other terms remain unchanged. Addendum A has priority. Write the current obligations in three bullets and show which source establishes each. Do not treat the original deadline as still active.Three source-linked obligations for quantity, revised delivery date and assembly at acceptance.Only the deadline changes; the answer retains 40 desks and the assembly requirement.gpt-4-32kGPT-4 32K er GPT-4-tekstprofilen med udvidet kontekst til arbejde med større samlinger af dokumenter eller kode. Dens dokumenterede kontekst på 32.768 tokens understøtter relateret materiale i én opgave med systeminstruktioner til at styre svaret og dokumenterede funktionskald i den opdaterede 0613-udgave.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
GPT-4 32K er OpenAIs GPT-4-tekstprofil med udvidet kontekst til opgaver, der kræver mere relateret materiale i én anmodning. Producenten dokumenterer en kontekst på 32.768 tokens sammenlignet med de 8.192 tokens i den oprindelige GPT-4-profil. Den modtager tekst og returnerer tekst, herunder forklaringer i naturligt sprog, udkast og kode. Den afgørende forskel er den større kontekst frem for 128K-vinduet eller de multimodale funktioner i senere GPT-4 Turbo-profiler.
Lever de dokumenter eller den kode, der hører til en klart angivet opgave. En kravsammenligning kan samle flere specifikationer og spørge, hvilke betingelser der stemmer overens, hvilke der er modstridende, og hvilken kilde der styrer en beslutning. Giv hver kilde en identifikator, og bed om den passage, der understøtter en væsentlig observation. Når relateret kildegrundlag holdes samlet, kan det hjælpe modellen med at sammenligne det, mens resultatet stadig skal bevare forbindelsen mellem en konklusion og dens kilde.
Til et spørgsmål om en kodebase skal du medtage de relevante funktioner, deres kaldere og den adfærd, der undersøges. Bed om en forklaring af afhængigheden eller en afgrænset ændring knyttet til den adfærd. Den større kontekst kan rumme nyttig omgivende kode, men fjerner ikke behovet for at definere spørgsmålet eller afslutningskriteriet. Et kodeforslag skal angive det inputtilfælde, der begrunder forslaget, og det forventede resultat, som kan kontrolleres.
GPT-4-lanceringen beskriver styring gennem systembeskeden: Udvikleren kan angive modellens opgave, tone og stil. Brug instruktionen til at fastslå, om svaret skal være en kort forklaring, en sammenligning, et udkast eller en post med navngivne felter. Definer, hvordan manglende oplysninger skal vises, og skeln mellem leverede fakta og antagelser. En dokumentbehandlingsopgave kan bede om en liste over betingelser med kildeidentifikator og den relevante passage ved siden af hver betingelse.
Bevar instruktionerne, efterhånden som samtalen udvikler sig. Medtag det faktiske tidligere resultat, når den næste anmodning reviderer det, og angiv, hvad der skal ændres. En nyttig opfølgning afgrænser en uoverensstemmelse i en sammenligning eller beder om en rettelse af én del af et udkast frem for at antage, at en ny isoleret prompt bevarer hele den tidligere opgave.
Leverandørens 0613-opdatering tilføjer forbedringerne af funktionskald i GPT-4 til udgaven med udvidet kontekst. Udvikleren beskriver en funktion og dens parametre, og modellen kan returnere et JSON-objekt med argumenter til funktionen. Applikationen udfører handlingen og leverer det returnerede resultat. Den nyttige funktion er en struktureret anmodning knyttet til applikationens adfærd frem for, at modellen selv gennemfører en ekstern handling.
Til en informationsassistent kan en funktion hente den faktiske post, der er nødvendig for at besvare et spørgsmål. Hold den ønskede identifikator og den returnerede post knyttet sammen, og bed derefter om et svar baseret på resultatet. Kontroller, om en foreslået handling er understøttet af brugerens anmodning, og om funktionen faktisk gennemførte den. Den opdaterede funktionsgrænseflade er adskilt fra de senere tilføjelser af JSON-tilstand og parallelle kald i GPT-4 Turbo.
Den oprindelige GPT-4-lancering angiver faktuelle hallucinationer, ræsonneringsfejl og begrænset viden om nyere begivenheder som væsentlige begrænsninger. Lanceringen siger, at størstedelen af træningsdataene for GPT-4 stammer fra tiden frem til september 2021. Lever aktuelt kildegrundlag til et spørgsmål, hvis svar har ændret sig, og kontroller væsentlige tal, navne og kodeadfærd mod kilden. En selvsikker forklaring kan stadig fejlfortolke en betingelse eller introducere en fejl.
Hold det ønskede resultat i forhold til opgaven og den tilgængelige kontekst. Tallet 32K er en kontekstkapacitet, ikke et løfte om et lige så langt færdigt svar eller perfekt forståelse af hver medtaget passage. Gem den valgte modelprofil, instruktioner, kildemateriale og resultat samlet. Det gør en sammenligning af lange dokumenter, en kodeforklaring eller et revideret udkast konkret nok til at undersøge og fortsætte arbejdet med.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser gpt-4-32k | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.12 / 1K tokens Output · Outputtokens $0.24 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "gpt-4-32k", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='gpt-4-32k',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='gpt-4-32k',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra gpt-4-32k
Brug metodestierne vist ovenfor.
gpt-4-32kGPT-4 32K er GPT-4-tekstprofilen med udvidet kontekst til arbejde med større samlinger af dokumenter eller kode. Dens dokumenterede kontekst på 32.768 tokens understøtter relateret materiale i én opgave med systeminstruktioner til at styre svaret og dokumenterede funktionskald i den opdaterede 0613-udgave.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
GPT-4 32K er OpenAIs GPT-4-tekstprofil med udvidet kontekst til opgaver, der kræver mere relateret materiale i én anmodning. Producenten dokumenterer en kontekst på 32.768 tokens sammenlignet med de 8.192 tokens i den oprindelige GPT-4-profil. Den modtager tekst og returnerer tekst, herunder forklaringer i naturligt sprog, udkast og kode. Den afgørende forskel er den større kontekst frem for 128K-vinduet eller de multimodale funktioner i senere GPT-4 Turbo-profiler.
Lever de dokumenter eller den kode, der hører til en klart angivet opgave. En kravsammenligning kan samle flere specifikationer og spørge, hvilke betingelser der stemmer overens, hvilke der er modstridende, og hvilken kilde der styrer en beslutning. Giv hver kilde en identifikator, og bed om den passage, der understøtter en væsentlig observation. Når relateret kildegrundlag holdes samlet, kan det hjælpe modellen med at sammenligne det, mens resultatet stadig skal bevare forbindelsen mellem en konklusion og dens kilde.
Til et spørgsmål om en kodebase skal du medtage de relevante funktioner, deres kaldere og den adfærd, der undersøges. Bed om en forklaring af afhængigheden eller en afgrænset ændring knyttet til den adfærd. Den større kontekst kan rumme nyttig omgivende kode, men fjerner ikke behovet for at definere spørgsmålet eller afslutningskriteriet. Et kodeforslag skal angive det inputtilfælde, der begrunder forslaget, og det forventede resultat, som kan kontrolleres.
GPT-4-lanceringen beskriver styring gennem systembeskeden: Udvikleren kan angive modellens opgave, tone og stil. Brug instruktionen til at fastslå, om svaret skal være en kort forklaring, en sammenligning, et udkast eller en post med navngivne felter. Definer, hvordan manglende oplysninger skal vises, og skeln mellem leverede fakta og antagelser. En dokumentbehandlingsopgave kan bede om en liste over betingelser med kildeidentifikator og den relevante passage ved siden af hver betingelse.
Bevar instruktionerne, efterhånden som samtalen udvikler sig. Medtag det faktiske tidligere resultat, når den næste anmodning reviderer det, og angiv, hvad der skal ændres. En nyttig opfølgning afgrænser en uoverensstemmelse i en sammenligning eller beder om en rettelse af én del af et udkast frem for at antage, at en ny isoleret prompt bevarer hele den tidligere opgave.
Leverandørens 0613-opdatering tilføjer forbedringerne af funktionskald i GPT-4 til udgaven med udvidet kontekst. Udvikleren beskriver en funktion og dens parametre, og modellen kan returnere et JSON-objekt med argumenter til funktionen. Applikationen udfører handlingen og leverer det returnerede resultat. Den nyttige funktion er en struktureret anmodning knyttet til applikationens adfærd frem for, at modellen selv gennemfører en ekstern handling.
Til en informationsassistent kan en funktion hente den faktiske post, der er nødvendig for at besvare et spørgsmål. Hold den ønskede identifikator og den returnerede post knyttet sammen, og bed derefter om et svar baseret på resultatet. Kontroller, om en foreslået handling er understøttet af brugerens anmodning, og om funktionen faktisk gennemførte den. Den opdaterede funktionsgrænseflade er adskilt fra de senere tilføjelser af JSON-tilstand og parallelle kald i GPT-4 Turbo.
Den oprindelige GPT-4-lancering angiver faktuelle hallucinationer, ræsonneringsfejl og begrænset viden om nyere begivenheder som væsentlige begrænsninger. Lanceringen siger, at størstedelen af træningsdataene for GPT-4 stammer fra tiden frem til september 2021. Lever aktuelt kildegrundlag til et spørgsmål, hvis svar har ændret sig, og kontroller væsentlige tal, navne og kodeadfærd mod kilden. En selvsikker forklaring kan stadig fejlfortolke en betingelse eller introducere en fejl.
Hold det ønskede resultat i forhold til opgaven og den tilgængelige kontekst. Tallet 32K er en kontekstkapacitet, ikke et løfte om et lige så langt færdigt svar eller perfekt forståelse af hver medtaget passage. Gem den valgte modelprofil, instruktioner, kildemateriale og resultat samlet. Det gør en sammenligning af lange dokumenter, en kodeforklaring eller et revideret udkast konkret nok til at undersøge og fortsætte arbejdet med.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser gpt-4-32k | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.12 / 1K tokens Output · Outputtokens $0.24 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "gpt-4-32k",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'gpt-4-32k', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'gpt-4-32k', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra gpt-4-32k
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Compare a specification and addendum\n\nCompare these labelled terms for a project manager. Specification S: deliver 40 desks by 1 June; acceptance requires assembly. Addendum A: delivery moves to 8 June; all other terms remain unchanged. Addendum A has priority. Write the current obligations in three bullets and show which source establishes each. Do not treat the original deadline as still active.Three source-linked obligations for quantity, revised delivery date and assembly at acceptance.Only the deadline changes; the answer retains 40 desks and the assembly requirement.