OpenAI: GPT-4o-mini (batch)
GPT-4o Mini håndterer avgrensede tekst- og bildeoppgaver, inkludert dokumentuthenting, korte svar og verktøykall i applikasjoner. Konteksten på 128000 tokener og Structured Outputs støtter gjentakbare arbeidsflyter med et tydelig definert resultat.
Om modellen
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
GPT-4o Mini er OpenAIs lille modell i GPT-4o-familien for avgrenset arbeid. Den tar imot tekst og bilder og produserer tekst, inkludert Structured Outputs. Rollen er nyttig når en applikasjon trenger et kort svar på en veldefinert forespørsel: hente ut felt, utvikle et svar fra innsendt referansemateriale eller gjennomføre et avgrenset trinn i en større prosess.
For et støttesvar oppgir du den innkommende meldingen, relevante regelutdrag og fakta som allerede er fastslått i samtalen. Be om et kort svarforslag, og angi eventuell informasjon som fortsatt trengs fra avsenderen. For dokumentuthenting definerer du feltene, forklarer håndteringen av manglende verdier og beholder en etikett som knytter hvert resultat til kilden. Den samme tilnærmingen kan gi en klassifisering, en redigert passasje eller en forklaring av en liten kodeendring uten å behandle modellen som en erstatning for applikasjonens omkringliggende logikk.
Produsenten oppgir et kontekstvindu på 128000 tokener, en maksimal utdatamengde på 16384 tokener og en kunnskapsgrense på 1. oktober 2023. Kildemateriale, samtale og genererte utdata opptar denne konteksten sammen. Hold vesentlige tidligere fakta synlige, og angi det påkrevde sluttproduktet. GPT-4o Mini er en separat liten modell, ikke en modus for utdatalengde i full GPT-4o; modellens egen identitet og muligheter skal styre oppgaven selv når de to modellene deler spesifikasjoner.
Bilder kan gi et skjermbilde, en dokumentside, et fotografi eller et diagram. OpenAIs bildearbeidsflyt godtar PNG, JPEG, WebP og ikke-animerte GIF-bilder, med detaljnivåene low, high eller auto for denne familien. Høyere detaljnivå følger produsentens behandling med bildefliser. Hold viktige etiketter leselige og riktig vei, og forklar hvilken del av bildet som skal forme svaret. Fine romlige sammenhenger, nøyaktig telling av gjenstander, uvanlige bildeprojeksjoner og noen former for ikke-latinsk tekst er dokumenterte vanskeligheter. Et avgrenset spørsmål gjør et visuelt svar lettere å sammenligne med det opprinnelige belegget. I OpenAIs dokumenterte bildearbeidsflyt er den samlede datamengden i forespørselen begrenset til 512 MB, og en forespørsel kan inneholde opptil 1500 bilder; bildene og teksten må også passe i modellens kontekst.
Produsentens filarbeidsflyt sender uthentet tekst og sidebilder fra PDF-filer til modeller med bildestøtte. Andre kontor- og tekstfiler bidrar med uthentet tekst, så innebygde bilder og diagrammer trenger en PDF-representasjon når det visuelle innholdet er viktig. Suppleringen fra regneark bruker opptil de første 1000 radene i hvert ark. Hver fil må være under 50 MB, med en samlet forespørselsgrense på 50 MB. Chat Completions godtar PDF-fildeler; den dokumenterte Responses-arbeidsflyten godtar et bredere sett av filformater. Behold side-, rad- eller avsnittsidentifikatorer i materialet som brukes til uthenting.
Strømming returnerer tekst gradvis. Structured Outputs begrenser et fullført svar til den støttede JSON Schema-delmengden, mens en forespørsel om JSON-modus bare sikrer gyldig JSON. Angi obligatoriske felt og tillatte verdier, inkludert en eksplisitt fremstilling av manglende belegg. Applikasjonene må håndtere avslag og ufullstendige svar separat. Et skjema kan gjøre produktet egnet for neste trinn, men verdiene må fortsatt gjenspeile den faktiske kilden, fremfor en oppdiktet utfylling av et tomt felt.
GPT-4o Mini støtter funksjonskall og produsentens verktøybaserte arbeidsflyter med nettsøk, filsøk, kodetolking og MCP-tilkoblinger. Beskriv en tilgjengelig funksjon, la applikasjonen utføre den forespurte operasjonen og returnere observasjonen før modellen utvikler et oppfølgingssvar. OpenAI støtter også et separat bildegenereringsverktøy i den konfigurerte Responses-arbeidsflyten. Bilder produsert av verktøyet er separate produkter; modellens egne dokumenterte utdata er fortsatt tekst. Søk og verktøybruk er konfigurerte aktiviteter, ikke belegg for at alle svar har konsultert oppdatert informasjon.
Predicted Outputs støtter regenerering av et i hovedsak kjent dokument eller en kodefil med en liten endring. Oppgi det tidligere innholdet og den presise redigeringen, og sammenlign deretter produktet med forespørselen. Prediksjonsarbeidsflyten støtter bare tekst og kombineres ikke med funksjonskall; logprobs, max_completion_tokens og flere andre innstillinger er også utelukket. En vanlig forespørsel som bruker verktøy, er en annen arbeidsflyt når svaret avhenger av et nytt oppslag eller en beregning.
OpenAI dokumenterer finjustering for denne modellen og beskriver bruk av en større modells utdata til å lære opp en mindre GPT-4o Mini-modell i en spesialisert oppgave. Denne destillasjonsprosessen produserer en tilpasset modell; den endrer ikke identiteten til et vanlig Mini-svar. For en vanlig forespørsel etablerer du oppgaven og resultatformen med tydelige eksempler, og bruker deretter en avgrenset oppfølging til å revidere det samme resultatet. Et nyttig sluttprodukt forblir knyttet til kildefaktaene, den tiltenkte leseren og applikasjonstrinnet som bruker det.
Ailoot Ultra · Batchbehandling POST /v1/batches openai/gpt-4o-mini:batch
openai/gpt-4o-mini:batchStart
GPT-4o Mini håndterer avgrensede tekst- og bildeoppgaver, inkludert dokumentuthenting, korte svar og verktøykall i applikasjoner. Konteksten på 128000 tokener og Structured Outputs støtter gjentakbare arbeidsflyter med et tydelig definert resultat.
- Godkjente inndata
- Tekst
- Resultater
- Tekst
Tilgjengelig i Ailoot · inndata & metoder
Ailoot Ultra · Batchbehandling POST /v1/batches
- Inndatatyper
text- Utdatatyper
text- Utdataformat
- JSON fra results[].response.body direkte i svaret
| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltendpoint | Typestring | KravPåkrevd | Verdier & grenser /v1/chat/completions | Standard— |
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser openai/gpt-4o-mini:batch | Standard— |
Feltrequests | Typebatch_item[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltrequests[].custom_id | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltrequests[].body.messages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltcompletion_window | Typestring | KravValgfritt | Verdier & grenser 24h | Standard— |
Feltprovider | Typeobject|null | KravValgfritt | Verdier & grenser | Standard— |
Feltrequests[].body.model | Typestring | KravValgfritt | Verdier & grenser openai/gpt-4o-mini:batch, openai/gpt-4o-mini | Standard— |
Feltprovider.only | Typestring[] | KravValgfritt | Verdier & grenser openai | Standard— |
Feltprovider.allow_fallbacks | Typeboolean|null | KravValgfritt | Verdier & grenser false, null | Standard— |
Metodeparametere og livssyklus
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtaleendpoint, model, requests |
Parametermaterial_types | Avtaletext |
Parameterrepresentation | Avtalerequests[] direkte i forespørselen; hvert element har custom_id og body |
Parameterrequest_endpoint_profile | Avtale/v1/chat/completions |
Parameterfile_material | AvtaleKlienten kan lese det faktiske UTF-8-kodede JSONL-innholdet lokalt inn i requests[]. Feltet purpose for opplasting, input_file_id og filreferanser brukes ikke. Manglende eller tomt kundemateriale stopper klargjøringen før POST. |
Parameterserialization_order | Avtaleendpoint, model, provider (hvis angitt), completion_window (hvis angitt), requests til slutt |
Parameteroptional_controls | Avtaleprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | AvtaleForespørselsinnhold for tekstbasert Chat Completions lagt direkte inn i det dokumenterte Batch-formatet. |
Livssyklus: asynchronous
GET /v1/batches/{operation_id} · faktisk response.id fra den opprinnelige opprettelsen; samme bruker/nøkkel/gruppe
Priser
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
- Hurtigmodus
- Ikke angitt Når hurtigmodus er valgt
- Flex-modus
- Ikke angitt Når flex-modus er valgt
- Maksimal resonneringsinnsats
- Ikke angitt Når justeringen «default» brukes for maksimal resonneringsinnsats
- Priser for eksplisitt mellomlagring
- Ikke aktivert Når eksplisitt mellomlagring forespørres
Ailoot-satser
Priser etter konfigurasjon
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00015 / 1K tokener Utdata · Utgående tokener $0.0006 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.000075 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00015 / 1K tokener Utdata · Utgående tokener $0.0006 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.000075 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
Eksempelforespørsler
Ailoot Ultra · Batchbehandling
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"openai/gpt-4o-mini:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['openai/gpt-4o-mini:batch', 'openai/gpt-4o-mini']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"openai/gpt-4o-mini:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Motta og lagre resultater
Ailoot Ultra · Batchbehandling
JSON fra results[].response.body direkte i svaret
GET /v1/batches/{operation_id}
Kontroller jobbstatus
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Behold alle ferdige resultater
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Bevar hele den opprinnelige statusresponsen i JSON, alle resultater og custom_id-verdier samt hele svar- eller feilinnholdet. Lagre fullførte results[] som JSONL uten filtrering.
Hvis det opprinnelige svaret må kontrolleres
Bevar den opprinnelige operasjons-ID-en. 503 result_pending_check har X-Should-Retry:false; send aldri den opprinnelige batchen på nytt når utfallet er ukjent.
Svarfelter
| Felt | Type |
|---|---|
Feltresults[].custom_id | Typestring |
Feltresults[].response.body.choices[].message.content | Typestring|null |
Feltresults[].error | Typeobject|null |
Feltusage | Typeobject|null |
Feltid | Typestring |
Feltmodel | Typestring |
Feltendpoint | Typestring |
Feltstatus | Typestring |
Feltrequest_counts | Typeobject |
Feltresults[].id | Typestring |
Feltresults[].response.status_code | Typeinteger |
Feltresults[].response.request_id | Typestring |
Feil og neste trinn
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldig struktur i det dokumenterte formatet med innebygde forespørsler, dupliserte nøkler, ugyldig elementidentitet eller konflikt med modellens konfigurerte funksjoner. | Neste trinnRett de angitte feltene før du sender en ny forespørsel. |
Svar401 · authentication_error | VilkårUgyldig API-nøkkel. | Neste trinnBruk den autoriserte Ailoot-nøkkelen. |
Svar403 · permission_error | VilkårGruppen for batchbehandling er ikke tilgjengelig. | Neste trinnKontroller tilgangsrettighetene til nøkkelen/gruppen. |
Svar422 · invalid_request_error | VilkårBatch belastes saldoen; opprettelse via abonnement avvises. | Neste trinnBruk den autoriserte gruppen som belastes saldoen. |
Svar422 · price_unavailable | VilkårDet kan ikke beregnes en pris for batchens inndata. | Neste trinnBevar svaret; bruk de dokumenterte inndataene for API-familien. |
Svar402 · billing_error | VilkårBeløpsreservasjon for batchbehandling er ikke tilgjengelig. | Neste trinnLøs problemet som hindrer forespørselen i å bli godkjent før du sender en ny forespørsel. |
Svar503 · price_unavailable | VilkårPris for Batch-metoden eller systemets innebygde satser er ikke tilgjengelige. | Neste trinnBevar svaret; ikke erstatt prisene. |
Svar503 · api_error | VilkårDen nøyaktige leverandørruten er ikke tilgjengelig. | Neste trinnBevar svaret slik at ruten kan repareres. |
Svar503 · result_pending_check | VilkårDet opprinnelige resultatet må kontrolleres; X-Should-Retry:false. | Neste trinnBevar opprinnelig operation_id/id og les statusen; gjenta aldri den opprinnelige POST-forespørselen. |
Svar404 · not_found | VilkårStatusoperasjonen for batchen finnes ikke eller tilhører en annen identitet. | Neste trinnBruk nøyaktig den opprinnelige id-verdien og samme bruker/nøkkel/gruppe. |
Aliaser
Modellaliaser
Ailoot Ultra openai/gpt-4o-mini:batch
Aliaser for metodestier
Bruk metodestiene som vises ovenfor.
Tilknyttede anroper-ID-er
FAQ · OpenAI: GPT-4o-mini (batch)
- Hvilke inndata og resultater er tilgjengelige?
POST /v1/batches·openai/gpt-4o-mini:batch:text→text- Hvilke felt bruker forespørselen?
POST /v1/batches·openai/gpt-4o-mini:batch:endpoint,model,requests,completion_window,provider- Hvilke grenser gjelder?
POST /v1/batches·openai/gpt-4o-mini:batch:requests.min_items:1