Gemma 2 27B IT er Googles instruksjonsjusterte Gemma 2-utgave med 27 milliarder parametere. Den er en språkmodell med åpne vekter og bare dekoder, som tar tekst inn og genererer tekst, med vekt på engelsk. Tiltenkte oppgaver omfatter spørsmål og svar, oppsummering, resonnering, kreativ skriving og koderelatert arbeid. IT identifiserer den instruksjonsjusterte varianten, adskilt fra den forhåndstrente modellen og separat kvantiserte avledninger.
Den tekniske rapporten dokumenterer en kontekst på 8192 tokener. Gemma 2 veksler mellom lokal oppmerksomhet med et glidende vindu på 4096 tokener og global oppmerksomhet over hele konteksten; 27B-arkitekturen har 46 lag og gruppert spørringsoppmerksomhet. Dette er egenskaper ved produsentmodellen fremfor innstillinger for svarlengden i en applikasjon. Klargjør et fokusert kildeutdrag og gi plass til ønsket svar og samtalen, fremfor å anta de langt større kontekstene i senere Gemma-generasjoner.
27B-grunnmodellen ble trent fra bunnen av på 13 billioner tokener med hovedsakelig engelsk tekst. Dokumenterte kilder omfatter nettdokumenter, kode og matematisk eller vitenskapelig materiale. Rapporten skiller treningen fra destillasjonen brukt for de mindre 2B- og 9B-grunnmodellene. Instruksjonsjustering legger til veiledet prompt-svar-trening og preferansebasert forbedring for et samtalesvar. Dette gir IT-utgaven en annen bruksprofil enn å fortsette vilkårlig tekst med den forhåndstrente modellen.
For en dokumentoppsummering oppgis avsnittet og hva leseren trenger fra det: beslutninger, krav, en forklaring eller et kort sett med hovedpunkter. En illustrerende beskrivelse er: «Oppsummer denne spesifikasjonen for en støtteingeniør. Behold alle feltnavn, skill uttrykkelige krav fra eksempler og list detaljene avsnittet ikke definerer.» Hvis et faktum må komme fra kilden, be om relevant ordlyd eller en seksjonsreferanse sammen med forklaringen.
Samtalebruk følger Gemma 2s mal for samtalerunder med rollene user/model. Googles nøyaktige modellkort demonstrerer å holde dialogen i malen, med skilletegn som identifiserer begynnelsen og slutten av hver samtalerunde, slik at en oppfølging kan bygge videre på forrige svar. Det dokumenterte formatet skiller seg fra Gemma 4s nye innebygde system-rolle og tenkningskontroller. En praktisk samtale kan først trekke ut fakta, deretter be om en kortere forklaring eller et meldingsutkast mens uttrukne navn og betingelser bevares.
For kode tas relevant utdrag, programmeringsspråk, observert oppførsel og forventet resultat med. Be om en forklaring, en foreslått korrigering eller et gjennomarbeidet eksempel med angitt omfang. For matematisk resonnering skrives hele problemet, variabeldefinisjoner og forutsetninger som tekst. Denne utgaven har ikke innebygde visuelle eller lydlige inndata: en fotografert oppgave eller muntlig forklaring må først transkriberes til tekst. Utdataene kan inneholde kode eller et formatert svar, men disse tekstformene fastslår ikke en egen modus for verktøykall eller formatbegrensede utdata.
Modellkortet identifiserer tvetydighet, sarkasme, komplekse åpne instruksjoner og faktanøyaktighet som områder der svarene kan være begrenset. For et kildebasert svar oppgis det autoritative avsnittet, og modellen bes oppgi hvor informasjon mangler. For en redigeringsoppgave angis målgruppe, tone, nødvendige fakta og delene som kan endres. Den nyttige leveransen er et fokusert engelsk svar, en oppsummering, et utkast eller en kodeforklaring som kan sammenlignes med materialet og betingelsene oppgitt i prompten.
", "aboutText": "Gemma 2 27B IT er Googles instruksjonsjusterte Gemma 2-utgave med 27 milliarder parametere. Den er en språkmodell med åpne vekter og bare dekoder, som tar tekst inn og genererer tekst, med vekt på engelsk. Tiltenkte oppgaver omfatter spørsmål og svar, oppsummering, resonnering, kreativ skriving og koderelatert arbeid. IT identifiserer den instruksjonsjusterte varianten, adskilt fra den forhåndstrente modellen og separat kvantiserte avledninger.\n\nDen tekniske rapporten dokumenterer en kontekst på 8192 tokener. Gemma 2 veksler mellom lokal oppmerksomhet med et glidende vindu på 4096 tokener og global oppmerksomhet over hele konteksten; 27B-arkitekturen har 46 lag og gruppert spørringsoppmerksomhet. Dette er egenskaper ved produsentmodellen fremfor innstillinger for svarlengden i en applikasjon. Klargjør et fokusert kildeutdrag og gi plass til ønsket svar og samtalen, fremfor å anta de langt større kontekstene i senere Gemma-generasjoner.\n\n27B-grunnmodellen ble trent fra bunnen av på 13 billioner tokener med hovedsakelig engelsk tekst. Dokumenterte kilder omfatter nettdokumenter, kode og matematisk eller vitenskapelig materiale. Rapporten skiller treningen fra destillasjonen brukt for de mindre 2B- og 9B-grunnmodellene. Instruksjonsjustering legger til veiledet prompt-svar-trening og preferansebasert forbedring for et samtalesvar. Dette gir IT-utgaven en annen bruksprofil enn å fortsette vilkårlig tekst med den forhåndstrente modellen.\n\nFor en dokumentoppsummering oppgis avsnittet og hva leseren trenger fra det: beslutninger, krav, en forklaring eller et kort sett med hovedpunkter. En illustrerende beskrivelse er: «Oppsummer denne spesifikasjonen for en støtteingeniør. Behold alle feltnavn, skill uttrykkelige krav fra eksempler og list detaljene avsnittet ikke definerer.» Hvis et faktum må komme fra kilden, be om relevant ordlyd eller en seksjonsreferanse sammen med forklaringen.\n\nSamtalebruk følger Gemma 2s mal for samtalerunder med rollene user/model. Googles nøyaktige modellkort demonstrerer å holde dialogen i malen, med skilletegn som identifiserer begynnelsen og slutten av hver samtalerunde, slik at en oppfølging kan bygge videre på forrige svar. Det dokumenterte formatet skiller seg fra Gemma 4s nye innebygde system-rolle og tenkningskontroller. En praktisk samtale kan først trekke ut fakta, deretter be om en kortere forklaring eller et meldingsutkast mens uttrukne navn og betingelser bevares.\n\nFor kode tas relevant utdrag, programmeringsspråk, observert oppførsel og forventet resultat med. Be om en forklaring, en foreslått korrigering eller et gjennomarbeidet eksempel med angitt omfang. For matematisk resonnering skrives hele problemet, variabeldefinisjoner og forutsetninger som tekst. Denne utgaven har ikke innebygde visuelle eller lydlige inndata: en fotografert oppgave eller muntlig forklaring må først transkriberes til tekst. Utdataene kan inneholde kode eller et formatert svar, men disse tekstformene fastslår ikke en egen modus for verktøykall eller formatbegrensede utdata.\n\nModellkortet identifiserer tvetydighet, sarkasme, komplekse åpne instruksjoner og faktanøyaktighet som områder der svarene kan være begrenset. For et kildebasert svar oppgis det autoritative avsnittet, og modellen bes oppgi hvor informasjon mangler. For en redigeringsoppgave angis målgruppe, tone, nødvendige fakta og delene som kan endres. Den nyttige leveransen er et fokusert engelsk svar, en oppsummering, et utkast eller en kodeforklaring som kan sammenlignes med materialet og betingelsene oppgitt i prompten.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.google/gemma-2-27b-itGemma 2 27B IT er Googles instruksjonsjusterte, rent tekstbaserte modell for engelske spørsmål og svar, oppsummeringer, skriving og resonnering. Konteksten på 8192 tokener og samtaleformatet passer fokuserte, kildebaserte oppgaver og kodeforklaringer.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Gemma 2 27B IT er Googles instruksjonsjusterte Gemma 2-utgave med 27 milliarder parametere. Den er en språkmodell med åpne vekter og bare dekoder, som tar tekst inn og genererer tekst, med vekt på engelsk. Tiltenkte oppgaver omfatter spørsmål og svar, oppsummering, resonnering, kreativ skriving og koderelatert arbeid. IT identifiserer den instruksjonsjusterte varianten, adskilt fra den forhåndstrente modellen og separat kvantiserte avledninger.
Den tekniske rapporten dokumenterer en kontekst på 8192 tokener. Gemma 2 veksler mellom lokal oppmerksomhet med et glidende vindu på 4096 tokener og global oppmerksomhet over hele konteksten; 27B-arkitekturen har 46 lag og gruppert spørringsoppmerksomhet. Dette er egenskaper ved produsentmodellen fremfor innstillinger for svarlengden i en applikasjon. Klargjør et fokusert kildeutdrag og gi plass til ønsket svar og samtalen, fremfor å anta de langt større kontekstene i senere Gemma-generasjoner.
27B-grunnmodellen ble trent fra bunnen av på 13 billioner tokener med hovedsakelig engelsk tekst. Dokumenterte kilder omfatter nettdokumenter, kode og matematisk eller vitenskapelig materiale. Rapporten skiller treningen fra destillasjonen brukt for de mindre 2B- og 9B-grunnmodellene. Instruksjonsjustering legger til veiledet prompt-svar-trening og preferansebasert forbedring for et samtalesvar. Dette gir IT-utgaven en annen bruksprofil enn å fortsette vilkårlig tekst med den forhåndstrente modellen.
For en dokumentoppsummering oppgis avsnittet og hva leseren trenger fra det: beslutninger, krav, en forklaring eller et kort sett med hovedpunkter. En illustrerende beskrivelse er: «Oppsummer denne spesifikasjonen for en støtteingeniør. Behold alle feltnavn, skill uttrykkelige krav fra eksempler og list detaljene avsnittet ikke definerer.» Hvis et faktum må komme fra kilden, be om relevant ordlyd eller en seksjonsreferanse sammen med forklaringen.
Samtalebruk følger Gemma 2s mal for samtalerunder med rollene user/model. Googles nøyaktige modellkort demonstrerer å holde dialogen i malen, med skilletegn som identifiserer begynnelsen og slutten av hver samtalerunde, slik at en oppfølging kan bygge videre på forrige svar. Det dokumenterte formatet skiller seg fra Gemma 4s nye innebygde system-rolle og tenkningskontroller. En praktisk samtale kan først trekke ut fakta, deretter be om en kortere forklaring eller et meldingsutkast mens uttrukne navn og betingelser bevares.
For kode tas relevant utdrag, programmeringsspråk, observert oppførsel og forventet resultat med. Be om en forklaring, en foreslått korrigering eller et gjennomarbeidet eksempel med angitt omfang. For matematisk resonnering skrives hele problemet, variabeldefinisjoner og forutsetninger som tekst. Denne utgaven har ikke innebygde visuelle eller lydlige inndata: en fotografert oppgave eller muntlig forklaring må først transkriberes til tekst. Utdataene kan inneholde kode eller et formatert svar, men disse tekstformene fastslår ikke en egen modus for verktøykall eller formatbegrensede utdata.
Modellkortet identifiserer tvetydighet, sarkasme, komplekse åpne instruksjoner og faktanøyaktighet som områder der svarene kan være begrenset. For et kildebasert svar oppgis det autoritative avsnittet, og modellen bes oppgi hvor informasjon mangler. For en redigeringsoppgave angis målgruppe, tone, nødvendige fakta og delene som kan endres. Den nyttige leveransen er et fokusert engelsk svar, en oppsummering, et utkast eller en kodeforklaring som kan sammenlignes med materialet og betingelsene oppgitt i prompten.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser google/gemma-2-27b-it | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0013 / 1K tokener Utdata · Utgående tokener $0.0013 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0013 / 1K tokener Utdata · Utgående tokener $0.0013 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "google/gemma-2-27b-it", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra google/gemma-2-27b-it
Bruk metodestiene som vises ovenfor.
google/gemma-2-27b-itGemma 2 27B IT er Googles instruksjonsjusterte, rent tekstbaserte modell for engelske spørsmål og svar, oppsummeringer, skriving og resonnering. Konteksten på 8192 tokener og samtaleformatet passer fokuserte, kildebaserte oppgaver og kodeforklaringer.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Gemma 2 27B IT er Googles instruksjonsjusterte Gemma 2-utgave med 27 milliarder parametere. Den er en språkmodell med åpne vekter og bare dekoder, som tar tekst inn og genererer tekst, med vekt på engelsk. Tiltenkte oppgaver omfatter spørsmål og svar, oppsummering, resonnering, kreativ skriving og koderelatert arbeid. IT identifiserer den instruksjonsjusterte varianten, adskilt fra den forhåndstrente modellen og separat kvantiserte avledninger.
Den tekniske rapporten dokumenterer en kontekst på 8192 tokener. Gemma 2 veksler mellom lokal oppmerksomhet med et glidende vindu på 4096 tokener og global oppmerksomhet over hele konteksten; 27B-arkitekturen har 46 lag og gruppert spørringsoppmerksomhet. Dette er egenskaper ved produsentmodellen fremfor innstillinger for svarlengden i en applikasjon. Klargjør et fokusert kildeutdrag og gi plass til ønsket svar og samtalen, fremfor å anta de langt større kontekstene i senere Gemma-generasjoner.
27B-grunnmodellen ble trent fra bunnen av på 13 billioner tokener med hovedsakelig engelsk tekst. Dokumenterte kilder omfatter nettdokumenter, kode og matematisk eller vitenskapelig materiale. Rapporten skiller treningen fra destillasjonen brukt for de mindre 2B- og 9B-grunnmodellene. Instruksjonsjustering legger til veiledet prompt-svar-trening og preferansebasert forbedring for et samtalesvar. Dette gir IT-utgaven en annen bruksprofil enn å fortsette vilkårlig tekst med den forhåndstrente modellen.
For en dokumentoppsummering oppgis avsnittet og hva leseren trenger fra det: beslutninger, krav, en forklaring eller et kort sett med hovedpunkter. En illustrerende beskrivelse er: «Oppsummer denne spesifikasjonen for en støtteingeniør. Behold alle feltnavn, skill uttrykkelige krav fra eksempler og list detaljene avsnittet ikke definerer.» Hvis et faktum må komme fra kilden, be om relevant ordlyd eller en seksjonsreferanse sammen med forklaringen.
Samtalebruk følger Gemma 2s mal for samtalerunder med rollene user/model. Googles nøyaktige modellkort demonstrerer å holde dialogen i malen, med skilletegn som identifiserer begynnelsen og slutten av hver samtalerunde, slik at en oppfølging kan bygge videre på forrige svar. Det dokumenterte formatet skiller seg fra Gemma 4s nye innebygde system-rolle og tenkningskontroller. En praktisk samtale kan først trekke ut fakta, deretter be om en kortere forklaring eller et meldingsutkast mens uttrukne navn og betingelser bevares.
For kode tas relevant utdrag, programmeringsspråk, observert oppførsel og forventet resultat med. Be om en forklaring, en foreslått korrigering eller et gjennomarbeidet eksempel med angitt omfang. For matematisk resonnering skrives hele problemet, variabeldefinisjoner og forutsetninger som tekst. Denne utgaven har ikke innebygde visuelle eller lydlige inndata: en fotografert oppgave eller muntlig forklaring må først transkriberes til tekst. Utdataene kan inneholde kode eller et formatert svar, men disse tekstformene fastslår ikke en egen modus for verktøykall eller formatbegrensede utdata.
Modellkortet identifiserer tvetydighet, sarkasme, komplekse åpne instruksjoner og faktanøyaktighet som områder der svarene kan være begrenset. For et kildebasert svar oppgis det autoritative avsnittet, og modellen bes oppgi hvor informasjon mangler. For en redigeringsoppgave angis målgruppe, tone, nødvendige fakta og delene som kan endres. Den nyttige leveransen er et fokusert engelsk svar, en oppsummering, et utkast eller en kodeforklaring som kan sammenlignes med materialet og betingelsene oppgitt i prompten.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser google/gemma-2-27b-it | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0013 / 1K tokener Utdata · Utgående tokener $0.0013 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0013 / 1K tokener Utdata · Utgående tokener $0.0013 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "google/gemma-2-27b-it",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra google/gemma-2-27b-it
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.