Gemma 2 27B IT är Googles instruktionstränade utgåva av Gemma 2 med 27 miljarder parametrar. Det är en språkmodell med öppna vikter och enbart dekoder som tar emot text och genererar text, med fokus på engelska. De avsedda uppgifterna omfattar frågor och svar, sammanfattning, resonemang, kreativt skrivande och kodrelaterat arbete. IT betecknar den instruktionstränade varianten, som är skild från den förtränade modellen och separat kvantiserade derivat.
Den tekniska rapporten dokumenterar en kontext på 8 192 token. Gemma 2 växlar mellan lokal uppmärksamhet med ett glidande fönster på 4 096 token och global uppmärksamhet som omfattar hela kontexten; 27B-arkitekturen har 46 lager och grouped-query attention. Detta är egenskaper hos tillverkarens modell och inte inställningar för en applikations svarslängd. Förbered ett avgränsat källutdrag och lämna utrymme för det begärda svaret och samtalet, i stället för att utgå från de mycket större kontexterna i senare Gemma-generationer.
Basmodellen 27B tränades från grunden på 13 biljoner token med främst engelsk text. De dokumenterade källorna omfattar webbdokument, kod och matematiskt eller vetenskapligt material. Rapporten skiljer denna träning från den destillering som användes för de mindre basmodellerna 2B och 9B. Instruktionsträningen tillför övervakad träning på prompt-svar-par och preferensbaserad finjustering för samtalssvar. Detta ger IT-utgåvan en annan användningsprofil än att fortsätta godtycklig text med den förtränade modellen.
För en dokumentsammanfattning ska du tillhandahålla textavsnittet och ange vad läsaren behöver få ut av det: beslut, krav, en förklaring eller en kort lista med huvudpunkter. Ett exempel på ett uppdrag är: ”Sammanfatta denna specifikation för en supportingenjör. Bevara alla fältnamn, skilj uttryckliga krav från exempel och lista de detaljer som textavsnittet inte definierar.” Om en faktauppgift måste komma från källan ska du be om den relevanta formuleringen eller en avsnittshänvisning tillsammans med förklaringen.
Samtalsanvändningen följer Gemma 2:s mall för användar- och modellturer. Googles modellkort för just denna modell visar hur dialogen behålls i den mallen, med avgränsare som markerar varje turs början och slut, så att en uppföljning kan bygga vidare på föregående svar. Det dokumenterade formatet skiljer sig från Gemma 4:s nya inbyggda systemroll och kontroller för tänkande. Ett praktiskt samtal kan först extrahera fakta och sedan begära en kortare förklaring eller ett meddelandeutkast, samtidigt som de extraherade namnen och villkoren bevaras.
För kod ska du inkludera det relevanta kodavsnittet, programmeringsspråket, det observerade beteendet och det resultat du förväntar dig. Be om en förklaring, en föreslagen korrigering eller ett genomarbetat exempel med angiven omfattning. För matematiskt resonemang ska du skriva hela problemet, variabeldefinitionerna och antagandena som text. Denna utgåva har inget inbyggt stöd för visuella indata eller ljudindata: ett fotograferat problem eller en muntlig förklaring måste först transkriberas till text. Utdata kan innehålla kod eller ett formaterat svar, men dessa textformer innebär inte att det finns ett särskilt läge för verktygsanrop eller begränsade utdataformat.
Modellkortet anger tvetydighet, sarkasm, komplexa öppna instruktioner och faktamässig korrekthet som områden där svaren kan ha begränsningar. För ett källbaserat svar ska du tillhandahålla det auktoritativa textavsnittet och be modellen ange var information saknas. För en redigeringsuppgift ska du ange målgrupp, ton, obligatoriska fakta och vilka delar som får ändras. Den användbara artefakten är ett fokuserat engelskt svar, en sammanfattning, ett utkast eller en kodförklaring som kan jämföras med materialet och villkoren i prompten.
", "aboutText": "Gemma 2 27B IT är Googles instruktionstränade utgåva av Gemma 2 med 27 miljarder parametrar. Det är en språkmodell med öppna vikter och enbart dekoder som tar emot text och genererar text, med fokus på engelska. De avsedda uppgifterna omfattar frågor och svar, sammanfattning, resonemang, kreativt skrivande och kodrelaterat arbete. IT betecknar den instruktionstränade varianten, som är skild från den förtränade modellen och separat kvantiserade derivat.\n\nDen tekniska rapporten dokumenterar en kontext på 8 192 token. Gemma 2 växlar mellan lokal uppmärksamhet med ett glidande fönster på 4 096 token och global uppmärksamhet som omfattar hela kontexten; 27B-arkitekturen har 46 lager och grouped-query attention. Detta är egenskaper hos tillverkarens modell och inte inställningar för en applikations svarslängd. Förbered ett avgränsat källutdrag och lämna utrymme för det begärda svaret och samtalet, i stället för att utgå från de mycket större kontexterna i senare Gemma-generationer.\n\nBasmodellen 27B tränades från grunden på 13 biljoner token med främst engelsk text. De dokumenterade källorna omfattar webbdokument, kod och matematiskt eller vetenskapligt material. Rapporten skiljer denna träning från den destillering som användes för de mindre basmodellerna 2B och 9B. Instruktionsträningen tillför övervakad träning på prompt-svar-par och preferensbaserad finjustering för samtalssvar. Detta ger IT-utgåvan en annan användningsprofil än att fortsätta godtycklig text med den förtränade modellen.\n\nFör en dokumentsammanfattning ska du tillhandahålla textavsnittet och ange vad läsaren behöver få ut av det: beslut, krav, en förklaring eller en kort lista med huvudpunkter. Ett exempel på ett uppdrag är: ”Sammanfatta denna specifikation för en supportingenjör. Bevara alla fältnamn, skilj uttryckliga krav från exempel och lista de detaljer som textavsnittet inte definierar.” Om en faktauppgift måste komma från källan ska du be om den relevanta formuleringen eller en avsnittshänvisning tillsammans med förklaringen.\n\nSamtalsanvändningen följer Gemma 2:s mall för användar- och modellturer. Googles modellkort för just denna modell visar hur dialogen behålls i den mallen, med avgränsare som markerar varje turs början och slut, så att en uppföljning kan bygga vidare på föregående svar. Det dokumenterade formatet skiljer sig från Gemma 4:s nya inbyggda systemroll och kontroller för tänkande. Ett praktiskt samtal kan först extrahera fakta och sedan begära en kortare förklaring eller ett meddelandeutkast, samtidigt som de extraherade namnen och villkoren bevaras.\n\nFör kod ska du inkludera det relevanta kodavsnittet, programmeringsspråket, det observerade beteendet och det resultat du förväntar dig. Be om en förklaring, en föreslagen korrigering eller ett genomarbetat exempel med angiven omfattning. För matematiskt resonemang ska du skriva hela problemet, variabeldefinitionerna och antagandena som text. Denna utgåva har inget inbyggt stöd för visuella indata eller ljudindata: ett fotograferat problem eller en muntlig förklaring måste först transkriberas till text. Utdata kan innehålla kod eller ett formaterat svar, men dessa textformer innebär inte att det finns ett särskilt läge för verktygsanrop eller begränsade utdataformat.\n\nModellkortet anger tvetydighet, sarkasm, komplexa öppna instruktioner och faktamässig korrekthet som områden där svaren kan ha begränsningar. För ett källbaserat svar ska du tillhandahålla det auktoritativa textavsnittet och be modellen ange var information saknas. För en redigeringsuppgift ska du ange målgrupp, ton, obligatoriska fakta och vilka delar som får ändras. Den användbara artefakten är ett fokuserat engelskt svar, en sammanfattning, ett utkast eller en kodförklaring som kan jämföras med materialet och villkoren i prompten.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.google/gemma-2-27b-itGemma 2 27B IT är Googles instruktionstränade modell med enbart text för frågor och svar, sammanfattningar, skrivande och resonemang på engelska. Dess kontext på 8 192 token och samtalsformat passar avgränsade källbaserade uppgifter och kodförklaringar.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Gemma 2 27B IT är Googles instruktionstränade utgåva av Gemma 2 med 27 miljarder parametrar. Det är en språkmodell med öppna vikter och enbart dekoder som tar emot text och genererar text, med fokus på engelska. De avsedda uppgifterna omfattar frågor och svar, sammanfattning, resonemang, kreativt skrivande och kodrelaterat arbete. IT betecknar den instruktionstränade varianten, som är skild från den förtränade modellen och separat kvantiserade derivat.
Den tekniska rapporten dokumenterar en kontext på 8 192 token. Gemma 2 växlar mellan lokal uppmärksamhet med ett glidande fönster på 4 096 token och global uppmärksamhet som omfattar hela kontexten; 27B-arkitekturen har 46 lager och grouped-query attention. Detta är egenskaper hos tillverkarens modell och inte inställningar för en applikations svarslängd. Förbered ett avgränsat källutdrag och lämna utrymme för det begärda svaret och samtalet, i stället för att utgå från de mycket större kontexterna i senare Gemma-generationer.
Basmodellen 27B tränades från grunden på 13 biljoner token med främst engelsk text. De dokumenterade källorna omfattar webbdokument, kod och matematiskt eller vetenskapligt material. Rapporten skiljer denna träning från den destillering som användes för de mindre basmodellerna 2B och 9B. Instruktionsträningen tillför övervakad träning på prompt-svar-par och preferensbaserad finjustering för samtalssvar. Detta ger IT-utgåvan en annan användningsprofil än att fortsätta godtycklig text med den förtränade modellen.
För en dokumentsammanfattning ska du tillhandahålla textavsnittet och ange vad läsaren behöver få ut av det: beslut, krav, en förklaring eller en kort lista med huvudpunkter. Ett exempel på ett uppdrag är: ”Sammanfatta denna specifikation för en supportingenjör. Bevara alla fältnamn, skilj uttryckliga krav från exempel och lista de detaljer som textavsnittet inte definierar.” Om en faktauppgift måste komma från källan ska du be om den relevanta formuleringen eller en avsnittshänvisning tillsammans med förklaringen.
Samtalsanvändningen följer Gemma 2:s mall för användar- och modellturer. Googles modellkort för just denna modell visar hur dialogen behålls i den mallen, med avgränsare som markerar varje turs början och slut, så att en uppföljning kan bygga vidare på föregående svar. Det dokumenterade formatet skiljer sig från Gemma 4:s nya inbyggda systemroll och kontroller för tänkande. Ett praktiskt samtal kan först extrahera fakta och sedan begära en kortare förklaring eller ett meddelandeutkast, samtidigt som de extraherade namnen och villkoren bevaras.
För kod ska du inkludera det relevanta kodavsnittet, programmeringsspråket, det observerade beteendet och det resultat du förväntar dig. Be om en förklaring, en föreslagen korrigering eller ett genomarbetat exempel med angiven omfattning. För matematiskt resonemang ska du skriva hela problemet, variabeldefinitionerna och antagandena som text. Denna utgåva har inget inbyggt stöd för visuella indata eller ljudindata: ett fotograferat problem eller en muntlig förklaring måste först transkriberas till text. Utdata kan innehålla kod eller ett formaterat svar, men dessa textformer innebär inte att det finns ett särskilt läge för verktygsanrop eller begränsade utdataformat.
Modellkortet anger tvetydighet, sarkasm, komplexa öppna instruktioner och faktamässig korrekthet som områden där svaren kan ha begränsningar. För ett källbaserat svar ska du tillhandahålla det auktoritativa textavsnittet och be modellen ange var information saknas. För en redigeringsuppgift ska du ange målgrupp, ton, obligatoriska fakta och vilka delar som får ändras. Den användbara artefakten är ett fokuserat engelskt svar, en sammanfattning, ett utkast eller en kodförklaring som kan jämföras med materialet och villkoren i prompten.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser google/gemma-2-27b-it | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0013 / 1K token Utdata · Utdatatoken $0.0013 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0013 / 1K token Utdata · Utdatatoken $0.0013 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "google/gemma-2-27b-it", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra google/gemma-2-27b-it
Använd metodsökvägarna som visas ovan.
google/gemma-2-27b-itGemma 2 27B IT är Googles instruktionstränade modell med enbart text för frågor och svar, sammanfattningar, skrivande och resonemang på engelska. Dess kontext på 8 192 token och samtalsformat passar avgränsade källbaserade uppgifter och kodförklaringar.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Gemma 2 27B IT är Googles instruktionstränade utgåva av Gemma 2 med 27 miljarder parametrar. Det är en språkmodell med öppna vikter och enbart dekoder som tar emot text och genererar text, med fokus på engelska. De avsedda uppgifterna omfattar frågor och svar, sammanfattning, resonemang, kreativt skrivande och kodrelaterat arbete. IT betecknar den instruktionstränade varianten, som är skild från den förtränade modellen och separat kvantiserade derivat.
Den tekniska rapporten dokumenterar en kontext på 8 192 token. Gemma 2 växlar mellan lokal uppmärksamhet med ett glidande fönster på 4 096 token och global uppmärksamhet som omfattar hela kontexten; 27B-arkitekturen har 46 lager och grouped-query attention. Detta är egenskaper hos tillverkarens modell och inte inställningar för en applikations svarslängd. Förbered ett avgränsat källutdrag och lämna utrymme för det begärda svaret och samtalet, i stället för att utgå från de mycket större kontexterna i senare Gemma-generationer.
Basmodellen 27B tränades från grunden på 13 biljoner token med främst engelsk text. De dokumenterade källorna omfattar webbdokument, kod och matematiskt eller vetenskapligt material. Rapporten skiljer denna träning från den destillering som användes för de mindre basmodellerna 2B och 9B. Instruktionsträningen tillför övervakad träning på prompt-svar-par och preferensbaserad finjustering för samtalssvar. Detta ger IT-utgåvan en annan användningsprofil än att fortsätta godtycklig text med den förtränade modellen.
För en dokumentsammanfattning ska du tillhandahålla textavsnittet och ange vad läsaren behöver få ut av det: beslut, krav, en förklaring eller en kort lista med huvudpunkter. Ett exempel på ett uppdrag är: ”Sammanfatta denna specifikation för en supportingenjör. Bevara alla fältnamn, skilj uttryckliga krav från exempel och lista de detaljer som textavsnittet inte definierar.” Om en faktauppgift måste komma från källan ska du be om den relevanta formuleringen eller en avsnittshänvisning tillsammans med förklaringen.
Samtalsanvändningen följer Gemma 2:s mall för användar- och modellturer. Googles modellkort för just denna modell visar hur dialogen behålls i den mallen, med avgränsare som markerar varje turs början och slut, så att en uppföljning kan bygga vidare på föregående svar. Det dokumenterade formatet skiljer sig från Gemma 4:s nya inbyggda systemroll och kontroller för tänkande. Ett praktiskt samtal kan först extrahera fakta och sedan begära en kortare förklaring eller ett meddelandeutkast, samtidigt som de extraherade namnen och villkoren bevaras.
För kod ska du inkludera det relevanta kodavsnittet, programmeringsspråket, det observerade beteendet och det resultat du förväntar dig. Be om en förklaring, en föreslagen korrigering eller ett genomarbetat exempel med angiven omfattning. För matematiskt resonemang ska du skriva hela problemet, variabeldefinitionerna och antagandena som text. Denna utgåva har inget inbyggt stöd för visuella indata eller ljudindata: ett fotograferat problem eller en muntlig förklaring måste först transkriberas till text. Utdata kan innehålla kod eller ett formaterat svar, men dessa textformer innebär inte att det finns ett särskilt läge för verktygsanrop eller begränsade utdataformat.
Modellkortet anger tvetydighet, sarkasm, komplexa öppna instruktioner och faktamässig korrekthet som områden där svaren kan ha begränsningar. För ett källbaserat svar ska du tillhandahålla det auktoritativa textavsnittet och be modellen ange var information saknas. För en redigeringsuppgift ska du ange målgrupp, ton, obligatoriska fakta och vilka delar som får ändras. Den användbara artefakten är ett fokuserat engelskt svar, en sammanfattning, ett utkast eller en kodförklaring som kan jämföras med materialet och villkoren i prompten.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser google/gemma-2-27b-it | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0013 / 1K token Utdata · Utdatatoken $0.0013 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0013 / 1K token Utdata · Utdatatoken $0.0013 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "google/gemma-2-27b-it",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra google/gemma-2-27b-it
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.