Gemma 2 27B IT est l’édition de Gemma 2 de Google ajustée pour suivre les instructions, avec 27 milliards de paramètres. Ce modèle de langage à poids ouverts et à décodeur seul reçoit du texte et génère du texte, avec une orientation vers l’anglais. Ses tâches prévues comprennent les réponses aux questions, le résumé, le raisonnement, l’écriture créative et le travail sur le code. IT désigne la variante ajustée aux instructions, distincte du modèle préentraîné et des dérivés quantifiés séparément.
Le rapport technique documente un contexte de 8 192 tokens. Gemma 2 alterne une attention locale avec une fenêtre glissante de 4 096 tokens et une attention globale couvrant tout le contexte ; l’architecture 27B comporte 46 couches et grouped-query attention. Ce sont des caractéristiques du modèle du fabricant plutôt que des réglages de longueur de réponse d’une application. Préparez un extrait source ciblé et laissez de la place pour la réponse demandée et la conversation, plutôt que de supposer les contextes bien plus grands des générations Gemma ultérieures.
Le modèle de base 27B a été entraîné à partir de zéro sur 13 billions de tokens composés principalement de texte anglais. Les sources documentées comprennent des documents web, du code et des éléments mathématiques ou scientifiques. Le rapport distingue cet entraînement de la distillation utilisée pour les modèles de base 2B et 9B plus petits. L’ajustement aux instructions ajoute un entraînement supervisé sur des couples prompt-réponse et un affinage fondé sur les préférences pour les réponses conversationnelles. L’édition IT possède ainsi un profil d’usage différent de la continuation d’un texte quelconque avec le modèle préentraîné.
Pour résumer un document, fournissez le passage et précisez ce que le lecteur doit en tirer : des décisions, des exigences, une explication ou une courte liste de points clés. Voici un exemple d’instructions : « Résume cette spécification pour un ingénieur du support. Conserve tous les noms de champs, distingue les exigences explicites des exemples et liste les détails que le passage ne définit pas. » Si un fait doit provenir de la source, demandez la formulation pertinente ou une référence de section en plus de l’explication.
L’usage conversationnel suit le modèle de tours user/model de Gemma 2. La fiche exacte du modèle de Google montre comment maintenir le dialogue dans ce format, avec des délimiteurs identifiant le début et la fin de chaque tour afin qu’une question complémentaire puisse s’appuyer sur la réponse précédente. Le format documenté diffère du nouveau rôle system natif et des réglages de réflexion de Gemma 4. Une conversation pratique peut d’abord extraire les faits, puis demander une explication plus courte ou un brouillon de message en préservant les noms et les conditions extraits.
Pour du code, incluez le fragment pertinent, le langage de programmation, le comportement observé et le résultat attendu. Demandez une explication, une correction proposée ou un exemple détaillé, avec un périmètre défini. Pour un raisonnement mathématique, écrivez le problème complet, les définitions des variables et les hypothèses sous forme de texte. Cette édition n’a pas d’entrée visuelle ou audio native : un problème photographié ou une explication orale doit d’abord être transcrit en texte. La sortie peut contenir du code ou une réponse mise en forme, mais ces formes textuelles ne démontrent pas un mode dédié d’appel d’outils ou de sortie contrainte.
La fiche du modèle identifie l’ambiguïté, le sarcasme, les instructions ouvertes complexes et l’exactitude factuelle comme des domaines où les réponses peuvent être limitées. Pour une réponse fondée sur une source, fournissez le passage de référence et demandez au modèle d’indiquer les informations absentes. Pour un travail de révision, précisez le public, le ton, les faits requis et les parties modifiables. Le livrable utile est une réponse en anglais ciblée, un résumé, un brouillon ou une explication de code qui peut être comparé aux éléments et aux conditions fournis dans le prompt.
", "aboutText": "Gemma 2 27B IT est l’édition de Gemma 2 de Google ajustée pour suivre les instructions, avec 27 milliards de paramètres. Ce modèle de langage à poids ouverts et à décodeur seul reçoit du texte et génère du texte, avec une orientation vers l’anglais. Ses tâches prévues comprennent les réponses aux questions, le résumé, le raisonnement, l’écriture créative et le travail sur le code. IT désigne la variante ajustée aux instructions, distincte du modèle préentraîné et des dérivés quantifiés séparément.\n\nLe rapport technique documente un contexte de 8 192 tokens. Gemma 2 alterne une attention locale avec une fenêtre glissante de 4 096 tokens et une attention globale couvrant tout le contexte ; l’architecture 27B comporte 46 couches et grouped-query attention. Ce sont des caractéristiques du modèle du fabricant plutôt que des réglages de longueur de réponse d’une application. Préparez un extrait source ciblé et laissez de la place pour la réponse demandée et la conversation, plutôt que de supposer les contextes bien plus grands des générations Gemma ultérieures.\n\nLe modèle de base 27B a été entraîné à partir de zéro sur 13 billions de tokens composés principalement de texte anglais. Les sources documentées comprennent des documents web, du code et des éléments mathématiques ou scientifiques. Le rapport distingue cet entraînement de la distillation utilisée pour les modèles de base 2B et 9B plus petits. L’ajustement aux instructions ajoute un entraînement supervisé sur des couples prompt-réponse et un affinage fondé sur les préférences pour les réponses conversationnelles. L’édition IT possède ainsi un profil d’usage différent de la continuation d’un texte quelconque avec le modèle préentraîné.\n\nPour résumer un document, fournissez le passage et précisez ce que le lecteur doit en tirer : des décisions, des exigences, une explication ou une courte liste de points clés. Voici un exemple d’instructions : « Résume cette spécification pour un ingénieur du support. Conserve tous les noms de champs, distingue les exigences explicites des exemples et liste les détails que le passage ne définit pas. » Si un fait doit provenir de la source, demandez la formulation pertinente ou une référence de section en plus de l’explication.\n\nL’usage conversationnel suit le modèle de tours user/model de Gemma 2. La fiche exacte du modèle de Google montre comment maintenir le dialogue dans ce format, avec des délimiteurs identifiant le début et la fin de chaque tour afin qu’une question complémentaire puisse s’appuyer sur la réponse précédente. Le format documenté diffère du nouveau rôle system natif et des réglages de réflexion de Gemma 4. Une conversation pratique peut d’abord extraire les faits, puis demander une explication plus courte ou un brouillon de message en préservant les noms et les conditions extraits.\n\nPour du code, incluez le fragment pertinent, le langage de programmation, le comportement observé et le résultat attendu. Demandez une explication, une correction proposée ou un exemple détaillé, avec un périmètre défini. Pour un raisonnement mathématique, écrivez le problème complet, les définitions des variables et les hypothèses sous forme de texte. Cette édition n’a pas d’entrée visuelle ou audio native : un problème photographié ou une explication orale doit d’abord être transcrit en texte. La sortie peut contenir du code ou une réponse mise en forme, mais ces formes textuelles ne démontrent pas un mode dédié d’appel d’outils ou de sortie contrainte.\n\nLa fiche du modèle identifie l’ambiguïté, le sarcasme, les instructions ouvertes complexes et l’exactitude factuelle comme des domaines où les réponses peuvent être limitées. Pour une réponse fondée sur une source, fournissez le passage de référence et demandez au modèle d’indiquer les informations absentes. Pour un travail de révision, précisez le public, le ton, les faits requis et les parties modifiables. Le livrable utile est une réponse en anglais ciblée, un résumé, un brouillon ou une explication de code qui peut être comparé aux éléments et aux conditions fournis dans le prompt.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.google/gemma-2-27b-itGemma 2 27B IT est le modèle de Google ajusté pour suivre les instructions, exclusivement textuel, pour répondre à des questions en anglais, résumer, rédiger et raisonner. Son contexte de 8 192 tokens et son format conversationnel conviennent aux tâches ciblées fondées sur des sources et aux explications de code.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Gemma 2 27B IT est l’édition de Gemma 2 de Google ajustée pour suivre les instructions, avec 27 milliards de paramètres. Ce modèle de langage à poids ouverts et à décodeur seul reçoit du texte et génère du texte, avec une orientation vers l’anglais. Ses tâches prévues comprennent les réponses aux questions, le résumé, le raisonnement, l’écriture créative et le travail sur le code. IT désigne la variante ajustée aux instructions, distincte du modèle préentraîné et des dérivés quantifiés séparément.
Le rapport technique documente un contexte de 8 192 tokens. Gemma 2 alterne une attention locale avec une fenêtre glissante de 4 096 tokens et une attention globale couvrant tout le contexte ; l’architecture 27B comporte 46 couches et grouped-query attention. Ce sont des caractéristiques du modèle du fabricant plutôt que des réglages de longueur de réponse d’une application. Préparez un extrait source ciblé et laissez de la place pour la réponse demandée et la conversation, plutôt que de supposer les contextes bien plus grands des générations Gemma ultérieures.
Le modèle de base 27B a été entraîné à partir de zéro sur 13 billions de tokens composés principalement de texte anglais. Les sources documentées comprennent des documents web, du code et des éléments mathématiques ou scientifiques. Le rapport distingue cet entraînement de la distillation utilisée pour les modèles de base 2B et 9B plus petits. L’ajustement aux instructions ajoute un entraînement supervisé sur des couples prompt-réponse et un affinage fondé sur les préférences pour les réponses conversationnelles. L’édition IT possède ainsi un profil d’usage différent de la continuation d’un texte quelconque avec le modèle préentraîné.
Pour résumer un document, fournissez le passage et précisez ce que le lecteur doit en tirer : des décisions, des exigences, une explication ou une courte liste de points clés. Voici un exemple d’instructions : « Résume cette spécification pour un ingénieur du support. Conserve tous les noms de champs, distingue les exigences explicites des exemples et liste les détails que le passage ne définit pas. » Si un fait doit provenir de la source, demandez la formulation pertinente ou une référence de section en plus de l’explication.
L’usage conversationnel suit le modèle de tours user/model de Gemma 2. La fiche exacte du modèle de Google montre comment maintenir le dialogue dans ce format, avec des délimiteurs identifiant le début et la fin de chaque tour afin qu’une question complémentaire puisse s’appuyer sur la réponse précédente. Le format documenté diffère du nouveau rôle system natif et des réglages de réflexion de Gemma 4. Une conversation pratique peut d’abord extraire les faits, puis demander une explication plus courte ou un brouillon de message en préservant les noms et les conditions extraits.
Pour du code, incluez le fragment pertinent, le langage de programmation, le comportement observé et le résultat attendu. Demandez une explication, une correction proposée ou un exemple détaillé, avec un périmètre défini. Pour un raisonnement mathématique, écrivez le problème complet, les définitions des variables et les hypothèses sous forme de texte. Cette édition n’a pas d’entrée visuelle ou audio native : un problème photographié ou une explication orale doit d’abord être transcrit en texte. La sortie peut contenir du code ou une réponse mise en forme, mais ces formes textuelles ne démontrent pas un mode dédié d’appel d’outils ou de sortie contrainte.
La fiche du modèle identifie l’ambiguïté, le sarcasme, les instructions ouvertes complexes et l’exactitude factuelle comme des domaines où les réponses peuvent être limitées. Pour une réponse fondée sur une source, fournissez le passage de référence et demandez au modèle d’indiquer les informations absentes. Pour un travail de révision, précisez le public, le ton, les faits requis et les parties modifiables. Le livrable utile est une réponse en anglais ciblée, un résumé, un brouillon ou une explication de code qui peut être comparé aux éléments et aux conditions fournis dans le prompt.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites google/gemma-2-27b-it | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0013 / 1K tokens Sortie · Tokens en sortie $0.0013 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0013 / 1K tokens Sortie · Tokens en sortie $0.0013 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "google/gemma-2-27b-it", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra google/gemma-2-27b-it
Utilisez les chemins de méthode indiqués ci-dessus.
google/gemma-2-27b-itGemma 2 27B IT est le modèle de Google ajusté pour suivre les instructions, exclusivement textuel, pour répondre à des questions en anglais, résumer, rédiger et raisonner. Son contexte de 8 192 tokens et son format conversationnel conviennent aux tâches ciblées fondées sur des sources et aux explications de code.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Gemma 2 27B IT est l’édition de Gemma 2 de Google ajustée pour suivre les instructions, avec 27 milliards de paramètres. Ce modèle de langage à poids ouverts et à décodeur seul reçoit du texte et génère du texte, avec une orientation vers l’anglais. Ses tâches prévues comprennent les réponses aux questions, le résumé, le raisonnement, l’écriture créative et le travail sur le code. IT désigne la variante ajustée aux instructions, distincte du modèle préentraîné et des dérivés quantifiés séparément.
Le rapport technique documente un contexte de 8 192 tokens. Gemma 2 alterne une attention locale avec une fenêtre glissante de 4 096 tokens et une attention globale couvrant tout le contexte ; l’architecture 27B comporte 46 couches et grouped-query attention. Ce sont des caractéristiques du modèle du fabricant plutôt que des réglages de longueur de réponse d’une application. Préparez un extrait source ciblé et laissez de la place pour la réponse demandée et la conversation, plutôt que de supposer les contextes bien plus grands des générations Gemma ultérieures.
Le modèle de base 27B a été entraîné à partir de zéro sur 13 billions de tokens composés principalement de texte anglais. Les sources documentées comprennent des documents web, du code et des éléments mathématiques ou scientifiques. Le rapport distingue cet entraînement de la distillation utilisée pour les modèles de base 2B et 9B plus petits. L’ajustement aux instructions ajoute un entraînement supervisé sur des couples prompt-réponse et un affinage fondé sur les préférences pour les réponses conversationnelles. L’édition IT possède ainsi un profil d’usage différent de la continuation d’un texte quelconque avec le modèle préentraîné.
Pour résumer un document, fournissez le passage et précisez ce que le lecteur doit en tirer : des décisions, des exigences, une explication ou une courte liste de points clés. Voici un exemple d’instructions : « Résume cette spécification pour un ingénieur du support. Conserve tous les noms de champs, distingue les exigences explicites des exemples et liste les détails que le passage ne définit pas. » Si un fait doit provenir de la source, demandez la formulation pertinente ou une référence de section en plus de l’explication.
L’usage conversationnel suit le modèle de tours user/model de Gemma 2. La fiche exacte du modèle de Google montre comment maintenir le dialogue dans ce format, avec des délimiteurs identifiant le début et la fin de chaque tour afin qu’une question complémentaire puisse s’appuyer sur la réponse précédente. Le format documenté diffère du nouveau rôle system natif et des réglages de réflexion de Gemma 4. Une conversation pratique peut d’abord extraire les faits, puis demander une explication plus courte ou un brouillon de message en préservant les noms et les conditions extraits.
Pour du code, incluez le fragment pertinent, le langage de programmation, le comportement observé et le résultat attendu. Demandez une explication, une correction proposée ou un exemple détaillé, avec un périmètre défini. Pour un raisonnement mathématique, écrivez le problème complet, les définitions des variables et les hypothèses sous forme de texte. Cette édition n’a pas d’entrée visuelle ou audio native : un problème photographié ou une explication orale doit d’abord être transcrit en texte. La sortie peut contenir du code ou une réponse mise en forme, mais ces formes textuelles ne démontrent pas un mode dédié d’appel d’outils ou de sortie contrainte.
La fiche du modèle identifie l’ambiguïté, le sarcasme, les instructions ouvertes complexes et l’exactitude factuelle comme des domaines où les réponses peuvent être limitées. Pour une réponse fondée sur une source, fournissez le passage de référence et demandez au modèle d’indiquer les informations absentes. Pour un travail de révision, précisez le public, le ton, les faits requis et les parties modifiables. Le livrable utile est une réponse en anglais ciblée, un résumé, un brouillon ou une explication de code qui peut être comparé aux éléments et aux conditions fournis dans le prompt.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites google/gemma-2-27b-it | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0013 / 1K tokens Sortie · Tokens en sortie $0.0013 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0013 / 1K tokens Sortie · Tokens en sortie $0.0013 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "google/gemma-2-27b-it",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra google/gemma-2-27b-it
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.