Gemma 2 27B IT to dostrojona do instrukcji edycja Gemma 2 firmy Google o 27 miliardach parametrów. Jest to model językowy o otwartych wagach, wyłącznie dekoderowy, który przyjmuje tekst i generuje tekst, z naciskiem na język angielski. Zamierzone zadania obejmują odpowiadanie na pytania, podsumowywanie, rozumowanie, pisanie kreatywne i pracę z kodem. IT wskazuje wariant dostrojony do instrukcji, odrębny od modelu wstępnie wytrenowanego i osobno skwantowanych pochodnych.
Raport techniczny dokumentuje kontekst 8,192 tokenów. Gemma 2 stosuje naprzemiennie uwagę lokalną z oknem przesuwnym 4,096 tokenów i uwagę globalną obejmującą cały kontekst; architektura 27B ma 46 warstw i grouped-query attention. Są to właściwości modelu producenta, a nie ustawienia długości odpowiedzi aplikacji. Przygotuj konkretny fragment źródła i pozostaw miejsce na żądaną odpowiedź oraz rozmowę, zamiast zakładać znacznie większe konteksty późniejszych generacji Gemma.
Baza 27B została wytrenowana od podstaw na 13 bilionach tokenów tekstu, głównie w języku angielskim. Udokumentowane źródła obejmują dokumenty internetowe, kod oraz materiały matematyczne lub naukowe. Raport odróżnia ten trening od destylacji stosowanej w mniejszych modelach bazowych 2B i 9B. Dostrajanie do instrukcji dodaje nadzorowany trening na parach prompt–odpowiedź oraz doskonalenie oparte na preferencjach, aby uzyskać odpowiedź konwersacyjną. Daje to edycji IT inny profil zastosowań niż kontynuowanie dowolnego tekstu przez model wstępnie wytrenowany.
Dla podsumowania dokumentu podaj fragment i określ, czego potrzebuje z niego czytelnik: decyzji, wymagań, wyjaśnienia lub krótkiego zestawu najważniejszych punktów. Przykładowy opis zadania brzmi: „Podsumuj tę specyfikację dla inżyniera pomocy technicznej. Zachowaj wszystkie nazwy pól, odróżnij jawne wymagania od przykładów i wymień szczegóły, których fragment nie definiuje”. Jeżeli fakt musi pochodzić ze źródła, poproś o odpowiednie sformułowanie lub odwołanie do sekcji obok wyjaśnienia.
Użycie konwersacyjne opiera się na szablonie tur user/model Gemma 2. Dokładna karta modelu Google pokazuje zachowanie dialogu w tym szablonie, ze znacznikami początku i końca każdej tury, aby kolejne pytanie mogło rozwijać poprzednią odpowiedź. Udokumentowany format różni się od nowej natywnej roli systemowej i ustawień myślenia Gemma 4. W praktycznej rozmowie można najpierw wyodrębnić fakty, a następnie poprosić o krótsze wyjaśnienie lub szkic wiadomości z zachowaniem wyodrębnionych nazw i warunków.
Dla kodu dołącz odpowiedni fragment, język programowania, zaobserwowane zachowanie i oczekiwany wynik. Poproś o wyjaśnienie, proponowaną poprawkę lub opracowany przykład z określonym zakresem. Przy rozumowaniu matematycznym zapisz pełną treść problemu, definicje zmiennych i założenia jako tekst. Ta edycja nie ma natywnego wejścia wizualnego ani dźwiękowego: sfotografowane zadanie lub ustne wyjaśnienie trzeba najpierw przepisać na tekst. Wyjście może zawierać kod lub sformatowaną odpowiedź, ale te postacie tekstu nie potwierdzają dedykowanego trybu wywoływania narzędzi ani wyjścia z ograniczeniami.
Karta modelu wskazuje niejednoznaczność, sarkazm, złożone otwarte instrukcje i dokładność faktograficzną jako obszary, w których odpowiedzi mogą mieć ograniczenia. Dla odpowiedzi opartej na źródłach podaj wiarygodny fragment i poproś model o wskazanie brakujących informacji. W zadaniu redakcyjnym określ odbiorców, ton, wymagane fakty i części, które mogą się zmienić. Przydatnym rezultatem jest konkretna angielska odpowiedź, podsumowanie, szkic lub wyjaśnienie kodu, które można porównać z materiałem i warunkami podanymi w prompcie.
", "aboutText": "Gemma 2 27B IT to dostrojona do instrukcji edycja Gemma 2 firmy Google o 27 miliardach parametrów. Jest to model językowy o otwartych wagach, wyłącznie dekoderowy, który przyjmuje tekst i generuje tekst, z naciskiem na język angielski. Zamierzone zadania obejmują odpowiadanie na pytania, podsumowywanie, rozumowanie, pisanie kreatywne i pracę z kodem. IT wskazuje wariant dostrojony do instrukcji, odrębny od modelu wstępnie wytrenowanego i osobno skwantowanych pochodnych.\n\nRaport techniczny dokumentuje kontekst 8,192 tokenów. Gemma 2 stosuje naprzemiennie uwagę lokalną z oknem przesuwnym 4,096 tokenów i uwagę globalną obejmującą cały kontekst; architektura 27B ma 46 warstw i grouped-query attention. Są to właściwości modelu producenta, a nie ustawienia długości odpowiedzi aplikacji. Przygotuj konkretny fragment źródła i pozostaw miejsce na żądaną odpowiedź oraz rozmowę, zamiast zakładać znacznie większe konteksty późniejszych generacji Gemma.\n\nBaza 27B została wytrenowana od podstaw na 13 bilionach tokenów tekstu, głównie w języku angielskim. Udokumentowane źródła obejmują dokumenty internetowe, kod oraz materiały matematyczne lub naukowe. Raport odróżnia ten trening od destylacji stosowanej w mniejszych modelach bazowych 2B i 9B. Dostrajanie do instrukcji dodaje nadzorowany trening na parach prompt–odpowiedź oraz doskonalenie oparte na preferencjach, aby uzyskać odpowiedź konwersacyjną. Daje to edycji IT inny profil zastosowań niż kontynuowanie dowolnego tekstu przez model wstępnie wytrenowany.\n\nDla podsumowania dokumentu podaj fragment i określ, czego potrzebuje z niego czytelnik: decyzji, wymagań, wyjaśnienia lub krótkiego zestawu najważniejszych punktów. Przykładowy opis zadania brzmi: „Podsumuj tę specyfikację dla inżyniera pomocy technicznej. Zachowaj wszystkie nazwy pól, odróżnij jawne wymagania od przykładów i wymień szczegóły, których fragment nie definiuje”. Jeżeli fakt musi pochodzić ze źródła, poproś o odpowiednie sformułowanie lub odwołanie do sekcji obok wyjaśnienia.\n\nUżycie konwersacyjne opiera się na szablonie tur user/model Gemma 2. Dokładna karta modelu Google pokazuje zachowanie dialogu w tym szablonie, ze znacznikami początku i końca każdej tury, aby kolejne pytanie mogło rozwijać poprzednią odpowiedź. Udokumentowany format różni się od nowej natywnej roli systemowej i ustawień myślenia Gemma 4. W praktycznej rozmowie można najpierw wyodrębnić fakty, a następnie poprosić o krótsze wyjaśnienie lub szkic wiadomości z zachowaniem wyodrębnionych nazw i warunków.\n\nDla kodu dołącz odpowiedni fragment, język programowania, zaobserwowane zachowanie i oczekiwany wynik. Poproś o wyjaśnienie, proponowaną poprawkę lub opracowany przykład z określonym zakresem. Przy rozumowaniu matematycznym zapisz pełną treść problemu, definicje zmiennych i założenia jako tekst. Ta edycja nie ma natywnego wejścia wizualnego ani dźwiękowego: sfotografowane zadanie lub ustne wyjaśnienie trzeba najpierw przepisać na tekst. Wyjście może zawierać kod lub sformatowaną odpowiedź, ale te postacie tekstu nie potwierdzają dedykowanego trybu wywoływania narzędzi ani wyjścia z ograniczeniami.\n\nKarta modelu wskazuje niejednoznaczność, sarkazm, złożone otwarte instrukcje i dokładność faktograficzną jako obszary, w których odpowiedzi mogą mieć ograniczenia. Dla odpowiedzi opartej na źródłach podaj wiarygodny fragment i poproś model o wskazanie brakujących informacji. W zadaniu redakcyjnym określ odbiorców, ton, wymagane fakty i części, które mogą się zmienić. Przydatnym rezultatem jest konkretna angielska odpowiedź, podsumowanie, szkic lub wyjaśnienie kodu, które można porównać z materiałem i warunkami podanymi w prompcie.", "editorialOverlay": { "copy_fields": { "practical_html": "Przykład techniczny po angielsku
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.google/gemma-2-27b-itGemma 2 27B IT to dostrojony do instrukcji, wyłącznie tekstowy model Google do odpowiadania na pytania po angielsku, podsumowań, pisania i rozumowania. Kontekst 8,192 tokenów i format konwersacyjny pasują do zadań o jasno określonym zakresie opartych na źródłach oraz wyjaśnień kodu.
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Gemma 2 27B IT to dostrojona do instrukcji edycja Gemma 2 firmy Google o 27 miliardach parametrów. Jest to model językowy o otwartych wagach, wyłącznie dekoderowy, który przyjmuje tekst i generuje tekst, z naciskiem na język angielski. Zamierzone zadania obejmują odpowiadanie na pytania, podsumowywanie, rozumowanie, pisanie kreatywne i pracę z kodem. IT wskazuje wariant dostrojony do instrukcji, odrębny od modelu wstępnie wytrenowanego i osobno skwantowanych pochodnych.
Raport techniczny dokumentuje kontekst 8,192 tokenów. Gemma 2 stosuje naprzemiennie uwagę lokalną z oknem przesuwnym 4,096 tokenów i uwagę globalną obejmującą cały kontekst; architektura 27B ma 46 warstw i grouped-query attention. Są to właściwości modelu producenta, a nie ustawienia długości odpowiedzi aplikacji. Przygotuj konkretny fragment źródła i pozostaw miejsce na żądaną odpowiedź oraz rozmowę, zamiast zakładać znacznie większe konteksty późniejszych generacji Gemma.
Baza 27B została wytrenowana od podstaw na 13 bilionach tokenów tekstu, głównie w języku angielskim. Udokumentowane źródła obejmują dokumenty internetowe, kod oraz materiały matematyczne lub naukowe. Raport odróżnia ten trening od destylacji stosowanej w mniejszych modelach bazowych 2B i 9B. Dostrajanie do instrukcji dodaje nadzorowany trening na parach prompt–odpowiedź oraz doskonalenie oparte na preferencjach, aby uzyskać odpowiedź konwersacyjną. Daje to edycji IT inny profil zastosowań niż kontynuowanie dowolnego tekstu przez model wstępnie wytrenowany.
Dla podsumowania dokumentu podaj fragment i określ, czego potrzebuje z niego czytelnik: decyzji, wymagań, wyjaśnienia lub krótkiego zestawu najważniejszych punktów. Przykładowy opis zadania brzmi: „Podsumuj tę specyfikację dla inżyniera pomocy technicznej. Zachowaj wszystkie nazwy pól, odróżnij jawne wymagania od przykładów i wymień szczegóły, których fragment nie definiuje”. Jeżeli fakt musi pochodzić ze źródła, poproś o odpowiednie sformułowanie lub odwołanie do sekcji obok wyjaśnienia.
Użycie konwersacyjne opiera się na szablonie tur user/model Gemma 2. Dokładna karta modelu Google pokazuje zachowanie dialogu w tym szablonie, ze znacznikami początku i końca każdej tury, aby kolejne pytanie mogło rozwijać poprzednią odpowiedź. Udokumentowany format różni się od nowej natywnej roli systemowej i ustawień myślenia Gemma 4. W praktycznej rozmowie można najpierw wyodrębnić fakty, a następnie poprosić o krótsze wyjaśnienie lub szkic wiadomości z zachowaniem wyodrębnionych nazw i warunków.
Dla kodu dołącz odpowiedni fragment, język programowania, zaobserwowane zachowanie i oczekiwany wynik. Poproś o wyjaśnienie, proponowaną poprawkę lub opracowany przykład z określonym zakresem. Przy rozumowaniu matematycznym zapisz pełną treść problemu, definicje zmiennych i założenia jako tekst. Ta edycja nie ma natywnego wejścia wizualnego ani dźwiękowego: sfotografowane zadanie lub ustne wyjaśnienie trzeba najpierw przepisać na tekst. Wyjście może zawierać kod lub sformatowaną odpowiedź, ale te postacie tekstu nie potwierdzają dedykowanego trybu wywoływania narzędzi ani wyjścia z ograniczeniami.
Karta modelu wskazuje niejednoznaczność, sarkazm, złożone otwarte instrukcje i dokładność faktograficzną jako obszary, w których odpowiedzi mogą mieć ograniczenia. Dla odpowiedzi opartej na źródłach podaj wiarygodny fragment i poproś model o wskazanie brakujących informacji. W zadaniu redakcyjnym określ odbiorców, ton, wymagane fakty i części, które mogą się zmienić. Przydatnym rezultatem jest konkretna angielska odpowiedź, podsumowanie, szkic lub wyjaśnienie kodu, które można porównać z materiałem i warunkami podanymi w prompcie.
POST /v1/chat/completionstexttext| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity google/gemma-2-27b-it | Domyślnie— |
Polemessages | Typmessage[] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 | Domyślnie— |
Polemessages[].role | Typstring | WymaganieWymagane | Wartości i limity Przykłady: system, user, assistant, tool, function Warunki: Te role są jawnie reprezentowane przez typy zgodności w kodzie źródłowym; dokładny zestaw ról pozostaje właściwy dla danego modelu. Zależy od modelu | Domyślnie— |
Polemessages[].content | Typstring|content_part[]|null | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Polemessages[].tool_calls | Typtool_call[] | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Polemessages[].tool_call_id | Typstring | WymaganieOpcjonalne | Wartości i limity Obowiązuje, gdy: role=tool; użyj rzeczywiście zwróconego ID | Domyślnie— |
Polemessages[].name | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Polemessages[].reasoning_content | Typstring | WymaganieOpcjonalne | Wartości i limity Obowiązuje, gdy: Przekazuj z powrotem rzeczywiście zwróconą treść rozumowania, gdy ten model jej używa | Domyślnie— |
Polemessages[].reasoning_details | Typobject|array | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Polemax_tokens | Typinteger | WymaganieOpcjonalne | Wartości i limity Minimum: 1 Zależy od modelu | Domyślnie— |
Polemax_completion_tokens | Typinteger | WymaganieOpcjonalne | Wartości i limity Minimum: 1 Zależy od modelu | Domyślnie— |
Polestream | Typboolean | WymaganieOpcjonalne | Wartości i limity | Domyślniefalse |
Polestream_options.include_usage | Typboolean | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poletemperature | Typnumber | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poletop_p | Typnumber | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Polestop | Typstring|string[] | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poletools | Typfunction_tool[] | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poletools[].type | Typstring | WymaganieOpcjonalne | Wartości i limity function Zależy od modelu | Domyślnie— |
Poletools[].function.name | Typstring | WymaganieWymagane | Wartości i limity Obowiązuje, gdy: udostępnione narzędzie funkcji | Domyślnie— |
Poletools[].function.description | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poletools[].function.parameters | TypJSON_schema | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poletool_choice | Typstring|object | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poleparallel_tool_calls | Typboolean | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poleresponse_format | Typobject | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Polereasoning_effort | Typstring | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Polereasoning | Typobject | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poleservice_tier | Typstring | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poleinstructions | Typstring | WymaganieOpcjonalne | Wartości i limity Pole zgodności | Domyślnie— |
Polefunctions | Typfunction[] | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Polefunction_call | Typstring|object | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Poleprompt_cache_options | Typobject | WymaganieOpcjonalne | Wartości i limity Zależy od modelu | Domyślnie— |
Polemodalities | Typstring[] | WymaganieOpcjonalne | Wartości i limity text | Domyślnie— |
Poleprovider | Typobject | WymaganieOpcjonalne | Wartości i limity Warunki: provider.options jest odrzucane na tej tekstowej trasie Ultra | Domyślnie— |
Polecache_control.ttl | Typstring | WymaganieOpcjonalne | Wartości i limity Warunki: 1h jest odrzucane w rzeczywistych miejscach pamięci podręcznej promptów | Domyślnie— |
Tekst · tekst UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontrakttablica wiadomości o strukturze role/content |
Parametrfile_material | Kontraktrzeczywisty dokument UTF-8 wstawiony jako dosłowny tekst; bez wywnioskowanego ID pliku |
Parametroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Kontraktwłaściwe dla modelu; narzędzia funkcji użytkownika różnią się od narzędzi hostowanych |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Cykl życia: synchronous_or_streamed
Wyślij dokładne ID modelu wraz z messages.
Długość kontekstu nie jest limitem wyjścia.
Plik tekstowy może dostarczyć dosłowny tekst; wejścia obrazowe/dźwiękowe/obiekty plików wymagają dokładnego powiązania.
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
Dopasuj każdą opłatę do pokazanych warunków. Użyj jednej stawki dla każdego zestawu alternatywnych konfiguracji.
| Konfiguracja | Tabela stawek | Tokeny kontekstu, więcej niż | Tokeny kontekstu, do podanej wartości włącznie | Opłata |
|---|---|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Tokeny kontekstu, więcej niż— | Tokeny kontekstu, do podanej wartości włącznieBez górnej granicy | Opłata Wejście · Tokeny wejściowe $0.0013 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0013 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
| KonfiguracjaPrzedział długości żądania 1 | Tabela stawek— | Tokeny kontekstu, więcej niż0 | Tokeny kontekstu, do podanej wartości włącznieBez górnej granicy | Opłata Wejście · Tokeny wejściowe $0.0013 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0013 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "google/gemma-2-27b-it", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson lub SSE
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wariant i jego treść/wywołania narzędzi/rozumowanie. W SSE składaj przyrosty według indeksu wariantu/narzędzia, zachowując końcowy powód zakończenia i dane użycia.
Zachowaj ID i nagłówki żądań/odpowiedzi. Nie udostępniono ogólnego URL pobierania zadania tekstowego.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Ailoot Ultra google/gemma-2-27b-it
Użyj ścieżek metod podanych powyżej.
google/gemma-2-27b-itGemma 2 27B IT to dostrojony do instrukcji, wyłącznie tekstowy model Google do odpowiadania na pytania po angielsku, podsumowań, pisania i rozumowania. Kontekst 8,192 tokenów i format konwersacyjny pasują do zadań o jasno określonym zakresie opartych na źródłach oraz wyjaśnień kodu.
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Gemma 2 27B IT to dostrojona do instrukcji edycja Gemma 2 firmy Google o 27 miliardach parametrów. Jest to model językowy o otwartych wagach, wyłącznie dekoderowy, który przyjmuje tekst i generuje tekst, z naciskiem na język angielski. Zamierzone zadania obejmują odpowiadanie na pytania, podsumowywanie, rozumowanie, pisanie kreatywne i pracę z kodem. IT wskazuje wariant dostrojony do instrukcji, odrębny od modelu wstępnie wytrenowanego i osobno skwantowanych pochodnych.
Raport techniczny dokumentuje kontekst 8,192 tokenów. Gemma 2 stosuje naprzemiennie uwagę lokalną z oknem przesuwnym 4,096 tokenów i uwagę globalną obejmującą cały kontekst; architektura 27B ma 46 warstw i grouped-query attention. Są to właściwości modelu producenta, a nie ustawienia długości odpowiedzi aplikacji. Przygotuj konkretny fragment źródła i pozostaw miejsce na żądaną odpowiedź oraz rozmowę, zamiast zakładać znacznie większe konteksty późniejszych generacji Gemma.
Baza 27B została wytrenowana od podstaw na 13 bilionach tokenów tekstu, głównie w języku angielskim. Udokumentowane źródła obejmują dokumenty internetowe, kod oraz materiały matematyczne lub naukowe. Raport odróżnia ten trening od destylacji stosowanej w mniejszych modelach bazowych 2B i 9B. Dostrajanie do instrukcji dodaje nadzorowany trening na parach prompt–odpowiedź oraz doskonalenie oparte na preferencjach, aby uzyskać odpowiedź konwersacyjną. Daje to edycji IT inny profil zastosowań niż kontynuowanie dowolnego tekstu przez model wstępnie wytrenowany.
Dla podsumowania dokumentu podaj fragment i określ, czego potrzebuje z niego czytelnik: decyzji, wymagań, wyjaśnienia lub krótkiego zestawu najważniejszych punktów. Przykładowy opis zadania brzmi: „Podsumuj tę specyfikację dla inżyniera pomocy technicznej. Zachowaj wszystkie nazwy pól, odróżnij jawne wymagania od przykładów i wymień szczegóły, których fragment nie definiuje”. Jeżeli fakt musi pochodzić ze źródła, poproś o odpowiednie sformułowanie lub odwołanie do sekcji obok wyjaśnienia.
Użycie konwersacyjne opiera się na szablonie tur user/model Gemma 2. Dokładna karta modelu Google pokazuje zachowanie dialogu w tym szablonie, ze znacznikami początku i końca każdej tury, aby kolejne pytanie mogło rozwijać poprzednią odpowiedź. Udokumentowany format różni się od nowej natywnej roli systemowej i ustawień myślenia Gemma 4. W praktycznej rozmowie można najpierw wyodrębnić fakty, a następnie poprosić o krótsze wyjaśnienie lub szkic wiadomości z zachowaniem wyodrębnionych nazw i warunków.
Dla kodu dołącz odpowiedni fragment, język programowania, zaobserwowane zachowanie i oczekiwany wynik. Poproś o wyjaśnienie, proponowaną poprawkę lub opracowany przykład z określonym zakresem. Przy rozumowaniu matematycznym zapisz pełną treść problemu, definicje zmiennych i założenia jako tekst. Ta edycja nie ma natywnego wejścia wizualnego ani dźwiękowego: sfotografowane zadanie lub ustne wyjaśnienie trzeba najpierw przepisać na tekst. Wyjście może zawierać kod lub sformatowaną odpowiedź, ale te postacie tekstu nie potwierdzają dedykowanego trybu wywoływania narzędzi ani wyjścia z ograniczeniami.
Karta modelu wskazuje niejednoznaczność, sarkazm, złożone otwarte instrukcje i dokładność faktograficzną jako obszary, w których odpowiedzi mogą mieć ograniczenia. Dla odpowiedzi opartej na źródłach podaj wiarygodny fragment i poproś model o wskazanie brakujących informacji. W zadaniu redakcyjnym określ odbiorców, ton, wymagane fakty i części, które mogą się zmienić. Przydatnym rezultatem jest konkretna angielska odpowiedź, podsumowanie, szkic lub wyjaśnienie kodu, które można porównać z materiałem i warunkami podanymi w prompcie.
POST /v1/messagestextjson, sse| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity google/gemma-2-27b-it | Domyślnie— |
Polemessages | Typmessage[] | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemessages[].role | Typstring | WymaganieWymagane | Wartości i limity user, assistant | Domyślnie— |
Polemessages[].content | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemax_tokens | Typinteger | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polestream | Typboolean | WymaganieOpcjonalne | Wartości i limity | Domyślniefalse |
Tekst · tekst UTF-8
ciąg messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktOdczytaj rzeczywisty dokument UTF-8 i umieść jego tekst we wskazanym polu input lub w ciągu treści wiadomości. |
Cykl życia: synchronous_or_streamed
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
Dopasuj każdą opłatę do pokazanych warunków. Użyj jednej stawki dla każdego zestawu alternatywnych konfiguracji.
| Konfiguracja | Tabela stawek | Tokeny kontekstu, więcej niż | Tokeny kontekstu, do podanej wartości włącznie | Opłata |
|---|---|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Tokeny kontekstu, więcej niż— | Tokeny kontekstu, do podanej wartości włącznieBez górnej granicy | Opłata Wejście · Tokeny wejściowe $0.0013 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0013 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
| KonfiguracjaPrzedział długości żądania 1 | Tabela stawek— | Tokeny kontekstu, więcej niż0 | Tokeny kontekstu, do podanej wartości włącznieBez górnej granicy | Opłata Wejście · Tokeny wejściowe $0.0013 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0013 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
{\n "model": "google/gemma-2-27b-it",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON lub SSE
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj wszystkie bloki treści, sygnatury myślenia i rzeczywiste ID użycia narzędzi. Złóż wszystkie przyrosty bloków SSE; pierwszy blok tekstowy nie jest pełnym wyjściem.
Zachowaj ID i nagłówki żądań/odpowiedzi. Nie udostępniono ogólnego URL pobierania zadania tekstowego.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Ailoot Ultra google/gemma-2-27b-it
Użyj ścieżek metod podanych powyżej.
Przykład techniczny po angielsku
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.