Qwen2-7B-Instruct to wydanie Qwen2 w rozmiarze 7B, dostrojone do instrukcji, przeznaczone do rozmowy i zadań wyrażanych w języku naturalnym. Jest modelem z wejściem i wyjściem tekstowym: odpowiedź może być wyjaśnieniem, tłumaczeniem, projektem dokumentu lub kodem programu. Producent wskazuje rozumienie języka, generowanie, pracę wielojęzyczną, kod, matematykę i rozumowanie jako główne obszary użycia.
Szczegóły modelu
Qwen2 obejmuje osobne wydania bazowe i dostrojone do instrukcji. Ta karta dotyczy wydania Instruct, a nie bazowego modelu Qwen2-7B lub wydania rodziny opartego na mieszaninie ekspertów. Tabela informacji o modelu producenta podaje 7,07 miliarda parametrów dla modelu w rozmiarze 7B. Jego Transformer dekodera wykorzystuje SwiGLU, bias QKV w mechanizmie uwagi i uwagę z grupowanymi zapytaniami, z tokenizerem przeznaczonym do języków naturalnych i kodu. To wybory architektury i reprezentacji, a nie dodatkowe modalności wejścia.
Ogłoszenie wydania opisuje trenowanie w angielskim i chińskim oraz 27 dodatkowych językach. Obejmują one rosyjski, czeski i polski; niemiecki, francuski i hiszpański; arabski, perski i turecki; japoński i koreański; oraz dalsze języki Azji Południowej i Południowo-Wschodniej. Wielojęzyczny asystent może więc otrzymać instrukcję i materiał źródłowy w różnych językach, lecz nadal powinien określić język, terminologię i odbiorców końcowego rezultatu.
Trenowanie i odrębność Instruct
Po pretreningu producent stosuje nadzorowane dostrajanie i bezpośrednią optymalizację preferencji. Wydanie dostrojone do instrukcji ma odpowiadać na prośbę w rozmowie, a wydanie bazowe pełni inną rolę jako podstawa modelu językowego. Zachowaj wyraźną nazwę wydania podczas wyboru modelu lub porównywania zachowania promptów. Trenowanie modelu do wykonywania instrukcji i podanie precyzyjnej instrukcji w czasie użycia są uzupełniającymi się częściami procesu.
Przygotowanie wejścia konwersacyjnego
Szybki start w karcie modelu oddziela instrukcję systemową od pytania użytkownika i stosuje właściwy szablon czatu przed generowaniem. Przy zadaniu na poziomie aplikacji to samo praktyczne rozróżnienie jest użyteczne: zdefiniuj rolę asystenta i zasady odpowiedzi oddzielnie od fragmentu źródłowego lub kodu, na którym ma pracować. Etykieta tekstowa wpisana w dokument nie zastępuje prawidłowo sformatowanych ról rozmowy w otaczającym interfejsie.
Zadanie wyjaśnienia technicznego może podać funkcję i jeden przykład wejścia, a następnie pytać, co robi każda gałąź i jakie warunki wpływają na wynik. Zadanie programistyczne może określić akceptowane wejście, oczekiwaną wartość zwracaną i ograniczenia zmiany istniejącego zachowania. Poproś o implementację, a po niej o przykłady dla przypadku normalnego i brzegowego. Są to zastosowania udokumentowanych możliwości językowych i programistycznych; generowanie kodu daje wynik tekstowy, a uruchamianie należy do środowiska aplikacji.
Przy wielojęzycznej redakcji podaj oryginalny fragment, odbiorców i krótką listę terminów. Poproś o zmianę zachowującą oryginalne nazwy i warunki, a następnie o krótkie wyjaśnienie zmian. Jest to konkretniejsze niż prośba o poprawę tekstu: określa, jakie znaczenie musi przetrwać i jaki użyteczny wynik należy zwrócić.
Przetwarzanie długich tekstów
Producent dokumentuje kontekst do 131 072 tokenów, ale instrukcje długiego kontekstu są ważne. Wejścia ponad 32 768 tokenów wymagają udokumentowanej konfiguracji rozszerzenia YaRN. Opublikowany przykład stosuje współczynnik skalowania 4,0 z pierwotną liczbą pozycji 32 768. Producent zaznacza, że statyczne rozszerzenie może wpływać na zachowanie przy krótszym tekście, i zaleca włączać je, gdy faktycznie potrzebne jest przetwarzanie długiego kontekstu.
Przygotuj zadanie na długim dokumencie z konkretnym pytaniem, nazwanymi sekcjami źródłowymi i jednoznaczną strukturą wyniku. Na przykład podaj kilka części specyfikacji technicznej i poproś o wymagania związane z konkretną zmianą, zachowując sekcję źródłową przy każdym ustaleniu. Duże okno wejścia przydaje się do utrzymania tych części razem; odpowiedź nadal może być kompaktową tabelą zamiast powtórzenia całego dokumentu.
Ważne granice
Wartość 131 072 tokenów oznacza obsługę rozszerzonego kontekstu, a nie pozwolenie na pominięcie konfiguracji długiego kontekstu. 512 wygenerowanych tokenów w przykładzie szybkiego startu to przykładowe ustawienie, a nie opublikowana maksymalna pojemność wyjścia. To wydanie Instruct jest modelem tekstowym i nie powinno dziedziczyć możliwości obrazów lub wideo z Qwen-VL ani specjalistycznego treningu matematycznego zintegrowanego z narzędziami z Qwen2.5-Math. Wybierz nazwane wydanie i przygotuj tekst do potrzebnego wyjaśnienia, kodu lub dokumentu.
", "aboutText": "Qwen2-7B-Instruct to wydanie Qwen2 w rozmiarze 7B, dostrojone do instrukcji, przeznaczone do rozmowy i zadań wyrażanych w języku naturalnym. Jest modelem z wejściem i wyjściem tekstowym: odpowiedź może być wyjaśnieniem, tłumaczeniem, projektem dokumentu lub kodem programu. Producent wskazuje rozumienie języka, generowanie, pracę wielojęzyczną, kod, matematykę i rozumowanie jako główne obszary użycia.\n\nSzczegóły modelu\n\nQwen2 obejmuje osobne wydania bazowe i dostrojone do instrukcji. Ta karta dotyczy wydania Instruct, a nie bazowego modelu Qwen2-7B lub wydania rodziny opartego na mieszaninie ekspertów. Tabela informacji o modelu producenta podaje 7,07 miliarda parametrów dla modelu w rozmiarze 7B. Jego Transformer dekodera wykorzystuje SwiGLU, bias QKV w mechanizmie uwagi i uwagę z grupowanymi zapytaniami, z tokenizerem przeznaczonym do języków naturalnych i kodu. To wybory architektury i reprezentacji, a nie dodatkowe modalności wejścia.\n\nOgłoszenie wydania opisuje trenowanie w angielskim i chińskim oraz 27 dodatkowych językach. Obejmują one rosyjski, czeski i polski; niemiecki, francuski i hiszpański; arabski, perski i turecki; japoński i koreański; oraz dalsze języki Azji Południowej i Południowo-Wschodniej. Wielojęzyczny asystent może więc otrzymać instrukcję i materiał źródłowy w różnych językach, lecz nadal powinien określić język, terminologię i odbiorców końcowego rezultatu.\n\nTrenowanie i odrębność Instruct\n\nPo pretreningu producent stosuje nadzorowane dostrajanie i bezpośrednią optymalizację preferencji. Wydanie dostrojone do instrukcji ma odpowiadać na prośbę w rozmowie, a wydanie bazowe pełni inną rolę jako podstawa modelu językowego. Zachowaj wyraźną nazwę wydania podczas wyboru modelu lub porównywania zachowania promptów. Trenowanie modelu do wykonywania instrukcji i podanie precyzyjnej instrukcji w czasie użycia są uzupełniającymi się częściami procesu.\n\nPrzygotowanie wejścia konwersacyjnego\n\nSzybki start w karcie modelu oddziela instrukcję systemową od pytania użytkownika i stosuje właściwy szablon czatu przed generowaniem. Przy zadaniu na poziomie aplikacji to samo praktyczne rozróżnienie jest użyteczne: zdefiniuj rolę asystenta i zasady odpowiedzi oddzielnie od fragmentu źródłowego lub kodu, na którym ma pracować. Etykieta tekstowa wpisana w dokument nie zastępuje prawidłowo sformatowanych ról rozmowy w otaczającym interfejsie.\n\nZadanie wyjaśnienia technicznego może podać funkcję i jeden przykład wejścia, a następnie pytać, co robi każda gałąź i jakie warunki wpływają na wynik. Zadanie programistyczne może określić akceptowane wejście, oczekiwaną wartość zwracaną i ograniczenia zmiany istniejącego zachowania. Poproś o implementację, a po niej o przykłady dla przypadku normalnego i brzegowego. Są to zastosowania udokumentowanych możliwości językowych i programistycznych; generowanie kodu daje wynik tekstowy, a uruchamianie należy do środowiska aplikacji.\n\nPrzy wielojęzycznej redakcji podaj oryginalny fragment, odbiorców i krótką listę terminów. Poproś o zmianę zachowującą oryginalne nazwy i warunki, a następnie o krótkie wyjaśnienie zmian. Jest to konkretniejsze niż prośba o poprawę tekstu: określa, jakie znaczenie musi przetrwać i jaki użyteczny wynik należy zwrócić.\n\nPrzetwarzanie długich tekstów\n\nProducent dokumentuje kontekst do 131 072 tokenów, ale instrukcje długiego kontekstu są ważne. Wejścia ponad 32 768 tokenów wymagają udokumentowanej konfiguracji rozszerzenia YaRN. Opublikowany przykład stosuje współczynnik skalowania 4,0 z pierwotną liczbą pozycji 32 768. Producent zaznacza, że statyczne rozszerzenie może wpływać na zachowanie przy krótszym tekście, i zaleca włączać je, gdy faktycznie potrzebne jest przetwarzanie długiego kontekstu.\n\nPrzygotuj zadanie na długim dokumencie z konkretnym pytaniem, nazwanymi sekcjami źródłowymi i jednoznaczną strukturą wyniku. Na przykład podaj kilka części specyfikacji technicznej i poproś o wymagania związane z konkretną zmianą, zachowując sekcję źródłową przy każdym ustaleniu. Duże okno wejścia przydaje się do utrzymania tych części razem; odpowiedź nadal może być kompaktową tabelą zamiast powtórzenia całego dokumentu.\n\nWażne granice\n\nWartość 131 072 tokenów oznacza obsługę rozszerzonego kontekstu, a nie pozwolenie na pominięcie konfiguracji długiego kontekstu. 512 wygenerowanych tokenów w przykładzie szybkiego startu to przykładowe ustawienie, a nie opublikowana maksymalna pojemność wyjścia. To wydanie Instruct jest modelem tekstowym i nie powinno dziedziczyć możliwości obrazów lub wideo z Qwen-VL ani specjalistycznego treningu matematycznego zintegrowanego z narzędziami z Qwen2.5-Math. Wybierz nazwane wydanie i przygotuj tekst do potrzebnego wyjaśnienia, kodu lub dokumentu.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "43ac4c8fbe273b8dfb2638743b96f4e1bd61a3984c571a8d2e58e05ae1e5d5e3", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "pl", "methods": [ { "html": "qwen2-7b-instructQwen2-7B-Instruct to model tekstowy dostrojony do instrukcji, do wielojęzycznego dialogu, kodu, matematyki i rozumowania. Producent dokumentuje kontekst do 131 072 tokenów przy włączonej konfiguracji długiego kontekstu.
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Qwen2-7B-Instruct to wydanie Qwen2 w rozmiarze 7B, dostrojone do instrukcji, przeznaczone do rozmowy i zadań wyrażanych w języku naturalnym. Jest modelem z wejściem i wyjściem tekstowym: odpowiedź może być wyjaśnieniem, tłumaczeniem, projektem dokumentu lub kodem programu. Producent wskazuje rozumienie języka, generowanie, pracę wielojęzyczną, kod, matematykę i rozumowanie jako główne obszary użycia.
Szczegóły modelu
Qwen2 obejmuje osobne wydania bazowe i dostrojone do instrukcji. Ta karta dotyczy wydania Instruct, a nie bazowego modelu Qwen2-7B lub wydania rodziny opartego na mieszaninie ekspertów. Tabela informacji o modelu producenta podaje 7,07 miliarda parametrów dla modelu w rozmiarze 7B. Jego Transformer dekodera wykorzystuje SwiGLU, bias QKV w mechanizmie uwagi i uwagę z grupowanymi zapytaniami, z tokenizerem przeznaczonym do języków naturalnych i kodu. To wybory architektury i reprezentacji, a nie dodatkowe modalności wejścia.
Ogłoszenie wydania opisuje trenowanie w angielskim i chińskim oraz 27 dodatkowych językach. Obejmują one rosyjski, czeski i polski; niemiecki, francuski i hiszpański; arabski, perski i turecki; japoński i koreański; oraz dalsze języki Azji Południowej i Południowo-Wschodniej. Wielojęzyczny asystent może więc otrzymać instrukcję i materiał źródłowy w różnych językach, lecz nadal powinien określić język, terminologię i odbiorców końcowego rezultatu.
Trenowanie i odrębność Instruct
Po pretreningu producent stosuje nadzorowane dostrajanie i bezpośrednią optymalizację preferencji. Wydanie dostrojone do instrukcji ma odpowiadać na prośbę w rozmowie, a wydanie bazowe pełni inną rolę jako podstawa modelu językowego. Zachowaj wyraźną nazwę wydania podczas wyboru modelu lub porównywania zachowania promptów. Trenowanie modelu do wykonywania instrukcji i podanie precyzyjnej instrukcji w czasie użycia są uzupełniającymi się częściami procesu.
Przygotowanie wejścia konwersacyjnego
Szybki start w karcie modelu oddziela instrukcję systemową od pytania użytkownika i stosuje właściwy szablon czatu przed generowaniem. Przy zadaniu na poziomie aplikacji to samo praktyczne rozróżnienie jest użyteczne: zdefiniuj rolę asystenta i zasady odpowiedzi oddzielnie od fragmentu źródłowego lub kodu, na którym ma pracować. Etykieta tekstowa wpisana w dokument nie zastępuje prawidłowo sformatowanych ról rozmowy w otaczającym interfejsie.
Zadanie wyjaśnienia technicznego może podać funkcję i jeden przykład wejścia, a następnie pytać, co robi każda gałąź i jakie warunki wpływają na wynik. Zadanie programistyczne może określić akceptowane wejście, oczekiwaną wartość zwracaną i ograniczenia zmiany istniejącego zachowania. Poproś o implementację, a po niej o przykłady dla przypadku normalnego i brzegowego. Są to zastosowania udokumentowanych możliwości językowych i programistycznych; generowanie kodu daje wynik tekstowy, a uruchamianie należy do środowiska aplikacji.
Przy wielojęzycznej redakcji podaj oryginalny fragment, odbiorców i krótką listę terminów. Poproś o zmianę zachowującą oryginalne nazwy i warunki, a następnie o krótkie wyjaśnienie zmian. Jest to konkretniejsze niż prośba o poprawę tekstu: określa, jakie znaczenie musi przetrwać i jaki użyteczny wynik należy zwrócić.
Przetwarzanie długich tekstów
Producent dokumentuje kontekst do 131 072 tokenów, ale instrukcje długiego kontekstu są ważne. Wejścia ponad 32 768 tokenów wymagają udokumentowanej konfiguracji rozszerzenia YaRN. Opublikowany przykład stosuje współczynnik skalowania 4,0 z pierwotną liczbą pozycji 32 768. Producent zaznacza, że statyczne rozszerzenie może wpływać na zachowanie przy krótszym tekście, i zaleca włączać je, gdy faktycznie potrzebne jest przetwarzanie długiego kontekstu.
Przygotuj zadanie na długim dokumencie z konkretnym pytaniem, nazwanymi sekcjami źródłowymi i jednoznaczną strukturą wyniku. Na przykład podaj kilka części specyfikacji technicznej i poproś o wymagania związane z konkretną zmianą, zachowując sekcję źródłową przy każdym ustaleniu. Duże okno wejścia przydaje się do utrzymania tych części razem; odpowiedź nadal może być kompaktową tabelą zamiast powtórzenia całego dokumentu.
Ważne granice
Wartość 131 072 tokenów oznacza obsługę rozszerzonego kontekstu, a nie pozwolenie na pominięcie konfiguracji długiego kontekstu. 512 wygenerowanych tokenów w przykładzie szybkiego startu to przykładowe ustawienie, a nie opublikowana maksymalna pojemność wyjścia. To wydanie Instruct jest modelem tekstowym i nie powinno dziedziczyć możliwości obrazów lub wideo z Qwen-VL ani specjalistycznego treningu matematycznego zintegrowanego z narzędziami z Qwen2.5-Math. Wybierz nazwane wydanie i przygotuj tekst do potrzebnego wyjaśnienia, kodu lub dokumentu.
POST /v1/chat/completionstexttext| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity qwen2-7b-instruct | Domyślnie— |
Polemessages | Typmessage[] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 | Domyślnie— |
Polemessages[].role | Typstring | WymaganieWymagane | Wartości i limity Zależy od modelu | Domyślnie— |
Polemessages[].content | Typstring | WymaganieOpcjonalne | Wartości i limity Obowiązuje, gdy: Rozmowa tekstowa | Domyślnie— |
Polestream | Typboolean | WymaganieOpcjonalne | Wartości i limity | Domyślniefalse |
Tekst · tekst UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontrakttablica wiadomości o strukturze role/content |
Parametrfile_material | Kontraktrzeczywisty dokument UTF-8 wstawiony jako dosłowny tekst; bez wywnioskowanego ID pliku |
Parametroptional_controls | Kontraktstream |
Parametrcontrol_scope | KontraktRozmowa tekstowa; stream jest wartością logiczną i domyślnie wynosi false. |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Aliasy metody: /chat/completions
Cykl życia: synchronous_or_streamed
Wyślij dokładne ID modelu wraz z messages.
Długość kontekstu nie jest limitem wyjścia.
Plik tekstowy może dostarczyć dosłowny tekst; wejścia obrazowe/dźwiękowe/obiekty plików wymagają dokładnego powiązania.
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0.000286 / 1K tokenów Wyjście · Tokeny wyjściowe $0.00058 / 1K tokenów Wejście · Odczyt cache $0 / 1K tokenów Wejście · Zapis do cache $0 / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson lub SSE
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wariant i jego treść/wywołania narzędzi/rozumowanie. W SSE składaj przyrosty według indeksu wariantu/narzędzia, zachowując końcowy powód zakończenia i dane użycia.
Zachowaj ID i nagłówki żądań/odpowiedzi. Nie udostępniono ogólnego URL pobierania zadania tekstowego.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions
qwen2-7b-instructQwen2-7B-Instruct to model tekstowy dostrojony do instrukcji, do wielojęzycznego dialogu, kodu, matematyki i rozumowania. Producent dokumentuje kontekst do 131 072 tokenów przy włączonej konfiguracji długiego kontekstu.
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Qwen2-7B-Instruct to wydanie Qwen2 w rozmiarze 7B, dostrojone do instrukcji, przeznaczone do rozmowy i zadań wyrażanych w języku naturalnym. Jest modelem z wejściem i wyjściem tekstowym: odpowiedź może być wyjaśnieniem, tłumaczeniem, projektem dokumentu lub kodem programu. Producent wskazuje rozumienie języka, generowanie, pracę wielojęzyczną, kod, matematykę i rozumowanie jako główne obszary użycia.
Szczegóły modelu
Qwen2 obejmuje osobne wydania bazowe i dostrojone do instrukcji. Ta karta dotyczy wydania Instruct, a nie bazowego modelu Qwen2-7B lub wydania rodziny opartego na mieszaninie ekspertów. Tabela informacji o modelu producenta podaje 7,07 miliarda parametrów dla modelu w rozmiarze 7B. Jego Transformer dekodera wykorzystuje SwiGLU, bias QKV w mechanizmie uwagi i uwagę z grupowanymi zapytaniami, z tokenizerem przeznaczonym do języków naturalnych i kodu. To wybory architektury i reprezentacji, a nie dodatkowe modalności wejścia.
Ogłoszenie wydania opisuje trenowanie w angielskim i chińskim oraz 27 dodatkowych językach. Obejmują one rosyjski, czeski i polski; niemiecki, francuski i hiszpański; arabski, perski i turecki; japoński i koreański; oraz dalsze języki Azji Południowej i Południowo-Wschodniej. Wielojęzyczny asystent może więc otrzymać instrukcję i materiał źródłowy w różnych językach, lecz nadal powinien określić język, terminologię i odbiorców końcowego rezultatu.
Trenowanie i odrębność Instruct
Po pretreningu producent stosuje nadzorowane dostrajanie i bezpośrednią optymalizację preferencji. Wydanie dostrojone do instrukcji ma odpowiadać na prośbę w rozmowie, a wydanie bazowe pełni inną rolę jako podstawa modelu językowego. Zachowaj wyraźną nazwę wydania podczas wyboru modelu lub porównywania zachowania promptów. Trenowanie modelu do wykonywania instrukcji i podanie precyzyjnej instrukcji w czasie użycia są uzupełniającymi się częściami procesu.
Przygotowanie wejścia konwersacyjnego
Szybki start w karcie modelu oddziela instrukcję systemową od pytania użytkownika i stosuje właściwy szablon czatu przed generowaniem. Przy zadaniu na poziomie aplikacji to samo praktyczne rozróżnienie jest użyteczne: zdefiniuj rolę asystenta i zasady odpowiedzi oddzielnie od fragmentu źródłowego lub kodu, na którym ma pracować. Etykieta tekstowa wpisana w dokument nie zastępuje prawidłowo sformatowanych ról rozmowy w otaczającym interfejsie.
Zadanie wyjaśnienia technicznego może podać funkcję i jeden przykład wejścia, a następnie pytać, co robi każda gałąź i jakie warunki wpływają na wynik. Zadanie programistyczne może określić akceptowane wejście, oczekiwaną wartość zwracaną i ograniczenia zmiany istniejącego zachowania. Poproś o implementację, a po niej o przykłady dla przypadku normalnego i brzegowego. Są to zastosowania udokumentowanych możliwości językowych i programistycznych; generowanie kodu daje wynik tekstowy, a uruchamianie należy do środowiska aplikacji.
Przy wielojęzycznej redakcji podaj oryginalny fragment, odbiorców i krótką listę terminów. Poproś o zmianę zachowującą oryginalne nazwy i warunki, a następnie o krótkie wyjaśnienie zmian. Jest to konkretniejsze niż prośba o poprawę tekstu: określa, jakie znaczenie musi przetrwać i jaki użyteczny wynik należy zwrócić.
Przetwarzanie długich tekstów
Producent dokumentuje kontekst do 131 072 tokenów, ale instrukcje długiego kontekstu są ważne. Wejścia ponad 32 768 tokenów wymagają udokumentowanej konfiguracji rozszerzenia YaRN. Opublikowany przykład stosuje współczynnik skalowania 4,0 z pierwotną liczbą pozycji 32 768. Producent zaznacza, że statyczne rozszerzenie może wpływać na zachowanie przy krótszym tekście, i zaleca włączać je, gdy faktycznie potrzebne jest przetwarzanie długiego kontekstu.
Przygotuj zadanie na długim dokumencie z konkretnym pytaniem, nazwanymi sekcjami źródłowymi i jednoznaczną strukturą wyniku. Na przykład podaj kilka części specyfikacji technicznej i poproś o wymagania związane z konkretną zmianą, zachowując sekcję źródłową przy każdym ustaleniu. Duże okno wejścia przydaje się do utrzymania tych części razem; odpowiedź nadal może być kompaktową tabelą zamiast powtórzenia całego dokumentu.
Ważne granice
Wartość 131 072 tokenów oznacza obsługę rozszerzonego kontekstu, a nie pozwolenie na pominięcie konfiguracji długiego kontekstu. 512 wygenerowanych tokenów w przykładzie szybkiego startu to przykładowe ustawienie, a nie opublikowana maksymalna pojemność wyjścia. To wydanie Instruct jest modelem tekstowym i nie powinno dziedziczyć możliwości obrazów lub wideo z Qwen-VL ani specjalistycznego treningu matematycznego zintegrowanego z narzędziami z Qwen2.5-Math. Wybierz nazwane wydanie i przygotuj tekst do potrzebnego wyjaśnienia, kodu lub dokumentu.
POST /v1/messagestextjson, sse| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity qwen2-7b-instruct | Domyślnie— |
Polemessages | Typmessage[] | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemessages[].role | Typstring | WymaganieWymagane | Wartości i limity user, assistant | Domyślnie— |
Polemessages[].content | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemax_tokens | Typinteger | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polestream | Typboolean | WymaganieOpcjonalne | Wartości i limity | Domyślniefalse |
Tekst · tekst UTF-8
ciąg messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktOdczytaj rzeczywisty dokument UTF-8 i umieść jego tekst we wskazanym polu input lub w ciągu treści wiadomości. |
Cykl życia: synchronous_or_streamed
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0.000286 / 1K tokenów Wyjście · Tokeny wyjściowe $0.00058 / 1K tokenów Wejście · Odczyt cache $0 / 1K tokenów Wejście · Zapis do cache $0 / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
{\n "model": "qwen2-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON lub SSE
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj wszystkie bloki treści, sygnatury myślenia i rzeczywiste ID użycia narzędzi. Złóż wszystkie przyrosty bloków SSE; pierwszy blok tekstowy nie jest pełnym wyjściem.
Zachowaj ID i nagłówki żądań/odpowiedzi. Nie udostępniono ogólnego URL pobierania zadania tekstowego.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions