Mistral Small 4 łączy ogólne wykonywanie instrukcji, rozumowanie i programowanie w jednym modelu multimodalnym. Producent opisuje go jako połączenie rodzin Instruct, rozumowania Magistral i programowania Devstral. Przyjmuje tekst i obrazy oraz zwraca tekst, z wywołaniami funkcji i wynikiem JSON dostępnymi dla aplikacji wspomaganych narzędziami.
Architektura i główne funkcje
Wydanie ma 119 mld parametrów łącznie i aktywuje 6,5 mld na token. Jego architektura mixture-of-experts zawiera 128 ekspertów, z 4 aktywnymi, a producent dokumentuje okno kontekstowe o wielkości 256 tys. tokenów. Liczba aktywnych parametrów i ekspertów opisuje organizację modelu; różni się od ilości treści tekstowej lub obrazowej zawartej w jednym zadaniu.
Model zapewnia funkcje instrukcyjne i rozumowania w tym samym checkpoincie. Producent wskazuje też wizję, przestrzeganie promptu systemowego i obsługę kilkudziesięciu języków, w tym angielskiego, francuskiego, hiszpańskiego, niemieckiego, włoskiego, portugalskiego, niderlandzkiego, chińskiego, japońskiego, koreańskiego i arabskiego. Instrukcja tekstowa może więc pytać o obraz lub łączyć pisemne wymaganie z widocznymi dowodami, a odpowiedź zostanie zwrócona jako tekst.
Zadanie wizualne może dostarczać stronę dokumentu i pytać o wartości istotne dla nazwanego warunku. Zachowaj czytelność etykiet i jednostek oraz określ, czy wynik powinien zachować oryginalne brzmienie, podsumować je czy porównać z innym źródłem. Zadanie interfejsowe może połączyć zrzut ekranu z celem użytkownika i żądać właściwego widocznego elementu sterującego oraz dowodów potwierdzających proponowany kolejny krok.
Wybór trybu instrukcyjnego lub rozumowania
Opublikowana karta dokumentuje intensywność rozumowania none dla natychmiastowej odpowiedzi w stylu instrukcyjnym i high dla rozumowania, z high zalecanym do złożonych promptów. Wybór dokonywany jest dla każdego żądania w obrębie tego samego modelu Small 4. Zwykła klasyfikacja lub krótkie przeredagowanie mogą mieć inny kontrakt odpowiedzi niż problem matematyczny, wizualny lub programistyczny wymagający rozwiniętego wyjaśnienia.
Producent zaleca temperaturę 0.7 dla wysokiej intensywności rozumowania. Dla none określa temperatury między 0.0 a 0.7 zależnie od zadania. Ustawienia te opisują udokumentowane tryby i nie zmieniają intensywności rozumowania w gwarancję poprawnego wyniku. Zdefiniuj założenia, postać wyniku i istotny materiał źródłowy przed wyborem, ile rozumowania wymaga zadanie.
Dla problemu do rozwiązania podaj pełny warunek i poproś o istotne uzasadnione kroki, a następnie wyrażenie końcowe. Dla zadania programistycznego podaj wymaganie, dotkniętą funkcję i konkretne dane wejściowe; zażądaj proponowanej implementacji oddzielnie od wyjaśnienia i przykładów. Demonstracje użycia producenta obejmują wykonywanie instrukcji, narzędzie obliczeniowe zastosowane do obrazu i rozumowanie wizualne, pokazując, jak dowody tekstowe i wizualne mogą wchodzić do tych różnych zadań.
Kod, dokumenty i narzędzia
Model jest pozycjonowany do eksploracji kodu i agentów inżynierii oprogramowania, ogólnych asystentów, rozumienia dokumentów i badań. Żądanie agenta programistycznego może wskazywać moduł do zmiany, interfejs do zachowania i zachowanie, które powinno nastąpić. Dostarcz istotne źródła i dowody błędu. Model może proponować kolejną operację lub zmianę kodu, a aplikacja zapewnia dostęp do repozytorium, wykonywanie i informację zwrotną.
Dla ekstrakcji z dokumentów wskaż wymagane pola i sposób przedstawiania brakujących informacji. Przydatny rekord może rozdzielać identyfikator dokumentu, stwierdzenie źródłowe, zinterpretowane wymaganie i nierozstrzygnięte pytanie. Karta usługi producenta wymienia niestandardowe uporządkowane wyniki i odpowiadanie na pytania o dokumenty; to drugie wykorzystuje przetwarzanie dokumentu i OCR do przygotowania tekstu oraz struktury przed analizą modelu językowego. Bezpośrednie pytanie o obraz i przepływ dokumentowy wspomagany OCR powinny zachować własne sposoby przygotowania wejścia.
Wywoływanie funkcji wymaga jasno opisanych narzędzi. Model wybiera funkcję i tworzy argumenty; aplikacja wykonuje operację i zwraca jej wynik na potrzeby późniejszej odpowiedzi. Ta sama logika obowiązuje niezależnie od tego, czy zadanie dotyczy wyszukiwania, obliczenia czy operacji programistycznej. Formatowanie JSON porządkuje odpowiedź, a wywołanie narzędzia prosi o działanie zewnętrzne; nie należy traktować ich jako wymiennych wyników.
Karta usługi wymienia też przewidywane wyniki, prefiksy odpowiedzi, przetwarzanie wsadowe i rozmowy agentowe. Przewidywane wyniki są przydatne, gdy dokument lub plik kodu trzeba wygenerować ponownie tylko z ograniczoną zmianą, a reszta treści jest znana. Określ zmianę i materiał do zachowania. Kontynuacja prefiksu używa znanego początku odpowiedzi, a przetwarzanie wsadowe dotyczy przesyłania pracy, a nie dodatkowego trybu rozumowania.
Zakres kontekstu i edycji
Planuj pisemne zadanie, materiał wizualny, rozmowę i pożądaną odpowiedź w obrębie udokumentowanego kontekstu o wielkości 256 tys. tokenów. Udostępniony przykład użycia konfiguruje kontekst o wielkości 262 144 tokenów, a jego przykład generowania 1024 tokenów nie jest osobną maksymalną pojemnością wyjścia. Przeczytane źródła nie podają niezależnego sztywnego limitu długości odpowiedzi, którym można by zastąpić długość wybraną dla zadania.
Small 4 ma własną architekturę mixture-of-experts o 119 mld parametrów i tryby hybrydowe. Nie powinien dziedziczyć gęstej architektury o 128 mld parametrów Medium 3.5 ani osobnych edycji Instruct i Reasoning Ministral 3. Producent udostępnia też odrębne artefakty skwantyzowane i do dekodowania spekulacyjnego; są to osobne artefakty wdrożeniowe, a nie różne modalności treści. Zachowaj wskazane wydanie Small 4 i tryb żądany dla właściwego wyjaśnienia, uporządkowanego rekordu lub wyniku programistycznego.
", "aboutText": "Mistral Small 4 łączy ogólne wykonywanie instrukcji, rozumowanie i programowanie w jednym modelu multimodalnym. Producent opisuje go jako połączenie rodzin Instruct, rozumowania Magistral i programowania Devstral. Przyjmuje tekst i obrazy oraz zwraca tekst, z wywołaniami funkcji i wynikiem JSON dostępnymi dla aplikacji wspomaganych narzędziami.\n\nArchitektura i główne funkcje\n\nWydanie ma 119 mld parametrów łącznie i aktywuje 6,5 mld na token. Jego architektura mixture-of-experts zawiera 128 ekspertów, z 4 aktywnymi, a producent dokumentuje okno kontekstowe o wielkości 256 tys. tokenów. Liczba aktywnych parametrów i ekspertów opisuje organizację modelu; różni się od ilości treści tekstowej lub obrazowej zawartej w jednym zadaniu.\n\nModel zapewnia funkcje instrukcyjne i rozumowania w tym samym checkpoincie. Producent wskazuje też wizję, przestrzeganie promptu systemowego i obsługę kilkudziesięciu języków, w tym angielskiego, francuskiego, hiszpańskiego, niemieckiego, włoskiego, portugalskiego, niderlandzkiego, chińskiego, japońskiego, koreańskiego i arabskiego. Instrukcja tekstowa może więc pytać o obraz lub łączyć pisemne wymaganie z widocznymi dowodami, a odpowiedź zostanie zwrócona jako tekst.\n\nZadanie wizualne może dostarczać stronę dokumentu i pytać o wartości istotne dla nazwanego warunku. Zachowaj czytelność etykiet i jednostek oraz określ, czy wynik powinien zachować oryginalne brzmienie, podsumować je czy porównać z innym źródłem. Zadanie interfejsowe może połączyć zrzut ekranu z celem użytkownika i żądać właściwego widocznego elementu sterującego oraz dowodów potwierdzających proponowany kolejny krok.\n\nWybór trybu instrukcyjnego lub rozumowania\n\nOpublikowana karta dokumentuje intensywność rozumowania none dla natychmiastowej odpowiedzi w stylu instrukcyjnym i high dla rozumowania, z high zalecanym do złożonych promptów. Wybór dokonywany jest dla każdego żądania w obrębie tego samego modelu Small 4. Zwykła klasyfikacja lub krótkie przeredagowanie mogą mieć inny kontrakt odpowiedzi niż problem matematyczny, wizualny lub programistyczny wymagający rozwiniętego wyjaśnienia.\n\nProducent zaleca temperaturę 0.7 dla wysokiej intensywności rozumowania. Dla none określa temperatury między 0.0 a 0.7 zależnie od zadania. Ustawienia te opisują udokumentowane tryby i nie zmieniają intensywności rozumowania w gwarancję poprawnego wyniku. Zdefiniuj założenia, postać wyniku i istotny materiał źródłowy przed wyborem, ile rozumowania wymaga zadanie.\n\nDla problemu do rozwiązania podaj pełny warunek i poproś o istotne uzasadnione kroki, a następnie wyrażenie końcowe. Dla zadania programistycznego podaj wymaganie, dotkniętą funkcję i konkretne dane wejściowe; zażądaj proponowanej implementacji oddzielnie od wyjaśnienia i przykładów. Demonstracje użycia producenta obejmują wykonywanie instrukcji, narzędzie obliczeniowe zastosowane do obrazu i rozumowanie wizualne, pokazując, jak dowody tekstowe i wizualne mogą wchodzić do tych różnych zadań.\n\nKod, dokumenty i narzędzia\n\nModel jest pozycjonowany do eksploracji kodu i agentów inżynierii oprogramowania, ogólnych asystentów, rozumienia dokumentów i badań. Żądanie agenta programistycznego może wskazywać moduł do zmiany, interfejs do zachowania i zachowanie, które powinno nastąpić. Dostarcz istotne źródła i dowody błędu. Model może proponować kolejną operację lub zmianę kodu, a aplikacja zapewnia dostęp do repozytorium, wykonywanie i informację zwrotną.\n\nDla ekstrakcji z dokumentów wskaż wymagane pola i sposób przedstawiania brakujących informacji. Przydatny rekord może rozdzielać identyfikator dokumentu, stwierdzenie źródłowe, zinterpretowane wymaganie i nierozstrzygnięte pytanie. Karta usługi producenta wymienia niestandardowe uporządkowane wyniki i odpowiadanie na pytania o dokumenty; to drugie wykorzystuje przetwarzanie dokumentu i OCR do przygotowania tekstu oraz struktury przed analizą modelu językowego. Bezpośrednie pytanie o obraz i przepływ dokumentowy wspomagany OCR powinny zachować własne sposoby przygotowania wejścia.\n\nWywoływanie funkcji wymaga jasno opisanych narzędzi. Model wybiera funkcję i tworzy argumenty; aplikacja wykonuje operację i zwraca jej wynik na potrzeby późniejszej odpowiedzi. Ta sama logika obowiązuje niezależnie od tego, czy zadanie dotyczy wyszukiwania, obliczenia czy operacji programistycznej. Formatowanie JSON porządkuje odpowiedź, a wywołanie narzędzia prosi o działanie zewnętrzne; nie należy traktować ich jako wymiennych wyników.\n\nKarta usługi wymienia też przewidywane wyniki, prefiksy odpowiedzi, przetwarzanie wsadowe i rozmowy agentowe. Przewidywane wyniki są przydatne, gdy dokument lub plik kodu trzeba wygenerować ponownie tylko z ograniczoną zmianą, a reszta treści jest znana. Określ zmianę i materiał do zachowania. Kontynuacja prefiksu używa znanego początku odpowiedzi, a przetwarzanie wsadowe dotyczy przesyłania pracy, a nie dodatkowego trybu rozumowania.\n\nZakres kontekstu i edycji\n\nPlanuj pisemne zadanie, materiał wizualny, rozmowę i pożądaną odpowiedź w obrębie udokumentowanego kontekstu o wielkości 256 tys. tokenów. Udostępniony przykład użycia konfiguruje kontekst o wielkości 262 144 tokenów, a jego przykład generowania 1024 tokenów nie jest osobną maksymalną pojemnością wyjścia. Przeczytane źródła nie podają niezależnego sztywnego limitu długości odpowiedzi, którym można by zastąpić długość wybraną dla zadania.\n\nSmall 4 ma własną architekturę mixture-of-experts o 119 mld parametrów i tryby hybrydowe. Nie powinien dziedziczyć gęstej architektury o 128 mld parametrów Medium 3.5 ani osobnych edycji Instruct i Reasoning Ministral 3. Producent udostępnia też odrębne artefakty skwantyzowane i do dekodowania spekulacyjnego; są to osobne artefakty wdrożeniowe, a nie różne modalności treści. Zachowaj wskazane wydanie Small 4 i tryb żądany dla właściwego wyjaśnienia, uporządkowanego rekordu lub wyniku programistycznego.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "5eb2bdc4bf41b0ff2db1c82a6eaaf78f0095c07514793e2b6c6125b3e24623bc", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "pl", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 to hybrydowy model przyjmujący tekst i obrazy, z możliwościami instrukcyjnymi, rozumowania i programowania. Wydanie mixture-of-experts o 119 mld parametrów aktywuje 6,5 mld parametrów na token i obsługuje kontekst producenta o wielkości 256 tys. tokenów, wybieraną intensywność rozumowania, JSON i wywołania funkcji.
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Mistral Small 4 łączy ogólne wykonywanie instrukcji, rozumowanie i programowanie w jednym modelu multimodalnym. Producent opisuje go jako połączenie rodzin Instruct, rozumowania Magistral i programowania Devstral. Przyjmuje tekst i obrazy oraz zwraca tekst, z wywołaniami funkcji i wynikiem JSON dostępnymi dla aplikacji wspomaganych narzędziami.
Architektura i główne funkcje
Wydanie ma 119 mld parametrów łącznie i aktywuje 6,5 mld na token. Jego architektura mixture-of-experts zawiera 128 ekspertów, z 4 aktywnymi, a producent dokumentuje okno kontekstowe o wielkości 256 tys. tokenów. Liczba aktywnych parametrów i ekspertów opisuje organizację modelu; różni się od ilości treści tekstowej lub obrazowej zawartej w jednym zadaniu.
Model zapewnia funkcje instrukcyjne i rozumowania w tym samym checkpoincie. Producent wskazuje też wizję, przestrzeganie promptu systemowego i obsługę kilkudziesięciu języków, w tym angielskiego, francuskiego, hiszpańskiego, niemieckiego, włoskiego, portugalskiego, niderlandzkiego, chińskiego, japońskiego, koreańskiego i arabskiego. Instrukcja tekstowa może więc pytać o obraz lub łączyć pisemne wymaganie z widocznymi dowodami, a odpowiedź zostanie zwrócona jako tekst.
Zadanie wizualne może dostarczać stronę dokumentu i pytać o wartości istotne dla nazwanego warunku. Zachowaj czytelność etykiet i jednostek oraz określ, czy wynik powinien zachować oryginalne brzmienie, podsumować je czy porównać z innym źródłem. Zadanie interfejsowe może połączyć zrzut ekranu z celem użytkownika i żądać właściwego widocznego elementu sterującego oraz dowodów potwierdzających proponowany kolejny krok.
Wybór trybu instrukcyjnego lub rozumowania
Opublikowana karta dokumentuje intensywność rozumowania none dla natychmiastowej odpowiedzi w stylu instrukcyjnym i high dla rozumowania, z high zalecanym do złożonych promptów. Wybór dokonywany jest dla każdego żądania w obrębie tego samego modelu Small 4. Zwykła klasyfikacja lub krótkie przeredagowanie mogą mieć inny kontrakt odpowiedzi niż problem matematyczny, wizualny lub programistyczny wymagający rozwiniętego wyjaśnienia.
Producent zaleca temperaturę 0.7 dla wysokiej intensywności rozumowania. Dla none określa temperatury między 0.0 a 0.7 zależnie od zadania. Ustawienia te opisują udokumentowane tryby i nie zmieniają intensywności rozumowania w gwarancję poprawnego wyniku. Zdefiniuj założenia, postać wyniku i istotny materiał źródłowy przed wyborem, ile rozumowania wymaga zadanie.
Dla problemu do rozwiązania podaj pełny warunek i poproś o istotne uzasadnione kroki, a następnie wyrażenie końcowe. Dla zadania programistycznego podaj wymaganie, dotkniętą funkcję i konkretne dane wejściowe; zażądaj proponowanej implementacji oddzielnie od wyjaśnienia i przykładów. Demonstracje użycia producenta obejmują wykonywanie instrukcji, narzędzie obliczeniowe zastosowane do obrazu i rozumowanie wizualne, pokazując, jak dowody tekstowe i wizualne mogą wchodzić do tych różnych zadań.
Kod, dokumenty i narzędzia
Model jest pozycjonowany do eksploracji kodu i agentów inżynierii oprogramowania, ogólnych asystentów, rozumienia dokumentów i badań. Żądanie agenta programistycznego może wskazywać moduł do zmiany, interfejs do zachowania i zachowanie, które powinno nastąpić. Dostarcz istotne źródła i dowody błędu. Model może proponować kolejną operację lub zmianę kodu, a aplikacja zapewnia dostęp do repozytorium, wykonywanie i informację zwrotną.
Dla ekstrakcji z dokumentów wskaż wymagane pola i sposób przedstawiania brakujących informacji. Przydatny rekord może rozdzielać identyfikator dokumentu, stwierdzenie źródłowe, zinterpretowane wymaganie i nierozstrzygnięte pytanie. Karta usługi producenta wymienia niestandardowe uporządkowane wyniki i odpowiadanie na pytania o dokumenty; to drugie wykorzystuje przetwarzanie dokumentu i OCR do przygotowania tekstu oraz struktury przed analizą modelu językowego. Bezpośrednie pytanie o obraz i przepływ dokumentowy wspomagany OCR powinny zachować własne sposoby przygotowania wejścia.
Wywoływanie funkcji wymaga jasno opisanych narzędzi. Model wybiera funkcję i tworzy argumenty; aplikacja wykonuje operację i zwraca jej wynik na potrzeby późniejszej odpowiedzi. Ta sama logika obowiązuje niezależnie od tego, czy zadanie dotyczy wyszukiwania, obliczenia czy operacji programistycznej. Formatowanie JSON porządkuje odpowiedź, a wywołanie narzędzia prosi o działanie zewnętrzne; nie należy traktować ich jako wymiennych wyników.
Karta usługi wymienia też przewidywane wyniki, prefiksy odpowiedzi, przetwarzanie wsadowe i rozmowy agentowe. Przewidywane wyniki są przydatne, gdy dokument lub plik kodu trzeba wygenerować ponownie tylko z ograniczoną zmianą, a reszta treści jest znana. Określ zmianę i materiał do zachowania. Kontynuacja prefiksu używa znanego początku odpowiedzi, a przetwarzanie wsadowe dotyczy przesyłania pracy, a nie dodatkowego trybu rozumowania.
Zakres kontekstu i edycji
Planuj pisemne zadanie, materiał wizualny, rozmowę i pożądaną odpowiedź w obrębie udokumentowanego kontekstu o wielkości 256 tys. tokenów. Udostępniony przykład użycia konfiguruje kontekst o wielkości 262 144 tokenów, a jego przykład generowania 1024 tokenów nie jest osobną maksymalną pojemnością wyjścia. Przeczytane źródła nie podają niezależnego sztywnego limitu długości odpowiedzi, którym można by zastąpić długość wybraną dla zadania.
Small 4 ma własną architekturę mixture-of-experts o 119 mld parametrów i tryby hybrydowe. Nie powinien dziedziczyć gęstej architektury o 128 mld parametrów Medium 3.5 ani osobnych edycji Instruct i Reasoning Ministral 3. Producent udostępnia też odrębne artefakty skwantyzowane i do dekodowania spekulacyjnego; są to osobne artefakty wdrożeniowe, a nie różne modalności treści. Zachowaj wskazane wydanie Small 4 i tryb żądany dla właściwego wyjaśnienia, uporządkowanego rekordu lub wyniku programistycznego.
POST /v1/batchestexttext| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Poleendpoint | Typstring | WymaganieWymagane | Wartości i limity /v1/chat/completions | Domyślnie— |
Polemodel | Typstring | WymaganieWymagane | Wartości i limity mistralai/mistral-small-2603:batch | Domyślnie— |
Polerequests | Typbatch_item[] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 | Domyślnie— |
Polerequests[].custom_id | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polerequests[].body.messages | Typmessage[] | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polecompletion_window | Typstring | WymaganieOpcjonalne | Wartości i limity 24h | Domyślnie— |
Poleprovider | Typobject|null | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Polerequests[].body.model | Typstring | WymaganieOpcjonalne | Wartości i limity mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Domyślnie— |
Poleprovider.only | Typstring[] | WymaganieOpcjonalne | Wartości i limity mistral | Domyślnie— |
Poleprovider.allow_fallbacks | Typboolean|null | WymaganieOpcjonalne | Wartości i limity false, null | Domyślnie— |
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktendpoint, model, requests |
Parametrmaterial_types | Kontrakttext |
Parametrrepresentation | Kontraktrequests[] bezpośrednio w żądaniu; każdy element zawiera custom_id i body |
Parametrrequest_endpoint_profile | Kontrakt/v1/chat/completions |
Parametrfile_material | KontraktWywołujący może lokalnie wczytać rzeczywisty plik JSONL w kodowaniu UTF-8 do requests[]. Nie używa się przeznaczenia przesyłanego pliku, input_file_id ani odwołania do pliku. Brak materiałów klienta lub ich pusta zawartość zatrzymują przygotowanie przed POST. |
Parametrserialization_order | Kontraktendpoint, model, provider (jeśli podano), completion_window (jeśli podano), requests na końcu |
Parametroptional_controls | Kontraktprovider.only, provider.allow_fallbacks, completion_window |
Parametrschema_scope | KontraktTreści żądań tekstowych Chat Completions w udokumentowanej strukturze Batch z danymi bezpośrednio w żądaniu. |
Cykl życia: asynchronous
GET /v1/batches/{operation_id} · Rzeczywista wartość response.id zwrócona przy pierwotnym utworzeniu; ten sam użytkownik, klucz i grupa
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
Dopasuj każdą opłatę do pokazanych warunków. Użyj jednej stawki dla każdego zestawu alternatywnych konfiguracji.
| Konfiguracja | Tabela stawek | Tokeny kontekstu, więcej niż | Tokeny kontekstu, do podanej wartości włącznie | Opłata |
|---|---|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Tokeny kontekstu, więcej niż— | Tokeny kontekstu, do podanej wartości włącznieBez górnej granicy | Opłata Wejście · Tokeny wejściowe $0.00015 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0006 / 1K tokenów Wejście · Odczyt cache $0.000015 / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
| KonfiguracjaPrzedział długości żądania 1 | Tabela stawek— | Tokeny kontekstu, więcej niż0 | Tokeny kontekstu, do podanej wartości włącznieBez górnej granicy | Opłata Wejście · Tokeny wejściowe $0.00015 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0006 / 1K tokenów Wejście · Odczyt cache $0.000015 / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON bezpośrednio w results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nZachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj pełny pierwotny JSON stanu, każdy wynik i custom_id oraz pełną treść odpowiedzi lub błędu. Zapisz ukończone wyniki z results[] jako JSONL bez filtrowania.
Zachowaj pierwotny identyfikator operacji. Odpowiedź 503 result_pending_check zawiera X-Should-Retry:false; nigdy nie wysyłaj ponownie pierwotnego żądania Batch, którego wynik jest nieznany.
| Pole | Typ |
|---|---|
Poleresults[].custom_id | Typstring |
Poleresults[].response.body.choices[].message.content | Typstring|null |
Poleresults[].error | Typobject|null |
Poleusage | Typobject|null |
Poleid | Typstring |
Polemodel | Typstring |
Poleendpoint | Typstring |
Polestatus | Typstring |
Polerequest_counts | Typobject |
Poleresults[].id | Typstring |
Poleresults[].response.status_code | Typinteger |
Poleresults[].response.request_id | Typstring |
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowa udokumentowana struktura z danymi bezpośrednio w żądaniu, zduplikowane klucze, problem z tożsamością elementu lub konflikt ze skonfigurowanymi możliwościami modelu. | Następny krokPopraw wskazane pola przed wysłaniem jakiegokolwiek nowego żądania. |
Odpowiedź401 · authentication_error | WarunekNieprawidłowy klucz API. | Następny krokUżyj autoryzowanego klucza Ailoot. |
Odpowiedź403 · permission_error | WarunekGrupa Batch jest niedostępna. | Następny krokSprawdź uprawnienia klucza i grupy. |
Odpowiedź422 · invalid_request_error | WarunekBatch korzysta z rozliczania z salda; utworzenie w ramach subskrypcji jest odrzucane. | Następny krokUżyj autoryzowanej grupy rozliczanej z salda. |
Odpowiedź422 · price_unavailable | WarunekNie można wycenić danych wejściowych Batch. | Następny krokZachowaj odpowiedź; użyj danych wejściowych udokumentowanych dla tej rodziny API. |
Odpowiedź402 · billing_error | WarunekRezerwa dla Batch jest niedostępna. | Następny krokRozwiąż problem dopuszczenia żądania przed wysłaniem nowego. |
Odpowiedź503 · price_unavailable | WarunekCena metody Batch lub stawki natywne są niedostępne. | Następny krokZachowaj odpowiedź; nie zastępuj cen innymi. |
Odpowiedź503 · api_error | WarunekDokładna trasa dostawcy jest niedostępna. | Następny krokZachowaj odpowiedź na potrzeby naprawy trasy. |
Odpowiedź503 · result_pending_check | WarunekPierwotny wynik wymaga sprawdzenia; X-Should-Retry:false. | Następny krokZachowaj pierwotny operation_id/id i odczytuj stan operacji; nigdy nie powtarzaj pierwotnego POST. |
Odpowiedź404 · not_found | WarunekOperacja sprawdzania stanu Batch nie istnieje lub należy do innej tożsamości. | Następny krokUżyj dokładnego pierwotnego id oraz tego samego użytkownika, klucza i grupy. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Użyj ścieżek metod podanych powyżej.