Source: https://ailoot.ai/models/ru/meta-llama-llama-3-2-3b-instruct/ Canonical: https://ailoot.ai/models/ru/meta-llama-llama-3-2-3b-instruct/ Language: ru # Meta: Llama 3.2 3B Instruct [Markdown](https://ailoot.ai/models/ru/meta-llama-llama-3-2-3b-instruct/index.md) · [JSON](https://ailoot.ai/models/ru/meta-llama-llama-3-2-3b-instruct/facts.json) ## [Meta: Llama 3.2 3B Instruct](https://ailoot.ai/models/ru/meta-llama-llama-3-2-3b-instruct/) Meta Llama 3.2 3B Instruct — компактная текстовая модель для многоязычных чатов, сводок на основе найденных материалов и помощи в работе с текстом. Стандартный чекпойнт имеет контекст 128K; у отдельно выпущенных квантованных вариантов другое рабочее окно. - [**Ailoot Ultra · Чат OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/meta-llama-llama-3-2-3b-instruct/#method-0) - [**Ailoot Ultra · Сообщения Anthropic** `POST /v1/messages` `meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/meta-llama-llama-3-2-3b-instruct/#method-1) О модели Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже. Meta Llama 3.2 3B Instruct — текстовая модель, дообученная для выполнения инструкций и предназначенная для многоязычных диалогов с ассистентом, работы с найденными источниками и составления сводок. В таблице разработчика она относится к классу 3B и содержит 3.21B параметров. Модель принимает текст и создаёт текст или код. При её разработке сокращение модели и дистилляция знаний сочетаются с дообучением на инструкциях, формируя компактную модель для конкретных задач письма и работы ассистента. #### Задайте чёткие границы текстового результата Передайте модели исходный материал, вопрос и ожидаемую форму ответа. В запросе на помощь с текстом можно указать аудиторию, тон и детали, которые нужно сохранить. В запросе на сводку можно определить разделы, которые следует охватить, а также желаемую длину или структуру. Для короткого ответа по базе знаний передайте подходящий фрагмент и попросите объяснение с опорой на этот источник. Разработчик относит к предполагаемым применениям текстовых моделей, дообученных на инструкциях, извлечение знаний, составление сводок, работу мобильных помощников для письма, переформулирование поисковых запросов и промптов. Приложение с поиском по источникам может передать найденные фрагменты и попросить модель составить ответ. Сохраняйте идентификаторы фрагментов вместе с результатом, чтобы читатель или другой компонент мог проверить основания ответа. При переформулировании запроса сохраняйте исходный вопрос и просите краткую поисковую формулировку, которая передаёт его смысл. Для сводки документа запрашивайте основные утверждения и оговорки, которые на них влияют. Проверяйте фактический результат: не пропущены ли условия, не изменены ли числа и не добавлена ли выдуманная информация, особенно когда короткий ответ сжимает большой источник. #### Языки и контекст Официально поддерживаются восемь языков: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Укажите желаемый язык ответа и сохраняйте написание имён или специальных терминов, которые должны остаться без изменений. Многоязычная задача должна содержать достаточно исходного контекста, чтобы можно было оценить смысл полученной формулировки, а не только её беглость. Стандартный текстовый чекпойнт Llama 3.2 имеет контекстное окно 128K токенов. Используйте этот объём для относящихся к задаче источников, истории диалога и создаваемого результата. Сохраняйте предыдущие решения, необходимые для продолжения, и оставляйте место для ответа. Данные предварительного обучения ограничены декабрём 2023 года, поэтому для более поздней информации нужны подтверждения, переданные вместе с задачей или найденные окружающим приложением. #### Дообучение на инструкциях и формат диалога Это чекпойнт Instruct, подготовленный для диалогов с ассистентом. В карточке модели описаны дообучение с учителем и согласование с предпочтениями людей, а также дополнительная дистилляция при разработке компактных моделей. В примерах использования системные и пользовательские сообщения передаются в формате чата. Системная инструкция может определять роль и требования к ответу, а пользовательское сообщение — текущую задачу и источники. При непосредственном использовании чекпойнта соблюдайте формат диалога, подходящий выбранному выпуску. Чётко определяйте результат и проверяйте сгенерированный ответ, в том числе его соответствие переданным подтверждениям. Для структурированного текстового материала укажите обязательные поля или заголовки и проверяйте фактический результат до передачи приложению; письменное требование формата не гарантирует правильность каждого значения. #### Стандартные, квантованные и визуальные варианты Разработчик отделяет стандартную текстовую модель от отдельно выпущенных квантованных текстовых вариантов Llama 3.2. В таблице моделей для этих квантованных вариантов указан контекст 8K, отличный от стандартного окна 128K. Выбирайте модель вместе с рабочим объёмом контекста, не предполагая, что каждое развёртывание с обозначением 3B сохраняет одинаковый лимит. Модель 3B Instruct также отличается от более крупных визуальных моделей Llama 3.2. Для этого текстового варианта подготовьте текстовые источники или текст, полученный окружающим приложением. Используйте модель для конкретного ответа, переработки текста, сводки или короткого объяснения кода. Сохраняйте выбранный чекпойнт, промпт и источник вместе с результатом, а следующую инструкцию посвящайте конкретной недостающей детали или обнаруженной ошибке. Практическая задача ### Практическая задача Технический пример на английском ``` Rewrite a knowledge-base query Rewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question. ``` #### Ожидаемый результат ``` One search query plus two retained concepts covering changed login email and stale export-notification address. ``` #### Проверка результата ``` The rewrite keeps the notification problem and does not collapse it into a login failure. ``` **Ailoot Ultra · Чат OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.2-3b-instruct` [`meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.2-3b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-3b-instruct&fmt=chat) Meta /`meta-llama/llama-3.2-3b-instruct` ### Начало Meta Llama 3.2 3B Instruct — компактная текстовая модель для многоязычных чатов, сводок на основе найденных материалов и помощи в работе с текстом. Стандартный чекпойнт имеет контекст 128K; у отдельно выпущенных квантованных вариантов другое рабочее окно. Допустимые входные данные Текст Результаты Текст ### Доступно в Ailoot · входные данные и методы **Ailoot Ultra · Чат OpenAI** `POST /v1/chat/completions` Входные данные `text` Результат `text` Выходной формат json или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения meta-llama/llama-3.2-3b-instruct | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— | | Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— | | Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— | | Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | | Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения function Зависит от модели | По умолчанию— | | Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— | | Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— | | Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`modalities` | Тип`string[]` | ТребованиеНеобязательно | Значения и ограничения text | По умолчанию— | | Поле`provider` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется на этом текстовом маршруте Ultra | По умолчанию— | | Поле`cache_control.ttl` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Условия: 1h отклоняется в фактических местах настройки кэша запросов | По умолчанию— | Сочетания входных материалов **Текст** · Текст UTF8 `messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`content_type` | Контрактapplication/json | | Параметр`required` | Контрактmodel, messages | | Параметр`material_types` | Контрактtext | | Параметр`messages` | Контрактмассив сообщений со структурой role/content | | Параметр`file_material` | Контрактфактический документ UTF-8 вставляется как буквальный текст; ID файла не выводится из него | | Параметр`optional_controls` | Контрактstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Параметр`control_scope` | Контрактзависит от модели; пользовательские инструменты-функции отличаются от инструментов, выполняемых на стороне сервиса | | Параметр`output_modalities` | Контрактtext | | Параметр`hosted_operations` | Контрактfalse | | Параметр`multimodal_input_binding` | Контрактnull | Жизненный цикл: `synchronous_or_streamed` Отправляйте точный ID модели вместе с messages. Длина контекста не является пределом выхода. Текстовый файл может передавать буквальный текст; входные изображения, аудио и файловые объекты требуют точной привязки. ### Тарифы Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода. Быстрый режим Стандартный тариф При выборе быстрого режима Режим flex Стандартный тариф При выборе режима flex Максимальная интенсивность рассуждений Стандартный тариф При максимальной интенсивности рассуждений с корректировкой по умолчанию (default) #### Ставки Ailoot #### Цены по конфигурациям Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку. | Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата | | --- | --- | --- | --- | --- | | КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.0001** / 1K токенов Выход · Выходные токены **$0.00066** / 1K токенов Вход · Чтение кэша **—** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов | | КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.0001** / 1K токенов Выход · Выходные токены **$0.00066** / 1K токенов Вход · Чтение кэша **—** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов | Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot Ultra · Чат OpenAI curlPython SDKПоток Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Получить и сохранить результаты #### Ailoot Ultra · Чат OpenAI json или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`choices[].index` | Типinteger | | Поле`choices[].message.content` | Типstring\|null | | Поле`choices[].message.tool_calls` | Типtool\_call\[\] | | Поле`choices[].message.reasoning_content` | Типstring | | Поле`choices[].message.reasoning_details` | Типobject\|array | | Поле`choices[].finish_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot Ultra** [`meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.2-3b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-3b-instruct&fmt=chat) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.2-3b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-3b-instruct&fmt=chat) **Ailoot Ultra · Сообщения Anthropic** `POST /v1/messages` `meta-llama/llama-3.2-3b-instruct` [`meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.2-3b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-3b-instruct&fmt=messages) Meta /`meta-llama/llama-3.2-3b-instruct` ### Начало Meta Llama 3.2 3B Instruct — компактная текстовая модель для многоязычных чатов, сводок на основе найденных материалов и помощи в работе с текстом. Стандартный чекпойнт имеет контекст 128K; у отдельно выпущенных квантованных вариантов другое рабочее окно. Допустимые входные данные Текст Результаты json · sse ### Доступно в Ailoot · входные данные и методы **Ailoot Ultra · Сообщения Anthropic** `POST /v1/messages` Входные данные `text` Результат `json`, `sse` Выходной формат JSON или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения meta-llama/llama-3.2-3b-instruct | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения user, assistant | По умолчанию— | | Поле`messages[].content` | Тип`string` | ТребованиеОбязательно | Значения и ограничения | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеОбязательно | Значения и ограничения | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | Сочетания входных материалов **Текст** · Текст UTF-8 `строка messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`content_type` | Контрактapplication/json | | Параметр`required` | Контрактmodel, messages, max\_tokens | | Параметр`optional_controls` | Контрактstream | | Параметр`material_types` | Контрактtext | | Параметр`text_file_material` | КонтрактПрочитайте фактический документ UTF-8 и поместите его текст в указанную строку входа или содержимого сообщения. | Жизненный цикл: `synchronous_or_streamed` ### Тарифы Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода. Быстрый режим Стандартный тариф При выборе быстрого режима Режим flex Стандартный тариф При выборе режима flex Максимальная интенсивность рассуждений Стандартный тариф При максимальной интенсивности рассуждений с корректировкой по умолчанию (default) #### Ставки Ailoot #### Цены по конфигурациям Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку. | Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата | | --- | --- | --- | --- | --- | | КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.0001** / 1K токенов Выход · Выходные токены **$0.00066** / 1K токенов Вход · Чтение кэша **—** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов | | КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.0001** / 1K токенов Выход · Выходные токены **$0.00066** / 1K токенов Вход · Чтение кэша **—** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов | Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot Ultra · Сообщения Anthropic Полное минимальное тело запроса в формате JSONcurl · используйте свой документ UTF-8Python · сохраните полный результат ```json { "model": "meta-llama/llama-3.2-3b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Получить и сохранить результаты #### Ailoot Ultra · Сообщения Anthropic JSON или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте все блоки содержимого, подписи рассуждений и фактические ID обращений к инструментам. Собирайте все изменения блоков SSE; первый текстовый блок не является полным выходом. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`id` | Типstring | | Поле`model` | Типstring | | Поле`content[]` | Типtext\|thinking\|tool\_use\|other content block | | Поле`stop_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot Ultra** [`meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.2-3b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-3b-instruct&fmt=messages) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`meta-llama/llama-3.2-3b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.2-3b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-3b-instruct&fmt=messages) FAQ · Meta: Llama 3.2 3B Instruct Какие входные данные и результаты доступны? `POST /v1/chat/completions` · `meta-llama/llama-3.2-3b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.2-3b-instruct`: `text` → `json`, `sse` Какие поля использует запрос? `POST /v1/chat/completions` · `meta-llama/llama-3.2-3b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.2-3b-instruct`: `model`, `messages`, `max_tokens`, `stream` Какие ограничения действуют? `POST /v1/chat/completions` · `meta-llama/llama-3.2-3b-instruct`: `messages.min_items`: `1` Подключите Ailoot к Claude Code, OpenCode, Hermes или своему приложению. ## Компания и портфель её проектов Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно. ## Покупайте токены со скидкой. Скидка по подписке для регулярной работы. Промокоды — до 50% на покупку токенов. Подписка Выберите тариф со скидкой для своих регулярных запросов. Промокод до 50% Введите код при покупке. Цена пересчитается с учётом действующей акции. Расходы в истории Модель, токены и сумма сохраняются для каждого запроса. [Выбрать подписку](https://ailoot.ai/docs/ru/billing/subscriptions/) · [Посмотреть цены моделей](https://ailoot.ai/models/ru/) ## Подключайте API к продукту, который вы продаёте. SaaS, приложения и боты — по оферте и лицензионному договору Ailoot. Для перепродажи запросите реселлерскую лицензию. Коммерческое приложение Встраивайте генерацию текста, картинок, видео и звука в платные функции своего сервиса. Лицензия для реселлера Пришлите описание проекта и схему доступа. Запросите письменные условия использования и перепродажи. Документы на сайте Оферта, лицензионный договор и политика обработки данных доступны до подключения. [Запросить реселлерскую лицензию](mailto:support@ailoot.ai) · [Оферта и лицензионный договор](https://ailoot.ai/legal/offer?lang=ru) ## Ailoot · Компания и портфель её проектов Ailoot опирается на накопленный опыт работы, большую клиентскую базу, стабильный сервис и постоянный контроль KPI. Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно. Этот опыт Ailoot использует для API-доступа к нейросетям в продуктах клиентов, агентах, приложениях и автоматизациях.