Source: https://ailoot.ai/models/ru/meta-llama-llama-3-1-8b-instruct/
Canonical: https://ailoot.ai/models/ru/meta-llama-llama-3-1-8b-instruct/
Language: ru

# Meta: Llama 3.1 8B Instruct

[Markdown](https://ailoot.ai/models/ru/meta-llama-llama-3-1-8b-instruct/index.md) · [JSON](https://ailoot.ai/models/ru/meta-llama-llama-3-1-8b-instruct/facts.json)

## [Meta: Llama 3.1 8B Instruct](https://ailoot.ai/models/ru/meta-llama-llama-3-1-8b-instruct/)

Llama 3.1 8B Instruct — младшая текстовая модель Meta, дообученная на инструкциях, для многоязычных диалогов, сводок и ответов с опорой на источники. Она содержит 8B параметров, имеет заявленный разработчиком контекст 128k, внимание на основе сгруппированных запросов и документированные форматы работы с инструментами; результат — текст или код.

- [**Ailoot Ultra · Чат OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/meta-llama-llama-3-1-8b-instruct/#method-0)
- [**Ailoot Ultra · Сообщения Anthropic** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/meta-llama-llama-3-1-8b-instruct/#method-1)

О модели

Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.

Llama 3.1 8B Instruct — текстовая модель Meta с восемью миллиардами параметров для многоязычных диалогов и ассистентов, выполняющих инструкции. Она принимает письменный диалог и исходные материалы, создавая текст или код. Это версия Instruct размера 8B, отличная от её предварительно обученной базы и моделей семейства 70B и 405B.

Архитектура, контекст и языки

Модель использует авторегрессионную архитектуру Transformer с вниманием на основе сгруппированных запросов. В семействе, дообученном на инструкциях, применяются дообучение с учителем и обучение с подкреплением по обратной связи от людей для согласования диалоговых ответов. Для этого текстового выпуска разработчик указывает контекст 128k; это не характеристики визуального ввода или длинного контекста более поздней модели Llama 4.

Официально поддерживаются восемь языков: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Данные предварительного обучения охватывают более широкий набор, который отличается от языков, явно поддерживаемых в карточке. Укажите итоговый язык и имена, идентификаторы переменных или термины, которые должны остаться без изменений в многоязычном результате.

Семейство предварительно обучено примерно на пятнадцати триллионах токенов, с границей данных в декабре 2023 года. Дообучение включает материалы с инструкциями и более двадцати пяти миллионов синтетических примеров. Это описание обучения модели, а не доступа к частной базе знаний или актуальной информации при поступлении нового вопроса.

Конкретные операции с текстом

В запросе для поддержки можно передать сообщение пользователя и подходящие справочные фрагменты, затем попросить ответ и условие, на котором он основан. Краткая запись может отдельно обозначать проблему, уже предоставленную информацию и следующий необходимый шаг. Определите названия полей и обработку отсутствующих значений, если приложение должно обрабатывать этот результат.

Для сводки передайте сам фрагмент или обмен сообщениями и укажите аудиторию, длину и факты, которые нужно сохранить. Запрашивайте решения или открытые вопросы, относящиеся к одной теме, вместо неопределённой сводки несвязанных материалов. В следующем запросе можно попросить более короткий ответ или понятное объяснение одного условия, сохраняя те же исходные факты.

Для редактирования укажите читателя и тон, а также смысл, который должен остаться неизменным. Практическая задача может требовать более понятного сообщения и короткого списка правок либо только отредактированного сообщения, если оно будет использовано напрямую. Задача классификации должна содержать допустимые метки и различия между ними; одного названия метки недостаточно для определения правила.

Создание кода и примеров

К документированным выходам также относится код. Перед запросом функции укажите язык, необходимые входные данные и ожидаемый результат. Для объяснения передайте существующую функцию и конкретный вход и спросите, какие шаги определяют возвращаемое значение. Для исправления укажите наблюдаемую ошибку и желаемое поведение, сохраняя интерфейс, который должен остаться совместимым.

Полезный результат может отдельно содержать предлагаемый код, его допущения и примеры входных данных. Фактическую компиляцию, выполнение или изменение репозитория осуществляет приложение или разработчик. Написанный исходный код — материал для проверки, а не завершённая внешняя операция лишь потому, что модель его вернула.

Семейство также поддерживает использование сгенерированных результатов для синтетических примеров и дистилляции. Чётко заданный текстовый запрос может создавать варианты по переданным правилам и в указанном формате. Сохраняйте правила и метки, чтобы можно было проверить каждый пример; сгенерированные примеры сами по себе не доказывают правильность обучающего набора.

Роли в диалоге и использование инструментов

Карточка модели демонстрирует шаблон чата с отдельными системными и пользовательскими сообщениями. Определите роль ассистента и требования к ответу в системном контексте, затем передайте вопрос и источники в составе задачи. Сохраняйте относящиеся к делу предыдущие сообщения, когда задаёте следующий вопрос или предоставляете новые подтверждения, меняющие результат.

Для Llama 3.1 документировано несколько форматов работы с инструментами. Приложение описывает функцию, модель формирует предлагаемый вызов и аргументы, приложение выполняет его и возвращает результат с ролью инструмента. Следующий ответ может использовать полученную информацию. Сохраняйте связь исходной операции с её результатом в диалоге.

Например, поиск может вернуть актуальное справочное значение, которого не хватает во фрагменте, а вычислительный инструмент — численный результат, необходимый для объяснения. Ассистенту с инструментами нужны эти операции со стороны среды. Текстовое поведение модели само по себе не создаёт подключение к внешнему источнику и не выполняет действие с внешним эффектом.

Практические границы

Заявленный разработчиком контекст 128k следует связывать с точным выпуском 8B Instruct и применимой конфигурацией. Пример генерации 256 токенов — лишь вариант использования; в изученных источниках не указан отдельный жёсткий максимум объёма ответа. Модели 8B не следует приписывать число параметров другого участника семейства или именованные настройки рассуждения отдельного семейства.

Это исключительно текстовая модель. Визуальный ввод, понимание аудио и генерация речи требуют отдельно определённых компонентов. Задайте итоговый материал до передачи источников: краткий ответ, извлечённую запись, отредактированный фрагмент, объяснение или предложение кода. Сохраняйте исходную информацию, необходимую для проверки смысла и формата этого результата.

Практическая задача

### Практическая задача

Технический пример на английском

```
Translate a delivery notice into German

Translate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.
```

#### Ожидаемый результат

```
One German customer notice preserving the identifier, event sequence and qualified transit time.
```

#### Проверка результата

```
The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.
```

**Ailoot Ultra · Чат OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct`

[`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat)

Meta /`meta-llama/llama-3.1-8b-instruct`

### Начало

Llama 3.1 8B Instruct — младшая текстовая модель Meta, дообученная на инструкциях, для многоязычных диалогов, сводок и ответов с опорой на источники. Она содержит 8B параметров, имеет заявленный разработчиком контекст 128k, внимание на основе сгруппированных запросов и документированные форматы работы с инструментами; результат — текст или код.

Допустимые входные данные

Текст

Результаты

Текст

### Доступно в Ailoot · входные данные и методы

**Ailoot Ultra · Чат OpenAI** `POST /v1/chat/completions`

Входные данные

`text`

Результат

`text`

Выходной формат

json или SSE

| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
| --- | --- | --- | --- | --- |
| Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения meta-llama/llama-3.1-8b-instruct | По умолчанию— |
| Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— |
| Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— |
| Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
| Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
| Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— |
| Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
| Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— |
| Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
| Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
| Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |
| Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения function Зависит от модели | По умолчанию— |
| Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— |
| Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
| Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
| Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— |
| Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
| Поле`modalities` | Тип`string[]` | ТребованиеНеобязательно | Значения и ограничения text | По умолчанию— |
| Поле`provider` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется на этом текстовом маршруте Ultra | По умолчанию— |
| Поле`cache_control.ttl` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Условия: 1h отклоняется в фактических местах настройки кэша запросов | По умолчанию— |

Сочетания входных материалов

**Текст** · Текст UTF8

`messages[].content`

Параметры и жизненный цикл метода

| Параметр | Контракт |
| --- | --- |
| Параметр`content_type` | Контрактapplication/json |
| Параметр`required` | Контрактmodel, messages |
| Параметр`material_types` | Контрактtext |
| Параметр`messages` | Контрактмассив сообщений со структурой role/content |
| Параметр`file_material` | Контрактфактический документ UTF-8 вставляется как буквальный текст; ID файла не выводится из него |
| Параметр`optional_controls` | Контрактstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice |
| Параметр`control_scope` | Контрактзависит от модели; пользовательские инструменты-функции отличаются от инструментов, выполняемых на стороне сервиса |
| Параметр`output_modalities` | Контрактtext |
| Параметр`hosted_operations` | Контрактfalse |
| Параметр`multimodal_input_binding` | Контрактnull |

Жизненный цикл: `synchronous_or_streamed`

Отправляйте точный ID модели вместе с messages.

Длина контекста не является пределом выхода.

Текстовый файл может передавать буквальный текст; входные изображения, аудио и файловые объекты требуют точной привязки.

### Тарифы

Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.

Быстрый режим

Стандартный тариф При выборе быстрого режима

Режим flex

Стандартный тариф При выборе режима flex

Максимальная интенсивность рассуждений

Стандартный тариф При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)

#### Ставки Ailoot

#### Цены по конфигурациям

Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.

| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
| --- | --- | --- | --- | --- |
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.00044** / 1K токенов Выход · Выходные токены **$0.00044** / 1K токенов Вход · Чтение кэша **$0.00044** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.00044** / 1K токенов Выход · Выходные токены **$0.00044** / 1K токенов Вход · Чтение кэша **$0.00044** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов |

Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/)

### Примеры запросов

#### Ailoot Ultra · Чат OpenAI

curlPython SDKПоток Python

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
    if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
```

```python
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(result.to_dict(mode="json"))
```

```python
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")
```

### Получить и сохранить результаты

#### Ailoot Ultra · Чат OpenAI

json или SSE

##### Сохраняйте все готовые результаты

Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.

Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования.

##### Если нужно проверить исходный ответ

Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.

Поля ответа

| Поле | Тип |
| --- | --- |
| Поле`choices[].index` | Типinteger |
| Поле`choices[].message.content` | Типstring\|null |
| Поле`choices[].message.tool_calls` | Типtool\_call\[\] |
| Поле`choices[].message.reasoning_content` | Типstring |
| Поле`choices[].message.reasoning_details` | Типobject\|array |
| Поле`choices[].finish_reason` | Типstring\|null |
| Поле`usage` | Типobject |

Ошибки и дальнейшие шаги

| Ответ | Условие | Следующий шаг |
| --- | --- | --- |
| Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |

### Псевдонимы

#### Псевдонимы моделей

**Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat)

#### Псевдонимы путей метода

Используйте пути методов, указанные выше.

#### Связанные ID для вызова

[`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat)

**Ailoot Ultra · Сообщения Anthropic** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct`

[`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages)

Meta /`meta-llama/llama-3.1-8b-instruct`

### Начало

Llama 3.1 8B Instruct — младшая текстовая модель Meta, дообученная на инструкциях, для многоязычных диалогов, сводок и ответов с опорой на источники. Она содержит 8B параметров, имеет заявленный разработчиком контекст 128k, внимание на основе сгруппированных запросов и документированные форматы работы с инструментами; результат — текст или код.

Допустимые входные данные

Текст

Результаты

json · sse

### Доступно в Ailoot · входные данные и методы

**Ailoot Ultra · Сообщения Anthropic** `POST /v1/messages`

Входные данные

`text`

Результат

`json`, `sse`

Выходной формат

JSON или SSE

| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
| --- | --- | --- | --- | --- |
| Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения meta-llama/llama-3.1-8b-instruct | По умолчанию— |
| Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
| Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения user, assistant | По умолчанию— |
| Поле`messages[].content` | Тип`string` | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
| Поле`max_tokens` | Тип`integer` | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
| Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |

Сочетания входных материалов

**Текст** · Текст UTF-8

`строка messages[].content`

Параметры и жизненный цикл метода

| Параметр | Контракт |
| --- | --- |
| Параметр`content_type` | Контрактapplication/json |
| Параметр`required` | Контрактmodel, messages, max\_tokens |
| Параметр`optional_controls` | Контрактstream |
| Параметр`material_types` | Контрактtext |
| Параметр`text_file_material` | КонтрактПрочитайте фактический документ UTF-8 и поместите его текст в указанную строку входа или содержимого сообщения. |

Жизненный цикл: `synchronous_or_streamed`

### Тарифы

Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.

Быстрый режим

Стандартный тариф При выборе быстрого режима

Режим flex

Стандартный тариф При выборе режима flex

Максимальная интенсивность рассуждений

Стандартный тариф При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)

#### Ставки Ailoot

#### Цены по конфигурациям

Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.

| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
| --- | --- | --- | --- | --- |
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.00044** / 1K токенов Выход · Выходные токены **$0.00044** / 1K токенов Вход · Чтение кэша **$0.00044** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены **$0.00044** / 1K токенов Выход · Выходные токены **$0.00044** / 1K токенов Вход · Чтение кэша **$0.00044** / 1K токенов Вход · Запись в кэш **—** / 1K токенов Вход · Запись в кэш, 1 час **—** / 1K токенов |

Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/)

### Примеры запросов

#### Ailoot Ultra · Сообщения Anthropic

Полное минимальное тело запроса в формате JSONcurl · используйте свой документ UTF-8Python · сохраните полный результат

```json
{
  "model": "meta-llama/llama-3.1-8b-instruct",
  "max_tokens": 128,
  "messages": [
    {
      "role": "user",
      "content": "Summarize the incident report."
    }
  ],
  "stream": false
}
```

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
  -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
```

```python
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError

api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
    raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
    with urlopen(request, timeout=120) as response:
        raw = response.read()
        Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
    Path('result.json').write_bytes(error.read())
    Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
    raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
```

### Получить и сохранить результаты

#### Ailoot Ultra · Сообщения Anthropic

JSON или SSE

##### Сохраняйте все готовые результаты

Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.

Сохраняйте все блоки содержимого, подписи рассуждений и фактические ID обращений к инструментам. Собирайте все изменения блоков SSE; первый текстовый блок не является полным выходом.

##### Если нужно проверить исходный ответ

Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.

Поля ответа

| Поле | Тип |
| --- | --- |
| Поле`id` | Типstring |
| Поле`model` | Типstring |
| Поле`content[]` | Типtext\|thinking\|tool\_use\|other content block |
| Поле`stop_reason` | Типstring\|null |
| Поле`usage` | Типobject |

Ошибки и дальнейшие шаги

| Ответ | Условие | Следующий шаг |
| --- | --- | --- |
| Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |

### Псевдонимы

#### Псевдонимы моделей

**Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages)

#### Псевдонимы путей метода

Используйте пути методов, указанные выше.

#### Связанные ID для вызова

[`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/ru/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages)

FAQ · Meta: Llama 3.1 8B Instruct

Какие входные данные и результаты доступны?

`POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `text` → `json`, `sse`

Какие поля использует запрос?

`POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `max_tokens`, `stream`

Какие ограничения действуют?

`POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `messages.min_items`: `1`

Подключите Ailoot к Claude Code, OpenCode, Hermes или своему приложению.

## Компания и портфель её проектов

Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно.

## Покупайте токены со скидкой.

Скидка по подписке для регулярной работы. Промокоды — до 50% на покупку токенов.

Подписка

Выберите тариф со скидкой для своих регулярных запросов.

Промокод до 50%

Введите код при покупке. Цена пересчитается с учётом действующей акции.

Расходы в истории

Модель, токены и сумма сохраняются для каждого запроса.

[Выбрать подписку](https://ailoot.ai/docs/ru/billing/subscriptions/) · [Посмотреть цены моделей](https://ailoot.ai/models/ru/)

## Подключайте API к продукту, который вы продаёте.

SaaS, приложения и боты — по оферте и лицензионному договору Ailoot. Для перепродажи запросите реселлерскую лицензию.

Коммерческое приложение

Встраивайте генерацию текста, картинок, видео и звука в платные функции своего сервиса.

Лицензия для реселлера

Пришлите описание проекта и схему доступа. Запросите письменные условия использования и перепродажи.

Документы на сайте

Оферта, лицензионный договор и политика обработки данных доступны до подключения.

[Запросить реселлерскую лицензию](mailto:support@ailoot.ai) · [Оферта и лицензионный договор](https://ailoot.ai/legal/offer?lang=ru)

## Ailoot · Компания и портфель её проектов





Ailoot опирается на накопленный опыт работы, большую клиентскую базу, стабильный сервис и постоянный контроль KPI.





Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно.





Этот опыт Ailoot использует для API-доступа к нейросетям в продуктах клиентов, агентах, приложениях и автоматизациях.