Llama 3.2 1B Instruct — компактная текстовая модель Meta, дообученная для выполнения инструкций; в таблице разработчика указано 1.23 миллиарда параметров. Она принимает многоязычный текст и возвращает текст или код. Выпуск предназначен для диалогов, извлечения знаний, составления сводок, мобильных помощников для письма и переформулирования запросов или промптов, а не для понимания изображений, которым занимаются отдельные визуальные версии Llama.
Сведения о модели и контекст
Модель использует авторегрессионную архитектуру Transformer с вниманием на основе сгруппированных запросов и общими эмбеддингами. Meta различает предварительно обученные модели 1B и 3B и их варианты, дообученные на инструкциях. Здесь представлен чекпойнт 1B Instruct, задача которого — выполнять запрос пользователя в диалоге, а не служить предварительно обученной базовой моделью.
Для обычного текстового выпуска в документации указан контекст 128k. Для квантованных текстовых моделей разработчик отдельно указывает контекст 8k. Эти конфигурации следует различать: квантование не даёт оснований переносить контекст обычного выпуска на любой чекпойнт в более компактном формате или делать вывод о настроенной ёмкости конкретного сервиса.
Используйте контекст для фрагментов и диалога, относящихся к одной определённой операции. Даже длинный документ может требовать лишь краткой сводки, переформулированного поискового запроса или ответа по источнику. Укажите материал, который должен сохраниться в результате, а также длину или поля, необходимые следующему этапу приложения.
Поиск по источникам, сводки и переформулирование
Для составления сводки передайте сам фрагмент или диалог и укажите аудиторию, длину и существенные факты. Полезный результат может отдельно обозначать центральную проблему, уже принятые решения и открытые вопросы. Если источник содержит несколько тем, укажите, какую из них должна охватывать сводка, вместо неопределённой просьбы сократить всё подряд.
Для извлечения знаний передайте выбранные фрагменты источников или информацию, возвращённую поисковым компонентом. Запросите утверждение, отвечающее на вопрос, и фрагмент, который его подтверждает. Текстовый ответ модели может объяснять найденную информацию, а поиск по частной коллекции остаётся задачей подключённого приложения. Одно лишь упоминание сценария извлечения знаний не даёт модели доступа к этой коллекции.
Для переформулирования запроса передайте исходный вопрос и цель поиска. Попросите краткую формулировку, сохраняющую сущность, условие и искомую информацию. Запрос в поддержку можно переписать с нужным названием продукта и действием, не добавляя фактов, которых нет в сообщении пользователя. Если другой компонент будет использовать запрос напрямую, возвращайте его переработанный вариант отдельно от объяснений.
В задаче помощника для письма укажите читателя, тон и исходные факты, прежде чем просить короткое письмо или отредактированный фрагмент. Для извлечения данных определите поля и способ обозначения отсутствующей информации. Это конкретные операции, которые связывают документированную текстовую направленность компактной модели с результатом, пригодным для проверки.
Поддерживаемые языки и обучение
Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель обучена на более широком наборе языков, который отличается от восьми языков, явно поддерживаемых согласно карточке. Укажите итоговый язык и термины или идентификаторы, которые должны остаться без изменений.
Семейство предварительно обучено на объёме до девяти триллионов токенов, с границей данных в декабре 2023 года. Для моделей 1B и 3B разработчик использует выходы Llama 3.1 8B и 70B как целевые данные обучения на уровне токенов, а после сокращения модели применяет дистилляцию знаний. Это процесс обучения; он не означает, что развёрнутая модель 1B просит эти более крупные модели отвечать на каждый вопрос пользователя.
В карточке описаны дообучение с учителем и согласование на основе предпочтений; этапы после предварительного обучения включают примеры с учителем, выборку с отбраковкой и прямую оптимизацию предпочтений. Эти этапы формируют поведение Instruct, сохраняя указанный чекпойнт и исключительно текстовую модальность.
Диалог и квантованные версии
Разработчик демонстрирует отдельные системные и пользовательские сообщения в соответствующем формате диалога. Задавайте роль ассистента и требования к ответу отдельно от самого исходного текста. Сохраняйте относящийся к задаче предыдущий ответ, когда последующий запрос требует правки, уточнения или другой формы той же информации.
В документации выпуска также описаны отдельные варианты с учётом квантования при обучении и с квантованием после обучения. Их точность и контекст 8k относятся к этим вариантам, а не являются универсальными характеристиками представленного обычного Instruct. При сравнении повторной задачи или подготовке производного развёртывания используйте точный чекпойнт и конфигурацию.
Существенные границы
Этот выпуск 1B работает только с текстом. Ему не следует приписывать приём изображений от визуальных моделей Llama 3.2 11B или 90B, работу с текстом и изображениями от Llama 4 или именованные настройки усилия рассуждения Muse Spark. Пример генерации 256 токенов в карточке — пример настройки, а не отдельно заявленный максимальный объём ответа.
Практический итог — запрошенная сводка, запрос, извлечённая запись или переписанный текст, сохраняющие относящийся к задаче смысл и идентификаторы источника. В изученных источниках не указан отдельный жёсткий максимум выходных токенов. Сохраняйте фокус задачи, полноту входного материала для этой операции и явное различие между контекстом обычной и квантованной версии.
", "aboutText": "Llama 3.2 1B Instruct — компактная текстовая модель Meta, дообученная для выполнения инструкций; в таблице разработчика указано 1.23 миллиарда параметров. Она принимает многоязычный текст и возвращает текст или код. Выпуск предназначен для диалогов, извлечения знаний, составления сводок, мобильных помощников для письма и переформулирования запросов или промптов, а не для понимания изображений, которым занимаются отдельные визуальные версии Llama.\n\nСведения о модели и контекст\n\nМодель использует авторегрессионную архитектуру Transformer с вниманием на основе сгруппированных запросов и общими эмбеддингами. Meta различает предварительно обученные модели 1B и 3B и их варианты, дообученные на инструкциях. Здесь представлен чекпойнт 1B Instruct, задача которого — выполнять запрос пользователя в диалоге, а не служить предварительно обученной базовой моделью.\n\nДля обычного текстового выпуска в документации указан контекст 128k. Для квантованных текстовых моделей разработчик отдельно указывает контекст 8k. Эти конфигурации следует различать: квантование не даёт оснований переносить контекст обычного выпуска на любой чекпойнт в более компактном формате или делать вывод о настроенной ёмкости конкретного сервиса.\n\nИспользуйте контекст для фрагментов и диалога, относящихся к одной определённой операции. Даже длинный документ может требовать лишь краткой сводки, переформулированного поискового запроса или ответа по источнику. Укажите материал, который должен сохраниться в результате, а также длину или поля, необходимые следующему этапу приложения.\n\nПоиск по источникам, сводки и переформулирование\n\nДля составления сводки передайте сам фрагмент или диалог и укажите аудиторию, длину и существенные факты. Полезный результат может отдельно обозначать центральную проблему, уже принятые решения и открытые вопросы. Если источник содержит несколько тем, укажите, какую из них должна охватывать сводка, вместо неопределённой просьбы сократить всё подряд.\n\nДля извлечения знаний передайте выбранные фрагменты источников или информацию, возвращённую поисковым компонентом. Запросите утверждение, отвечающее на вопрос, и фрагмент, который его подтверждает. Текстовый ответ модели может объяснять найденную информацию, а поиск по частной коллекции остаётся задачей подключённого приложения. Одно лишь упоминание сценария извлечения знаний не даёт модели доступа к этой коллекции.\n\nДля переформулирования запроса передайте исходный вопрос и цель поиска. Попросите краткую формулировку, сохраняющую сущность, условие и искомую информацию. Запрос в поддержку можно переписать с нужным названием продукта и действием, не добавляя фактов, которых нет в сообщении пользователя. Если другой компонент будет использовать запрос напрямую, возвращайте его переработанный вариант отдельно от объяснений.\n\nВ задаче помощника для письма укажите читателя, тон и исходные факты, прежде чем просить короткое письмо или отредактированный фрагмент. Для извлечения данных определите поля и способ обозначения отсутствующей информации. Это конкретные операции, которые связывают документированную текстовую направленность компактной модели с результатом, пригодным для проверки.\n\nПоддерживаемые языки и обучение\n\nОфициально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель обучена на более широком наборе языков, который отличается от восьми языков, явно поддерживаемых согласно карточке. Укажите итоговый язык и термины или идентификаторы, которые должны остаться без изменений.\n\nСемейство предварительно обучено на объёме до девяти триллионов токенов, с границей данных в декабре 2023 года. Для моделей 1B и 3B разработчик использует выходы Llama 3.1 8B и 70B как целевые данные обучения на уровне токенов, а после сокращения модели применяет дистилляцию знаний. Это процесс обучения; он не означает, что развёрнутая модель 1B просит эти более крупные модели отвечать на каждый вопрос пользователя.\n\nВ карточке описаны дообучение с учителем и согласование на основе предпочтений; этапы после предварительного обучения включают примеры с учителем, выборку с отбраковкой и прямую оптимизацию предпочтений. Эти этапы формируют поведение Instruct, сохраняя указанный чекпойнт и исключительно текстовую модальность.\n\nДиалог и квантованные версии\n\nРазработчик демонстрирует отдельные системные и пользовательские сообщения в соответствующем формате диалога. Задавайте роль ассистента и требования к ответу отдельно от самого исходного текста. Сохраняйте относящийся к задаче предыдущий ответ, когда последующий запрос требует правки, уточнения или другой формы той же информации.\n\nВ документации выпуска также описаны отдельные варианты с учётом квантования при обучении и с квантованием после обучения. Их точность и контекст 8k относятся к этим вариантам, а не являются универсальными характеристиками представленного обычного Instruct. При сравнении повторной задачи или подготовке производного развёртывания используйте точный чекпойнт и конфигурацию.\n\nСущественные границы\n\nЭтот выпуск 1B работает только с текстом. Ему не следует приписывать приём изображений от визуальных моделей Llama 3.2 11B или 90B, работу с текстом и изображениями от Llama 4 или именованные настройки усилия рассуждения Muse Spark. Пример генерации 256 токенов в карточке — пример настройки, а не отдельно заявленный максимальный объём ответа.\n\nПрактический итог — запрошенная сводка, запрос, извлечённая запись или переписанный текст, сохраняющие относящийся к задаче смысл и идентификаторы источника. В изученных источниках не указан отдельный жёсткий максимум выходных токенов. Сохраняйте фокус задачи, полноту входного материала для этой операции и явное различие между контекстом обычной и квантованной версии.", "editorialOverlay": { "copy_fields": { "practical_html": "Технический пример на английском
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct — компактная текстовая модель Meta с 1.23B параметров для диалогов, сводок, извлечения знаний и переформулирования запросов. Разработчик указывает контекст 128k для обычного выпуска и 8k для отдельных квантованных вариантов; модель создаёт многоязычный текст и код.
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Llama 3.2 1B Instruct — компактная текстовая модель Meta, дообученная для выполнения инструкций; в таблице разработчика указано 1.23 миллиарда параметров. Она принимает многоязычный текст и возвращает текст или код. Выпуск предназначен для диалогов, извлечения знаний, составления сводок, мобильных помощников для письма и переформулирования запросов или промптов, а не для понимания изображений, которым занимаются отдельные визуальные версии Llama.
Сведения о модели и контекст
Модель использует авторегрессионную архитектуру Transformer с вниманием на основе сгруппированных запросов и общими эмбеддингами. Meta различает предварительно обученные модели 1B и 3B и их варианты, дообученные на инструкциях. Здесь представлен чекпойнт 1B Instruct, задача которого — выполнять запрос пользователя в диалоге, а не служить предварительно обученной базовой моделью.
Для обычного текстового выпуска в документации указан контекст 128k. Для квантованных текстовых моделей разработчик отдельно указывает контекст 8k. Эти конфигурации следует различать: квантование не даёт оснований переносить контекст обычного выпуска на любой чекпойнт в более компактном формате или делать вывод о настроенной ёмкости конкретного сервиса.
Используйте контекст для фрагментов и диалога, относящихся к одной определённой операции. Даже длинный документ может требовать лишь краткой сводки, переформулированного поискового запроса или ответа по источнику. Укажите материал, который должен сохраниться в результате, а также длину или поля, необходимые следующему этапу приложения.
Поиск по источникам, сводки и переформулирование
Для составления сводки передайте сам фрагмент или диалог и укажите аудиторию, длину и существенные факты. Полезный результат может отдельно обозначать центральную проблему, уже принятые решения и открытые вопросы. Если источник содержит несколько тем, укажите, какую из них должна охватывать сводка, вместо неопределённой просьбы сократить всё подряд.
Для извлечения знаний передайте выбранные фрагменты источников или информацию, возвращённую поисковым компонентом. Запросите утверждение, отвечающее на вопрос, и фрагмент, который его подтверждает. Текстовый ответ модели может объяснять найденную информацию, а поиск по частной коллекции остаётся задачей подключённого приложения. Одно лишь упоминание сценария извлечения знаний не даёт модели доступа к этой коллекции.
Для переформулирования запроса передайте исходный вопрос и цель поиска. Попросите краткую формулировку, сохраняющую сущность, условие и искомую информацию. Запрос в поддержку можно переписать с нужным названием продукта и действием, не добавляя фактов, которых нет в сообщении пользователя. Если другой компонент будет использовать запрос напрямую, возвращайте его переработанный вариант отдельно от объяснений.
В задаче помощника для письма укажите читателя, тон и исходные факты, прежде чем просить короткое письмо или отредактированный фрагмент. Для извлечения данных определите поля и способ обозначения отсутствующей информации. Это конкретные операции, которые связывают документированную текстовую направленность компактной модели с результатом, пригодным для проверки.
Поддерживаемые языки и обучение
Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель обучена на более широком наборе языков, который отличается от восьми языков, явно поддерживаемых согласно карточке. Укажите итоговый язык и термины или идентификаторы, которые должны остаться без изменений.
Семейство предварительно обучено на объёме до девяти триллионов токенов, с границей данных в декабре 2023 года. Для моделей 1B и 3B разработчик использует выходы Llama 3.1 8B и 70B как целевые данные обучения на уровне токенов, а после сокращения модели применяет дистилляцию знаний. Это процесс обучения; он не означает, что развёрнутая модель 1B просит эти более крупные модели отвечать на каждый вопрос пользователя.
В карточке описаны дообучение с учителем и согласование на основе предпочтений; этапы после предварительного обучения включают примеры с учителем, выборку с отбраковкой и прямую оптимизацию предпочтений. Эти этапы формируют поведение Instruct, сохраняя указанный чекпойнт и исключительно текстовую модальность.
Диалог и квантованные версии
Разработчик демонстрирует отдельные системные и пользовательские сообщения в соответствующем формате диалога. Задавайте роль ассистента и требования к ответу отдельно от самого исходного текста. Сохраняйте относящийся к задаче предыдущий ответ, когда последующий запрос требует правки, уточнения или другой формы той же информации.
В документации выпуска также описаны отдельные варианты с учётом квантования при обучении и с квантованием после обучения. Их точность и контекст 8k относятся к этим вариантам, а не являются универсальными характеристиками представленного обычного Instruct. При сравнении повторной задачи или подготовке производного развёртывания используйте точный чекпойнт и конфигурацию.
Существенные границы
Этот выпуск 1B работает только с текстом. Ему не следует приписывать приём изображений от визуальных моделей Llama 3.2 11B или 90B, работу с текстом и изображениями от Llama 4 или именованные настройки усилия рассуждения Muse Spark. Пример генерации 256 токенов в карточке — пример настройки, а не отдельно заявленный максимальный объём ответа.
Практический итог — запрошенная сводка, запрос, извлечённая запись или переписанный текст, сохраняющие относящийся к задаче смысл и идентификаторы источника. В изученных источниках не указан отдельный жёсткий максимум выходных токенов. Сохраняйте фокус задачи, полноту входного материала для этой операции и явное различие между контекстом обычной и квантованной версии.
POST /v1/chat/completionstexttext| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения meta-llama/llama-3.2-1b-instruct | По умолчанию— |
Полеmessages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— |
Полеmessages[].role | Типstring | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— |
Полеmessages[].content | Типstring|content_part[]|null | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].tool_calls | Типtool_call[] | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].tool_call_id | Типstring | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— |
Полеmessages[].name | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].reasoning_content | Типstring | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— |
Полеmessages[].reasoning_details | Типobject|array | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеmax_tokens | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
Полеmax_completion_tokens | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
Полеstream | Типboolean | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |
Полеstream_options.include_usage | Типboolean | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtemperature | Типnumber | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtop_p | Типnumber | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеstop | Типstring|string[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtools | Типfunction_tool[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtools[].type | Типstring | ТребованиеНеобязательно | Значения и ограничения function Зависит от модели | По умолчанию— |
Полеtools[].function.name | Типstring | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— |
Полеtools[].function.description | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtools[].function.parameters | ТипJSON_schema | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtool_choice | Типstring|object | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеparallel_tool_calls | Типboolean | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеresponse_format | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеreasoning_effort | Типstring | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеreasoning | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеservice_tier | Типstring | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеinstructions | Типstring | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— |
Полеfunctions | Типfunction[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеfunction_call | Типstring|object | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеprompt_cache_options | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеmodalities | Типstring[] | ТребованиеНеобязательно | Значения и ограничения text | По умолчанию— |
Полеprovider | Типobject | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется на этом текстовом маршруте Ultra | По умолчанию— |
Полеcache_control.ttl | Типstring | ТребованиеНеобязательно | Значения и ограничения Условия: 1h отклоняется в фактических местах настройки кэша запросов | По умолчанию— |
Текст · Текст UTF8
messages[].content
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, messages |
Параметрmaterial_types | Контрактtext |
Параметрmessages | Контрактмассив сообщений со структурой role/content |
Параметрfile_material | Контрактфактический документ UTF-8 вставляется как буквальный текст; ID файла не выводится из него |
Параметрoptional_controls | Контрактstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Параметрcontrol_scope | Контрактзависит от модели; пользовательские инструменты-функции отличаются от инструментов, выполняемых на стороне сервиса |
Параметрoutput_modalities | Контрактtext |
Параметрhosted_operations | Контрактfalse |
Параметрmultimodal_input_binding | Контрактnull |
Жизненный цикл: synchronous_or_streamed
Отправляйте точный ID модели вместе с messages.
Длина контекста не является пределом выхода.
Текстовый файл может передавать буквальный текст; входные изображения, аудио и файловые объекты требуют точной привязки.
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.000054 / 1K токенов Выход · Выходные токены $0.000402 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.000054 / 1K токенов Выход · Выходные токены $0.000402 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson или SSE
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования.
Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.
| Поле | Тип |
|---|---|
Полеchoices[].index | Типinteger |
Полеchoices[].message.content | Типstring|null |
Полеchoices[].message.tool_calls | Типtool_call[] |
Полеchoices[].message.reasoning_content | Типstring |
Полеchoices[].message.reasoning_details | Типobject|array |
Полеchoices[].finish_reason | Типstring|null |
Полеusage | Типobject |
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Используйте пути методов, указанные выше.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct — компактная текстовая модель Meta с 1.23B параметров для диалогов, сводок, извлечения знаний и переформулирования запросов. Разработчик указывает контекст 128k для обычного выпуска и 8k для отдельных квантованных вариантов; модель создаёт многоязычный текст и код.
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Llama 3.2 1B Instruct — компактная текстовая модель Meta, дообученная для выполнения инструкций; в таблице разработчика указано 1.23 миллиарда параметров. Она принимает многоязычный текст и возвращает текст или код. Выпуск предназначен для диалогов, извлечения знаний, составления сводок, мобильных помощников для письма и переформулирования запросов или промптов, а не для понимания изображений, которым занимаются отдельные визуальные версии Llama.
Сведения о модели и контекст
Модель использует авторегрессионную архитектуру Transformer с вниманием на основе сгруппированных запросов и общими эмбеддингами. Meta различает предварительно обученные модели 1B и 3B и их варианты, дообученные на инструкциях. Здесь представлен чекпойнт 1B Instruct, задача которого — выполнять запрос пользователя в диалоге, а не служить предварительно обученной базовой моделью.
Для обычного текстового выпуска в документации указан контекст 128k. Для квантованных текстовых моделей разработчик отдельно указывает контекст 8k. Эти конфигурации следует различать: квантование не даёт оснований переносить контекст обычного выпуска на любой чекпойнт в более компактном формате или делать вывод о настроенной ёмкости конкретного сервиса.
Используйте контекст для фрагментов и диалога, относящихся к одной определённой операции. Даже длинный документ может требовать лишь краткой сводки, переформулированного поискового запроса или ответа по источнику. Укажите материал, который должен сохраниться в результате, а также длину или поля, необходимые следующему этапу приложения.
Поиск по источникам, сводки и переформулирование
Для составления сводки передайте сам фрагмент или диалог и укажите аудиторию, длину и существенные факты. Полезный результат может отдельно обозначать центральную проблему, уже принятые решения и открытые вопросы. Если источник содержит несколько тем, укажите, какую из них должна охватывать сводка, вместо неопределённой просьбы сократить всё подряд.
Для извлечения знаний передайте выбранные фрагменты источников или информацию, возвращённую поисковым компонентом. Запросите утверждение, отвечающее на вопрос, и фрагмент, который его подтверждает. Текстовый ответ модели может объяснять найденную информацию, а поиск по частной коллекции остаётся задачей подключённого приложения. Одно лишь упоминание сценария извлечения знаний не даёт модели доступа к этой коллекции.
Для переформулирования запроса передайте исходный вопрос и цель поиска. Попросите краткую формулировку, сохраняющую сущность, условие и искомую информацию. Запрос в поддержку можно переписать с нужным названием продукта и действием, не добавляя фактов, которых нет в сообщении пользователя. Если другой компонент будет использовать запрос напрямую, возвращайте его переработанный вариант отдельно от объяснений.
В задаче помощника для письма укажите читателя, тон и исходные факты, прежде чем просить короткое письмо или отредактированный фрагмент. Для извлечения данных определите поля и способ обозначения отсутствующей информации. Это конкретные операции, которые связывают документированную текстовую направленность компактной модели с результатом, пригодным для проверки.
Поддерживаемые языки и обучение
Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель обучена на более широком наборе языков, который отличается от восьми языков, явно поддерживаемых согласно карточке. Укажите итоговый язык и термины или идентификаторы, которые должны остаться без изменений.
Семейство предварительно обучено на объёме до девяти триллионов токенов, с границей данных в декабре 2023 года. Для моделей 1B и 3B разработчик использует выходы Llama 3.1 8B и 70B как целевые данные обучения на уровне токенов, а после сокращения модели применяет дистилляцию знаний. Это процесс обучения; он не означает, что развёрнутая модель 1B просит эти более крупные модели отвечать на каждый вопрос пользователя.
В карточке описаны дообучение с учителем и согласование на основе предпочтений; этапы после предварительного обучения включают примеры с учителем, выборку с отбраковкой и прямую оптимизацию предпочтений. Эти этапы формируют поведение Instruct, сохраняя указанный чекпойнт и исключительно текстовую модальность.
Диалог и квантованные версии
Разработчик демонстрирует отдельные системные и пользовательские сообщения в соответствующем формате диалога. Задавайте роль ассистента и требования к ответу отдельно от самого исходного текста. Сохраняйте относящийся к задаче предыдущий ответ, когда последующий запрос требует правки, уточнения или другой формы той же информации.
В документации выпуска также описаны отдельные варианты с учётом квантования при обучении и с квантованием после обучения. Их точность и контекст 8k относятся к этим вариантам, а не являются универсальными характеристиками представленного обычного Instruct. При сравнении повторной задачи или подготовке производного развёртывания используйте точный чекпойнт и конфигурацию.
Существенные границы
Этот выпуск 1B работает только с текстом. Ему не следует приписывать приём изображений от визуальных моделей Llama 3.2 11B или 90B, работу с текстом и изображениями от Llama 4 или именованные настройки усилия рассуждения Muse Spark. Пример генерации 256 токенов в карточке — пример настройки, а не отдельно заявленный максимальный объём ответа.
Практический итог — запрошенная сводка, запрос, извлечённая запись или переписанный текст, сохраняющие относящийся к задаче смысл и идентификаторы источника. В изученных источниках не указан отдельный жёсткий максимум выходных токенов. Сохраняйте фокус задачи, полноту входного материала для этой операции и явное различие между контекстом обычной и квантованной версии.
POST /v1/messagestextjson, sse| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения meta-llama/llama-3.2-1b-instruct | По умолчанию— |
Полеmessages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].role | Типstring | ТребованиеОбязательно | Значения и ограничения user, assistant | По умолчанию— |
Полеmessages[].content | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmax_tokens | Типinteger | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеstream | Типboolean | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |
Текст · Текст UTF-8
строка messages[].content
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, messages, max_tokens |
Параметрoptional_controls | Контрактstream |
Параметрmaterial_types | Контрактtext |
Параметрtext_file_material | КонтрактПрочитайте фактический документ UTF-8 и поместите его текст в указанную строку входа или содержимого сообщения. |
Жизненный цикл: synchronous_or_streamed
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.000054 / 1K токенов Выход · Выходные токены $0.000402 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.000054 / 1K токенов Выход · Выходные токены $0.000402 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON или SSE
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте все блоки содержимого, подписи рассуждений и фактические ID обращений к инструментам. Собирайте все изменения блоков SSE; первый текстовый блок не является полным выходом.
Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.
| Поле | Тип |
|---|---|
Полеid | Типstring |
Полеmodel | Типstring |
Полеcontent[] | Типtext|thinking|tool_use|other content block |
Полеstop_reason | Типstring|null |
Полеusage | Типobject |
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Используйте пути методов, указанные выше.
Технический пример на английском
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.