Mistral Nemo Instruct 2407 — настроенная на инструкции редакция языковой модели Mistral Nemo размера 12B. Она дообучена на отдельно именованном чекпойнте Nemo Base 2407. Производитель описывает обучение с большой долей многоязычного материала и кода и окном контекста 128k токенов, поддерживающим письменные инструкции, диалог и программирование.
Основные возможности и архитектура
Выпуск предоставляет отдельные предобученную и настроенную на инструкции версии. Эта запись относится к чекпойнту Instruct: текстовый запрос может просить объяснение, отредактированный документ, программный код или предлагаемый вызов функции. Настройка на инструкции описана как улучшение точного следования инструкциям, рассуждения, многоходового диалога и генерации кода по сравнению с предыдущей линейкой Mistral 7B.
У модели 40 слоёв Transformer с шириной модели 5,120. Она использует SwiGLU, 32 головы внимания и 8 голов ключей/значений во внимании с группировкой запросов, размер головы 128 и скрытый размер 14,336. Ротационные эмбеддинги используют значение theta в один миллион. Выпущенный словарь содержит 2 в степени 17 записей, то есть 131,072; размер словаря отличается от обозначения контекста задачи 128k.
Анонс производителя также описывает обучение с учётом квантования и вывод FP8. Это характеристики выпуска и точности, а не дополнительные модальности содержания. Сохраняйте конкретный чекпойнт и соответствующий токенизатор, не считая другую модель 12B или семейства Mistral той же редакцией.
Многоязычный текст и Tekken
Выпуск выделяет английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди, а русский включён в языковые метаданные карточки. До запроса задайте язык результата, аудиторию и терминологию. Для многоязычной работы с документом сохраняйте имена, идентификаторы и единицы, адаптируя окружающий текст.
Nemo использует токенизатор Tekken, обученный более чем на 100 языках и предназначенный для эффективного представления естественного языка и исходного кода. Токенизатор влияет на размещение материала в контексте; число символов само по себе не равно числу токенов. Используйте соответствующий токенизатор и сохраняйте нужные материалы задачи вместе, не оценивая контекст только по видимой длине отрывка.
Подготовка инструкций и кода
Для объяснения документа предоставьте исходный отрывок и укажите условие или термин. Попросите объяснение на языке читателя, сохранив оригинальные имена и исходное утверждение, подтверждающее ответ. Для редактирования задайте смысл и условия, которые должны пережить переработку, а также форму результата: только изменённый отрывок или отрывок с объяснением.
Для задачи кода укажите язык, типы входа, ожидаемый выход и существующий интерфейс. Включите функцию или объявления, определяющие изменение. Полезный результат может содержать реализацию, её предположения и примеры входов с ожидаемыми выходами. Отдельным вопросом можно попросить провести один вход через предоставленный код, чтобы объяснение относилось к конкретному пути, а не неопределённой программе.
Для многоходового диалога сохраняйте относящийся к задаче предыдущий ответ и задавайте конкретное продолжение или новый материал, меняющий задачу. Определите, должен ли следующий ответ изменить предыдущий материал, объяснить одно решение или представить те же исходные факты иначе. Это делает продолжение диалога явным.
Вызов функций и сэмплирование
Производитель документирует вызов функций с соответствующим форматом диалога. Модель генерирует предлагаемую операцию и аргументы, приложение выполняет функцию и добавляет результат в диалог до следующей генерации. Карточка прямо отмечает, что сокращённый пример кода не показывает полный цикл: недостающие шаги выполнения и результата остаются необходимыми частями приложения с инструментами.
В этом опубликованном формате инструментов идентификаторы вызовов и соответствующих результатов состоят ровно из девяти буквенно-цифровых символов. Сохраняйте связь операции с её результатом при подготовке диалога в нативном формате. Интерфейс обёртки может представлять диалог иначе; требование выпуска описывает форматирование модели производителя, а не выдуманный универсальный идентификатор клиента.
Производитель рекомендует температуру 0.3, отмечая, что Nemo использует меньшие температуры, чем предыдущие модели Mistral. Настройки на 64, 128, 256 и 1,000 токенов, показанные в примерах, — варианты генерации этих демонстраций, а не независимо опубликованные максимальные объёмы ответа.
Существенные ограничения
Карточка Instruct описывает чекпойнт как демонстрацию дообучения базовой модели и прямо указывает отсутствие механизма модерации. Приложения, которым нужно модерируемое поведение, должны обеспечить его в окружающей системе. Это свойство выпущенного чекпойнта, а не утверждение о каждом сервисе с моделью Nemo.
Документированная задача Nemo здесь — генерация текста с собственным контекстом 128k и форматом диалога. Понимание изображений, расшифровку речи и гибридные настройки рассуждения поздних семейств Mistral не следует приписывать этой редакции. Предоставьте полное письменное условие, нужные исходные материалы и требуемый итог, чтобы результат оставался пригоден как объяснение, изменённый текст или предлагаемая реализация.
", "aboutText": "Mistral Nemo Instruct 2407 — настроенная на инструкции редакция языковой модели Mistral Nemo размера 12B. Она дообучена на отдельно именованном чекпойнте Nemo Base 2407. Производитель описывает обучение с большой долей многоязычного материала и кода и окном контекста 128k токенов, поддерживающим письменные инструкции, диалог и программирование.\n\nОсновные возможности и архитектура\n\nВыпуск предоставляет отдельные предобученную и настроенную на инструкции версии. Эта запись относится к чекпойнту Instruct: текстовый запрос может просить объяснение, отредактированный документ, программный код или предлагаемый вызов функции. Настройка на инструкции описана как улучшение точного следования инструкциям, рассуждения, многоходового диалога и генерации кода по сравнению с предыдущей линейкой Mistral 7B.\n\nУ модели 40 слоёв Transformer с шириной модели 5,120. Она использует SwiGLU, 32 головы внимания и 8 голов ключей/значений во внимании с группировкой запросов, размер головы 128 и скрытый размер 14,336. Ротационные эмбеддинги используют значение theta в один миллион. Выпущенный словарь содержит 2 в степени 17 записей, то есть 131,072; размер словаря отличается от обозначения контекста задачи 128k.\n\nАнонс производителя также описывает обучение с учётом квантования и вывод FP8. Это характеристики выпуска и точности, а не дополнительные модальности содержания. Сохраняйте конкретный чекпойнт и соответствующий токенизатор, не считая другую модель 12B или семейства Mistral той же редакцией.\n\nМногоязычный текст и Tekken\n\nВыпуск выделяет английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди, а русский включён в языковые метаданные карточки. До запроса задайте язык результата, аудиторию и терминологию. Для многоязычной работы с документом сохраняйте имена, идентификаторы и единицы, адаптируя окружающий текст.\n\nNemo использует токенизатор Tekken, обученный более чем на 100 языках и предназначенный для эффективного представления естественного языка и исходного кода. Токенизатор влияет на размещение материала в контексте; число символов само по себе не равно числу токенов. Используйте соответствующий токенизатор и сохраняйте нужные материалы задачи вместе, не оценивая контекст только по видимой длине отрывка.\n\nПодготовка инструкций и кода\n\nДля объяснения документа предоставьте исходный отрывок и укажите условие или термин. Попросите объяснение на языке читателя, сохранив оригинальные имена и исходное утверждение, подтверждающее ответ. Для редактирования задайте смысл и условия, которые должны пережить переработку, а также форму результата: только изменённый отрывок или отрывок с объяснением.\n\nДля задачи кода укажите язык, типы входа, ожидаемый выход и существующий интерфейс. Включите функцию или объявления, определяющие изменение. Полезный результат может содержать реализацию, её предположения и примеры входов с ожидаемыми выходами. Отдельным вопросом можно попросить провести один вход через предоставленный код, чтобы объяснение относилось к конкретному пути, а не неопределённой программе.\n\nДля многоходового диалога сохраняйте относящийся к задаче предыдущий ответ и задавайте конкретное продолжение или новый материал, меняющий задачу. Определите, должен ли следующий ответ изменить предыдущий материал, объяснить одно решение или представить те же исходные факты иначе. Это делает продолжение диалога явным.\n\nВызов функций и сэмплирование\n\nПроизводитель документирует вызов функций с соответствующим форматом диалога. Модель генерирует предлагаемую операцию и аргументы, приложение выполняет функцию и добавляет результат в диалог до следующей генерации. Карточка прямо отмечает, что сокращённый пример кода не показывает полный цикл: недостающие шаги выполнения и результата остаются необходимыми частями приложения с инструментами.\n\nВ этом опубликованном формате инструментов идентификаторы вызовов и соответствующих результатов состоят ровно из девяти буквенно-цифровых символов. Сохраняйте связь операции с её результатом при подготовке диалога в нативном формате. Интерфейс обёртки может представлять диалог иначе; требование выпуска описывает форматирование модели производителя, а не выдуманный универсальный идентификатор клиента.\n\nПроизводитель рекомендует температуру 0.3, отмечая, что Nemo использует меньшие температуры, чем предыдущие модели Mistral. Настройки на 64, 128, 256 и 1,000 токенов, показанные в примерах, — варианты генерации этих демонстраций, а не независимо опубликованные максимальные объёмы ответа.\n\nСущественные ограничения\n\nКарточка Instruct описывает чекпойнт как демонстрацию дообучения базовой модели и прямо указывает отсутствие механизма модерации. Приложения, которым нужно модерируемое поведение, должны обеспечить его в окружающей системе. Это свойство выпущенного чекпойнта, а не утверждение о каждом сервисе с моделью Nemo.\n\nДокументированная задача Nemo здесь — генерация текста с собственным контекстом 128k и форматом диалога. Понимание изображений, расшифровку речи и гибридные настройки рассуждения поздних семейств Mistral не следует приписывать этой редакции. Предоставьте полное письменное условие, нужные исходные материалы и требуемый итог, чтобы результат оставался пригоден как объяснение, изменённый текст или предлагаемая реализация.", "editorialOverlay": { "copy_fields": { "practical_html": "Технический пример на английском
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.mistralai/mistral-nemoMistral Nemo Instruct 2407 — многоязычная текстовая модель с 12 млрд параметров для точных инструкций, многошаговых диалогов и кода. Она имеет заявленный разработчиком контекст 128 тыс. токенов, токенизатор Tekken, документированный вызов функций и отдельный инструкционный чекпойнт с собственными рекомендациями по сэмплированию.
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Mistral Nemo Instruct 2407 — настроенная на инструкции редакция языковой модели Mistral Nemo размера 12B. Она дообучена на отдельно именованном чекпойнте Nemo Base 2407. Производитель описывает обучение с большой долей многоязычного материала и кода и окном контекста 128k токенов, поддерживающим письменные инструкции, диалог и программирование.
Основные возможности и архитектура
Выпуск предоставляет отдельные предобученную и настроенную на инструкции версии. Эта запись относится к чекпойнту Instruct: текстовый запрос может просить объяснение, отредактированный документ, программный код или предлагаемый вызов функции. Настройка на инструкции описана как улучшение точного следования инструкциям, рассуждения, многоходового диалога и генерации кода по сравнению с предыдущей линейкой Mistral 7B.
У модели 40 слоёв Transformer с шириной модели 5,120. Она использует SwiGLU, 32 головы внимания и 8 голов ключей/значений во внимании с группировкой запросов, размер головы 128 и скрытый размер 14,336. Ротационные эмбеддинги используют значение theta в один миллион. Выпущенный словарь содержит 2 в степени 17 записей, то есть 131,072; размер словаря отличается от обозначения контекста задачи 128k.
Анонс производителя также описывает обучение с учётом квантования и вывод FP8. Это характеристики выпуска и точности, а не дополнительные модальности содержания. Сохраняйте конкретный чекпойнт и соответствующий токенизатор, не считая другую модель 12B или семейства Mistral той же редакцией.
Многоязычный текст и Tekken
Выпуск выделяет английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди, а русский включён в языковые метаданные карточки. До запроса задайте язык результата, аудиторию и терминологию. Для многоязычной работы с документом сохраняйте имена, идентификаторы и единицы, адаптируя окружающий текст.
Nemo использует токенизатор Tekken, обученный более чем на 100 языках и предназначенный для эффективного представления естественного языка и исходного кода. Токенизатор влияет на размещение материала в контексте; число символов само по себе не равно числу токенов. Используйте соответствующий токенизатор и сохраняйте нужные материалы задачи вместе, не оценивая контекст только по видимой длине отрывка.
Подготовка инструкций и кода
Для объяснения документа предоставьте исходный отрывок и укажите условие или термин. Попросите объяснение на языке читателя, сохранив оригинальные имена и исходное утверждение, подтверждающее ответ. Для редактирования задайте смысл и условия, которые должны пережить переработку, а также форму результата: только изменённый отрывок или отрывок с объяснением.
Для задачи кода укажите язык, типы входа, ожидаемый выход и существующий интерфейс. Включите функцию или объявления, определяющие изменение. Полезный результат может содержать реализацию, её предположения и примеры входов с ожидаемыми выходами. Отдельным вопросом можно попросить провести один вход через предоставленный код, чтобы объяснение относилось к конкретному пути, а не неопределённой программе.
Для многоходового диалога сохраняйте относящийся к задаче предыдущий ответ и задавайте конкретное продолжение или новый материал, меняющий задачу. Определите, должен ли следующий ответ изменить предыдущий материал, объяснить одно решение или представить те же исходные факты иначе. Это делает продолжение диалога явным.
Вызов функций и сэмплирование
Производитель документирует вызов функций с соответствующим форматом диалога. Модель генерирует предлагаемую операцию и аргументы, приложение выполняет функцию и добавляет результат в диалог до следующей генерации. Карточка прямо отмечает, что сокращённый пример кода не показывает полный цикл: недостающие шаги выполнения и результата остаются необходимыми частями приложения с инструментами.
В этом опубликованном формате инструментов идентификаторы вызовов и соответствующих результатов состоят ровно из девяти буквенно-цифровых символов. Сохраняйте связь операции с её результатом при подготовке диалога в нативном формате. Интерфейс обёртки может представлять диалог иначе; требование выпуска описывает форматирование модели производителя, а не выдуманный универсальный идентификатор клиента.
Производитель рекомендует температуру 0.3, отмечая, что Nemo использует меньшие температуры, чем предыдущие модели Mistral. Настройки на 64, 128, 256 и 1,000 токенов, показанные в примерах, — варианты генерации этих демонстраций, а не независимо опубликованные максимальные объёмы ответа.
Существенные ограничения
Карточка Instruct описывает чекпойнт как демонстрацию дообучения базовой модели и прямо указывает отсутствие механизма модерации. Приложения, которым нужно модерируемое поведение, должны обеспечить его в окружающей системе. Это свойство выпущенного чекпойнта, а не утверждение о каждом сервисе с моделью Nemo.
Документированная задача Nemo здесь — генерация текста с собственным контекстом 128k и форматом диалога. Понимание изображений, расшифровку речи и гибридные настройки рассуждения поздних семейств Mistral не следует приписывать этой редакции. Предоставьте полное письменное условие, нужные исходные материалы и требуемый итог, чтобы результат оставался пригоден как объяснение, изменённый текст или предлагаемая реализация.
POST /v1/chat/completionstexttext| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения mistralai/mistral-nemo | По умолчанию— |
Полеmessages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— |
Полеmessages[].role | Типstring | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— |
Полеmessages[].content | Типstring|content_part[]|null | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].tool_calls | Типtool_call[] | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].tool_call_id | Типstring | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— |
Полеmessages[].name | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].reasoning_content | Типstring | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— |
Полеmessages[].reasoning_details | Типobject|array | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеmax_tokens | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
Полеmax_completion_tokens | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
Полеstream | Типboolean | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |
Полеstream_options.include_usage | Типboolean | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtemperature | Типnumber | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtop_p | Типnumber | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеstop | Типstring|string[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtools | Типfunction_tool[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtools[].type | Типstring | ТребованиеНеобязательно | Значения и ограничения function Зависит от модели | По умолчанию— |
Полеtools[].function.name | Типstring | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— |
Полеtools[].function.description | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtools[].function.parameters | ТипJSON_schema | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtool_choice | Типstring|object | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеparallel_tool_calls | Типboolean | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеresponse_format | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеreasoning_effort | Типstring | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеreasoning | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеservice_tier | Типstring | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеinstructions | Типstring | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— |
Полеfunctions | Типfunction[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеfunction_call | Типstring|object | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеprompt_cache_options | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеmodalities | Типstring[] | ТребованиеНеобязательно | Значения и ограничения text | По умолчанию— |
Полеprovider | Типobject | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется на этом текстовом маршруте Ultra | По умолчанию— |
Полеcache_control.ttl | Типstring | ТребованиеНеобязательно | Значения и ограничения Условия: 1h отклоняется в фактических местах настройки кэша запросов | По умолчанию— |
Текст · Текст UTF8
messages[].content
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, messages |
Параметрmaterial_types | Контрактtext |
Параметрmessages | Контрактмассив сообщений со структурой role/content |
Параметрfile_material | Контрактфактический документ UTF-8 вставляется как буквальный текст; ID файла не выводится из него |
Параметрoptional_controls | Контрактstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Параметрcontrol_scope | Контрактзависит от модели; пользовательские инструменты-функции отличаются от инструментов, выполняемых на стороне сервиса |
Параметрoutput_modalities | Контрактtext |
Параметрhosted_operations | Контрактfalse |
Параметрmultimodal_input_binding | Контрактnull |
Жизненный цикл: synchronous_or_streamed
Отправляйте точный ID модели вместе с messages.
Длина контекста не является пределом выхода.
Текстовый файл может передавать буквальный текст; входные изображения, аудио и файловые объекты требуют точной привязки.
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.0003 / 1K токенов Выход · Выходные токены $0.0003 / 1K токенов Вход · Чтение кэша $0.00003 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.0003 / 1K токенов Выход · Выходные токены $0.0003 / 1K токенов Вход · Чтение кэша $0.00003 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson или SSE
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования.
Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.
| Поле | Тип |
|---|---|
Полеchoices[].index | Типinteger |
Полеchoices[].message.content | Типstring|null |
Полеchoices[].message.tool_calls | Типtool_call[] |
Полеchoices[].message.reasoning_content | Типstring |
Полеchoices[].message.reasoning_details | Типobject|array |
Полеchoices[].finish_reason | Типstring|null |
Полеusage | Типobject |
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Ailoot Ultra mistralai/mistral-nemo
Используйте пути методов, указанные выше.
mistralai/mistral-nemoMistral Nemo Instruct 2407 — многоязычная текстовая модель с 12 млрд параметров для точных инструкций, многошаговых диалогов и кода. Она имеет заявленный разработчиком контекст 128 тыс. токенов, токенизатор Tekken, документированный вызов функций и отдельный инструкционный чекпойнт с собственными рекомендациями по сэмплированию.
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Mistral Nemo Instruct 2407 — настроенная на инструкции редакция языковой модели Mistral Nemo размера 12B. Она дообучена на отдельно именованном чекпойнте Nemo Base 2407. Производитель описывает обучение с большой долей многоязычного материала и кода и окном контекста 128k токенов, поддерживающим письменные инструкции, диалог и программирование.
Основные возможности и архитектура
Выпуск предоставляет отдельные предобученную и настроенную на инструкции версии. Эта запись относится к чекпойнту Instruct: текстовый запрос может просить объяснение, отредактированный документ, программный код или предлагаемый вызов функции. Настройка на инструкции описана как улучшение точного следования инструкциям, рассуждения, многоходового диалога и генерации кода по сравнению с предыдущей линейкой Mistral 7B.
У модели 40 слоёв Transformer с шириной модели 5,120. Она использует SwiGLU, 32 головы внимания и 8 голов ключей/значений во внимании с группировкой запросов, размер головы 128 и скрытый размер 14,336. Ротационные эмбеддинги используют значение theta в один миллион. Выпущенный словарь содержит 2 в степени 17 записей, то есть 131,072; размер словаря отличается от обозначения контекста задачи 128k.
Анонс производителя также описывает обучение с учётом квантования и вывод FP8. Это характеристики выпуска и точности, а не дополнительные модальности содержания. Сохраняйте конкретный чекпойнт и соответствующий токенизатор, не считая другую модель 12B или семейства Mistral той же редакцией.
Многоязычный текст и Tekken
Выпуск выделяет английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди, а русский включён в языковые метаданные карточки. До запроса задайте язык результата, аудиторию и терминологию. Для многоязычной работы с документом сохраняйте имена, идентификаторы и единицы, адаптируя окружающий текст.
Nemo использует токенизатор Tekken, обученный более чем на 100 языках и предназначенный для эффективного представления естественного языка и исходного кода. Токенизатор влияет на размещение материала в контексте; число символов само по себе не равно числу токенов. Используйте соответствующий токенизатор и сохраняйте нужные материалы задачи вместе, не оценивая контекст только по видимой длине отрывка.
Подготовка инструкций и кода
Для объяснения документа предоставьте исходный отрывок и укажите условие или термин. Попросите объяснение на языке читателя, сохранив оригинальные имена и исходное утверждение, подтверждающее ответ. Для редактирования задайте смысл и условия, которые должны пережить переработку, а также форму результата: только изменённый отрывок или отрывок с объяснением.
Для задачи кода укажите язык, типы входа, ожидаемый выход и существующий интерфейс. Включите функцию или объявления, определяющие изменение. Полезный результат может содержать реализацию, её предположения и примеры входов с ожидаемыми выходами. Отдельным вопросом можно попросить провести один вход через предоставленный код, чтобы объяснение относилось к конкретному пути, а не неопределённой программе.
Для многоходового диалога сохраняйте относящийся к задаче предыдущий ответ и задавайте конкретное продолжение или новый материал, меняющий задачу. Определите, должен ли следующий ответ изменить предыдущий материал, объяснить одно решение или представить те же исходные факты иначе. Это делает продолжение диалога явным.
Вызов функций и сэмплирование
Производитель документирует вызов функций с соответствующим форматом диалога. Модель генерирует предлагаемую операцию и аргументы, приложение выполняет функцию и добавляет результат в диалог до следующей генерации. Карточка прямо отмечает, что сокращённый пример кода не показывает полный цикл: недостающие шаги выполнения и результата остаются необходимыми частями приложения с инструментами.
В этом опубликованном формате инструментов идентификаторы вызовов и соответствующих результатов состоят ровно из девяти буквенно-цифровых символов. Сохраняйте связь операции с её результатом при подготовке диалога в нативном формате. Интерфейс обёртки может представлять диалог иначе; требование выпуска описывает форматирование модели производителя, а не выдуманный универсальный идентификатор клиента.
Производитель рекомендует температуру 0.3, отмечая, что Nemo использует меньшие температуры, чем предыдущие модели Mistral. Настройки на 64, 128, 256 и 1,000 токенов, показанные в примерах, — варианты генерации этих демонстраций, а не независимо опубликованные максимальные объёмы ответа.
Существенные ограничения
Карточка Instruct описывает чекпойнт как демонстрацию дообучения базовой модели и прямо указывает отсутствие механизма модерации. Приложения, которым нужно модерируемое поведение, должны обеспечить его в окружающей системе. Это свойство выпущенного чекпойнта, а не утверждение о каждом сервисе с моделью Nemo.
Документированная задача Nemo здесь — генерация текста с собственным контекстом 128k и форматом диалога. Понимание изображений, расшифровку речи и гибридные настройки рассуждения поздних семейств Mistral не следует приписывать этой редакции. Предоставьте полное письменное условие, нужные исходные материалы и требуемый итог, чтобы результат оставался пригоден как объяснение, изменённый текст или предлагаемая реализация.
POST /v1/messagestextjson, sse| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения mistralai/mistral-nemo | По умолчанию— |
Полеmessages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].role | Типstring | ТребованиеОбязательно | Значения и ограничения user, assistant | По умолчанию— |
Полеmessages[].content | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmax_tokens | Типinteger | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеstream | Типboolean | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |
Текст · Текст UTF-8
строка messages[].content
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, messages, max_tokens |
Параметрoptional_controls | Контрактstream |
Параметрmaterial_types | Контрактtext |
Параметрtext_file_material | КонтрактПрочитайте фактический документ UTF-8 и поместите его текст в указанную строку входа или содержимого сообщения. |
Жизненный цикл: synchronous_or_streamed
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.0003 / 1K токенов Выход · Выходные токены $0.0003 / 1K токенов Вход · Чтение кэша $0.00003 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.0003 / 1K токенов Выход · Выходные токены $0.0003 / 1K токенов Вход · Чтение кэша $0.00003 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
{\n "model": "mistralai/mistral-nemo",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON или SSE
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте все блоки содержимого, подписи рассуждений и фактические ID обращений к инструментам. Собирайте все изменения блоков SSE; первый текстовый блок не является полным выходом.
Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.
| Поле | Тип |
|---|---|
Полеid | Типstring |
Полеmodel | Типstring |
Полеcontent[] | Типtext|thinking|tool_use|other content block |
Полеstop_reason | Типstring|null |
Полеusage | Типobject |
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Ailoot Ultra mistralai/mistral-nemo
Используйте пути методов, указанные выше.
Технический пример на английском
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.