Thinking Machines: Inkling (free)

Inkling — мультимодальная модель Thinking Machines Lab с открытыми весами для рассуждений, программирования, диалога и агентных приложений. Она принимает текст, изображения и аудио и возвращает текст. Архитектура Mixture-of-Experts содержит 975 миллиардов параметров всего и 41 миллиард активных, что делает Inkling большей моделью семейства. Inkling-Small — отдельная модель с 276 миллиардами параметров всего и 12 миллиардами активных, а не настройка длины ответа Inkling.

Для крупной задачи с кодом передайте нужные материалы репозитория, наблюдаемое поведение и желаемый результат. Попросите модель проследить отвечающий за него путь выполнения, предложить изменение и привести свидетельства проверок, действительно выполненных в подключённой среде. Для сравнения документов обозначьте исходные разделы и запросите существенные различия, подтверждающие их данные и оставшиеся вопросы. Предполагаемые применения включают помощников по программированию, чат-ботов, генерацию с дополнением найденными материалами и агентов с инструментами; форма итогового результата подстраивается под принимающее его приложение.

Inkling поддерживает до одного миллиона токенов контекста. Используйте этот объём, чтобы держать вместе обширные исходные материалы и важные факты диалога, организовав их вокруг конкретного вопроса. Отделяйте исходные факты от предположений и оставляйте место для полного письменного результата. Большой контекст позволяет работать с обширной подборкой; он не превращает ответ в актуальное представление о системе, текущие сведения о которой не были переданы.

Усилие рассуждения регулируется непрерывно в диапазоне от 0.0 включительно до 1.0, не включая верхнюю границу. Начальные предустановки разработчика: none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 и xhigh 0.99; рендерер по умолчанию использует high. Усилие и бюджет токенов генерации независимы. Более высокое усилие может побуждать к более подробным рассуждениям и требовать больше места перед итоговым ответом, а none настраивает модель на ответ без рассуждения, не вводя жёсткого запрета. Выбирайте значение под задачу и явно задавайте ожидаемый материал и условие завершения.

Визуальный ввод поддерживает описание изображений, вопросы о видимом содержимом, графики, схемы и математические рассуждения по изображениям. Для хороших результатов используйте размеры изображения от 40 до 4 096 пикселей. Сохраняйте читаемость нужных подписей и контекста схемы. Inkling может использовать настроенный инструмент Python для увеличения, обрезки или программного изучения изображения, связывая визуальные наблюдения с рассуждениями на основе кода. Полезный ответ по графику сохраняет наблюдаемые значения и показывает, как они подтверждают вывод; предложение обрезать изображение или выполнить расчёт само по себе не означает, что это было сделано.

Для аудиоввода используется WAV с частотой дискретизации 16 kHz; для оптимальной работы разработчик рекомендует записи длительностью до 20 минут. Это рекомендация по подготовке. Inkling может расшифровывать речь, выполнять устные инструкции, отвечать на вопросы о записях и рассуждать по более продолжительному аудио. Передайте нужную запись вместе с письменным вопросом и справочными материалами, необходимыми для её интерпретации. В материале по встрече можно отделить прозвучавшие факты от последующего резюме или интерпретации. Модель выдаёт текст, поэтому понимание аудио отличается от синтеза устного ответа.

Для задачи с инструментами опишите доступные операции и их аргументы и сохраняйте фактические наблюдения, возвращаемые приложением. Результат поиска может дать актуальные сведения; вычисление — числовой результат; операция с файлом — установить проверяемое содержимое. Предложенное моделью действие и результат его выполнения — отдельные части диалога. Связывайте итоговый ответ с этими наблюдениями, особенно когда он предлагает изменение кода или следующий шаг в приложении.

Inkling обучалась калибровке и следованию инструкциям, включая выражение неопределённости, когда ответ не установлен. Для прогноза или анализа на основе данных попросите включить в письменный результат предпосылки, подтверждения и неразрешённые условия. При извлечении данных задайте способ представления отсутствующего значения вместо требования заполнять каждое поле выдуманным фактом. Эти инструкции делают результат удобным для проверки, не превращая уверенность или долгие рассуждения в доказательство правильности.

Открытые веса поддерживают дообучение и интеграцию в конечные продукты. Специализированную модель создают на основе репрезентативных примеров и целевого поведения, тогда как обычный запрос инференса передаёт контекст текущей задачи. Разработчик демонстрирует кастомизацию как отдельный процесс; обычный ответ не сопровождается скрытым переключением на новые веса. Сохраняйте исходные данные и запрошенные ограничения вместе с итоговым материалом, чтобы в продолжении можно было исправить один факт, уточнить формулировку или изучить другой путь выполнения кода, сохранив целостность задания.