ХабрПостыНовостиМегапосты?

Thinking Machines Lab выпустила Inkling‑Small — компактную open‑weights‑модель для текста, изображений и аудио

Thinking Machines Lab опубликовала Inkling‑Small — компактную версию своей флагманской Inkling. Компания называет релиз efficient open‑weights model: Inkling‑Small, по ее словам, показывает сопоставимое качество с Inkling при примерно четверти размера.

Если смотреть на цифры, Inkling‑Small — это MoE‑трансформер с 276 млрд параметров всего и 12 млрд активных. Модель принимает текст, изображения и аудио, генерирует текст, работает в контекстном окне до 1 млн токенов и использует схему с 6 из 256 экспертов на токен плюс 2 shared experts. Для сравнения, старшая Inkling имеет 975 млрд параметров всего и 41 млрд активных.

По собственной оценке Thinking Machines, Inkling‑Small хорошо держится не только на обычных мультимодальных задачах, но и в сценариях с инструментами и агентным поведением. В блоге компания пишет, что модель близка или лучше Inkling на ряде бенчмарков по reasoning и agentic coding, а на HLE у нее 31,6%, на SWE‑bench Verified — более 80%. При этом сама компания прямо говорит, что Inkling‑Small не является «лучшей моделью вообще»; ее позиционируют скорее как сильную базу для доработки и прикладного использования.

Полные веса Inkling‑Small уже на Hugging Face + Tinker.

По цене Thinking Machines тоже пошла в сторону доступного старта: в документации Tinker для serverless inference beta указаны цены $0.30 за миллион входных токенов и $1.20 за миллион выходных токенов для Inkling‑Small в 256K‑конфигурации, а отдельная таблица для training показывает временные скидки для Inkling‑Small в 64K и 256K режимах.

@DashaPasha
31.07.2026 22:15 UTC
Первоисточник

Комментарии

@SlavikF
31.07.2026 18:36 UTC
+1

Пока не поддерживается в llama.cpp.

Есть PR, который добавляет поддержку этой модели, но похоже он ещё довольно сырой:

https://github.com/ggml-org/llama.cpp/pull/25731

31.07.2026 21:10 UTC
+2

PR на 62 измененных файла выглядит немного противоречиво: если такова цена поддержки очередной модели, то как долго проект в подобном темпе сможет протянуть?

@pomponchik
31.07.2026 21:55 UTC
0

Че по бенчам?

31.07.2026 22:20 UTC
+1

HF - примерно на уровне старой preview версии DeepSeek V4 Flash.

Неудачный тайминг для релиза получился, конечно. Буквально спустя пару дней вышел DeepSeek V4 Flash 07-31, который меньше по размеру (160 GB из-за нативного FP4, хотя параметров немного больше чем у Inkling) и сильнее по бенчам.

@LinkToOS
01.08.2026 07:54 UTC
0

В названии некорректно сказано - модель для текста, изображений и аудио
В тексте статьи все правильно - Модель принимает текст, изображения и аудио, генерирует текст.

По цене Thinking Machines тоже пошла в сторону доступного старта: в документации Tinker для serverless inference beta указаны цены $0.30 за миллион входных токенов

Ну это же мелкая модель. У нее вычислительные затраты на токен небольшие.
Про временные скидки на обучение - не факт что это скидки, а не адекватная цена. Подразумевается, что если модель станет популярной, и пользователи будут дообучать ее под свои нужды, то Thinking Machines поднимут цены на обучение и будут больше зарабатывать.