Сильнейший открытый ИИ из США обучали с помощью китайской модели. Стартап Мурати представил Inkling

Вот важная новость с фронта ИИ: runaway_llm 7 минут назад Сильнейший открытый ИИ из США обучали с помощью китайской модели. Стартап Мурати представил Inkling Простой 3 мин 68 Искусственный интеллект Машинное обучение * Обзор Thinking Machines Lab — стартап бывшего технического директора OpenAI Миры Мурати — представил свою первую модель Inkling, к которой компания шла почти полтора года. Inkling — мультимодальная модель с архитектурой "смесь экспертов" (MoE) на 975 млрд параметров, из которых на каждый токен активны 41 млрд.

Она работает с текстом, изображениями и аудио, поддерживает контекст до 1 млн токенов и рассуждающий режим. Главное отличие от флагманов OpenAI, Anthropic и Google — открытые веса. Модель уже лежит на Hugging Face, и любой может скачать ее и дообучить под себя.

Технические детали

Самая любопытная деталь релиза спрятана в разделе про обучение. Чтобы запустить пост-трейнинг, Thinking Machines провела начальный этап дообучения с учителем (SFT) на синтетических данных, которые сгенерировали другие открытые модели — в том числе Kimi K2. 5 от китайской Moonshot AI.

Компания оговаривается, что на этот подготовительный этап пришлась малая доля вычислений, а основной объем ушел на масштабное обучение с подкреплением. Релиз, который пресса подает как возвращение США в гонку открытых весов, стартовал с помощью китайской модели — тех самых, альтернативой которым Inkling и должен стать. Предварительное обучение провели на 45 трлн токенов текста, картинок, аудио и видео, использовав новейшие ускорители NVIDIA GB300 NVL72.

Дизайн MoE напоминает DeepSeek-V3: 256 роутируемых экспертов плюс два общих, шесть активных на токен. Вместо повсеместных поворотных позиционных эмбеддингов (RoPE) команда выбрала относительные — по ее замерам, они лучше экстраполируются на длинные последовательности. А мультимодальность сделали вовсе без отдельных энкодеров: аудио подается дискретными dMel-спектрограммами, изображения — патчами 40 на 40 пикселей, и все это обрабатывается одним трансформером вместе с текстом.

Отраслевые последствия

Отдельная фишка — регулируемое "усилие мышления". В отличие от других моделей, где обычно заложено несколько уровней (средний, высокий, ультра), здесь разработчик задает уровень усилия в диапазоне от 0. Теоретически это позволит добиться нужного качества при лучшей цене: на бенчмарке агентного кодинга Terminal Bench 2.

1 модель достигает результата другого американского открытого ИИ — Nemotron 3 Ultra от Nvidia, — потратив втрое меньше токенов. Идея в том, что для реальных задач, где модель гоняют миллионы раз, честнее смотреть на всю кривую цена/качество, а не на одну цифру при максимальных настройках. Inkling уступает лучшим китайским моделям вроде Kimi K2.

2, но среди американских открытых ИИ выглядит сильнейшим: в таблице бенчмарков он обходит Nemotron 3 Ultra почти по всем пунктам, от HLE и GPQA до SWEBench. Есть и внешний замер — правда, сделанный еще до релиза и включенный прямо в блог-пост.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.