Корпоративный ИИ за $10 млн отмел статью Q1. И он оказался прав — но не так, как он думал

Значимый прорыв формирует отрасль ИИ: ИсторияКорпоративная модель ИИ за $10 млн. дала негативный отзыв на недавно опубликованную статью: Vladimirov, V. An additional degree of freedom in the processes of self-organized criticality with violation of causality.

Chaos, Solitons & Fractals, 208, 118186. Ключевая проблема не в том, что ИИ «глупый». Проблема в том, что он обучен на другой парадигме.

Технические детали

Вот три фундаментальные причины, почему корпоративный ИИ дал негативный отзыв — и почему это не ошибка, а закономерность. · ИИ не видит структуру там, где она не выражена в данныхСовременные LLM обучены на текстах, которые описывают уже известные паттерны. Статья — о том, как обнаружить новую структуру (гиперболическое пространство, солитон, дополнительную степень свободы), а ИИ не может «увидеть» структуру, которой нет в его обучающей выборке.

Он может только распознавать известные паттерны. Это называется иллюзией компетенции — ИИ создаёт впечатление понимания, но на самом деле он просто перекомбинирует известное. · ИИ не понимает невыпуклость и обусловленностьГрадиентный спуск в невыпуклых ландшафтах страдает от плохой обусловленности матриц весов.

Число обусловленности (v) — это прямой индикатор этой проблемы. Корпоративный ИИ, обученный на «best practices», не видит ценности в том, чтобы отслеживать v, потому что в стандартных подходах (Adam, BatchNorm) эту проблему пытаются маскировать, а не решать фундаментально. Ирония в том, что исследования подтверждают наличие самоорганизованной критичности в обучении нейросетей.

Нейросети действительно эволюционируют к критическому состоянию. Статья предлагает способ диагностировать это состояние через (u, v). А корпоративный ИИ просто не знает, что такая диагностика возможна.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.