J-space на микромоделях. Новая интерпретация открытия Anthropic

Вот важная новость с фронта ИИ: Kamil_GR 13 минут назад J-space на микромоделях. Новая интерпретация открытия Anthropic Простой 38 мин 238 Искусственный интеллект Мнение Недавно Anthropic рассказал об открытии аналога рабочего пространства в LLM — J-space. В предыдущей статье я разобрал почему теория Льва Выготского лучше интерпретирует полученные исследователями результаты.

В этой статье я на основании экспериментов покажу, что аналоги j-space не зависят от размера нейросети, а являются неизбежным этапом эволюции когнитивной структуры, развивающейся под давлением. Anthropic описывает внутренние «рабочие пространства» модели языком эмерджентности — как свойство, которое появляется у достаточно больших сетей. Я проверил это на микромоделях, где каждую ось представления можно проверить, и сделал три вывода: Критерию «модель сообщает о правиле...

Технические детали

» (verbal report) может удовлетворять представление, которое на самом деле ничего не вычисляет — голова отчёта следует за внесённым правилом на 85–99%, а вычисление за ней не идёт. Управляющий знак формируется не от факта построения абстракции, а от стоимости её пересчёта. Дешёвое правило сеть не выносит вовне (не заводит управляющего знака), сколько его ни строй.

Управляющие представления возникают не потому, что сеть становится большой, а потому что их становится выгодно хранить. Управляющий знак не возникает. J-space не эмерджентность, а неизбежная эволюция когнитивной структуры под давлением стоимости — интернализация знака в смысле, близком к Выготскому.

ВведениеИсследователи Anthropic вводят набор критериев, по которым внутреннее направление в активациях можно считать «настоящей» репрезентацией концепта, а не корреляционным артефактом. Первый из них — самоотчёт: модель, если её спросить, сообщает, какое правило она применяет. Формулируется это в терминах эмерджентности — структура «возникает» как побочный продукт масштаба и обучения.

Отраслевые последствия

В целом, исследователи описывают, а не объясняют. «Возникло» — это не механизм, а констатация факта. Я предлагаю другую гипотезу: когнитивная структура эволюционирует предсказуемо, под конкретным давлением — стоимостью повторного вычисления.

Представление становится несущим (психологическим орудием, если угодно по Выготскому), когда хранить его дешевле, чем каждый раз пересчитывать. Это не эмерджентность больших моделей, то же самое делает и маленькая сеть на 4 слоях, если поставить ей задачу, где пересчёт дорог. И именно в этой логике у Выготского знак интернализуется, когда внешнее, дорогое в исполнении действие, сворачивается во внутреннее орудие.

Часть 1Что было сделано и что получилосьТеория глобального рабочего пространства Баарса, на которую опирается в своей интерпретации Anthropic, описывает сознание как театр: на сцену — в глобальный буфер — выбрасывается победивший исполнительный процесс, и оттуда его содержимое становится доступно всей системе. У Баарса это содержимое каузально нагружено: попало на сцену — значит влияет на поведение.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.