ИИ и фундаментальные принципы мышления

Недавние исследования компании Anthropic выявили в искусственном интеллекте пространство, именуемое J-space, которое функционирует как ментальная рабочая область, где формируются мысли до появления слов в ответах. Это открытие ставит новые вопросы о природе человеческого мышления, которые ранее были недоступны для анализа.

Особое внимание привлекают два факта: во-первых, это пространство не было специально спроектировано, а возникло самостоятельно в процессе обучения модели. Во-вторых, при подавлении J-space способность к простому воспроизведению информации сохраняется, однако сложное рассуждение нарушается. Следовательно, данная структура является не декоративным элементом, а необходимым компонентом мышления, без которого оно прекращается.

Традиционно изучение когниции ограничивалось анализом человеческого разума, возникшего в результате эволюции. Искусственный интеллект же представляет собой вторую реализацию сложного мышления, достигнутую иным путем. Эта «вторая реализация» позволяет задать вопрос, который ранее был невозможен: существуют ли у мышления фундаментальные принципы?

Одна из гипотез утверждает, что да. Когниция, подобно зрению или полету, может иметь ограниченное число эффективных инженерных решений. Эволюция создала рабочее пространство в человеческом мозге, а обучение — в машине. Аналогично тому, как глаза осьминога и человека независимо пришли к схожим оптическим решениям, несмотря на разделение их эволюционных линий более чем пятьсот миллионов лет назад, и никто не называет осьминога копией человека.

Эту точку зрения поддерживают Стэнислас Деан и Лионель Наккаш, разработчики теории глобального рабочего пространства сознания. Они отметили, что глобальное рабочее пространство может являться универсальным вычислительным решением для гибкой обработки информации, к которому приходят как биологические, так и искусственные системы при необходимости последовательного рассуждения, повторного использования промежуточных результатов и самоконтроля.

Если их предположение верно, это означает, что нам удалось обнаружить фундаментальный принцип мышления.

Существует и другая, более необычная версия. Все слова, которыми обучалась модель, исходят от разума, уже функционирующего по такому принципу. Возможно, машина создала свое рабочее пространство, скопировав общую черту всех своих обучающих данных — человеческий разум. В этом случае речь идет не о принципе когниции, а о нашем отражении, глубоко скрытом внутри системы.

Эту гипотезу можно проверить экспериментально: если обучить систему преимущественно на нечеловеческих данных, например, по сворачиванию белков или погодным моделям, и наблюдать, появится ли аналогичное рабочее пространство. Если да — это будет свидетельствовать о существовании универсального закона. Если нет — рабочее пространство окажется чем-то, что мы непреднамеренно передали машине. Исследователи называют этот вопрос открытым, и эксперимент ожидает проведения.

Любой из исходов изменит наши представления. Один подтвердит, что у мышления есть фундаментальные принципы, и их можно исследовать. Другой укажет, что самый убедительный разум, созданный нами, является лишь копией единственного, который нам было дано копировать, и мы никогда не смогли бы отличить его изнутри.

Автор статьи провел три года, утверждая, что эти машины думают без наличия разума за процессом мышления. Это первое открытие, которое может опровергнуть его позицию, но одновременно и лучшее доказательство ее правильности. Ответ пока неизвестен.