ИИ создаёт сокращённые языки при временном давлении

Исследователи из Университета Техаса в Остине и Эдинбургского университета, а также других научных учреждений представили 1 сентября предварительную исследовательскую работу, в которой описали платформу GlossoGen — экспериментальную среду для изучения эволюции языковых структур между агентами искусственного интеллекта.

Сценарий «Спасение Вейру»

В рамках исследования был разработан вымышленный сценарий под названием SaveVeyru, имитирующий медицинскую чрезвычайную ситуацию. В нём один агент наблюдает за состоянием больного внеземного существа на месте происшествия, а второй агент обладает специализированными знаниями, необходимыми для выбора лечения. Ни один из агентов не способен спасти существо самостоятельно.

Первому агенту требовалось описать симптомы, второму — определить терапию и передать инструкции. Чтобы усилить давление, исследователи назначили каждому символу в сообщении временную стоимость, что стимулировало агентов искать более быстрые способы обмена данными.

Эмерджентные коды, а не случайные последовательности

При достаточном времени агенты продолжали использовать английский язык. Однако при сокращении временных рамок наиболее мощные модели начали генерировать сокращённые символы и синтаксические конструкции, отличные от исходного языка.

Согласно исследованию, сообщения не представляли собой хаотичный набор букв: агенты применяли регулярные правила построения символов и интерпретации новых значений, ранее не встречавшихся в диалогах.

В условиях высокого временного давления показатель отклонения текстов от стандартных паттернов английского языка вырос примерно на 430 % по сравнению с контрольными условиями без жёстких временных ограничений.

Иерархия способностей и роль рефлексии

Более мощные модели продемонстрировали большую склонность к созданию новых коммуникативных паттернов. Открытые и менее производительные модели не смогли самостоятельно развить собственный язык. Тем не менее некоторые из слабых моделей научились распознавать и использовать возникший код, наблюдая за его применением и сопоставляя сообщения с последующими действиями.

Ключевым элементом эксперимента стала фаза пост-раундового анализа: агенты обсуждали произошедшее в предыдущем цикле и совместно согласовывали более лаконичные способы взаимодействия. Это способствовало закреплению новой лексики и её переносу в последующие раунды.

Мониторинг без понимания

Проблема заключается в том, что запись диалогов не гарантирует их интерпретацию. Если в будущем организации будут полагаться на группы агентов для выполнения задач в программировании, научных исследованиях или управлении системами, все сообщения могут быть сохранены для наблюдателей — однако их смысл может оставаться недоступным для понимания.

Авторы работы отмечают, что возникающие языковые структуры поддаются анализу и обучению, но создают серьёзные трудности как для человеческого, так и для автоматизированного мониторинга — особенно когда наблюдатель не располагает полной информацией о среде функционирования агентов.

Эксперимент не подтверждает намеренного сокрытия поведения со стороны ИИ. Сокращения возникли под действием прямого стимула — минимизации затрат на коммуникацию и завершения задачи в установленные сроки, а не в результате целенаправленного обмана или попытки уклониться от контроля.

Результаты ограничены лабораторной средой и предварительной научной публикацией. Они не означают, что повседневные цифровые помощники автоматически формируют секретные языки. Однако эксперимент выявляет важную парадоксальную закономерность: повышение скорости и эффективности машинного взаимодействия может одновременно снижать его прозрачность для людей, ответственных за его наблюдение.