·
·
Wednesday, 4 November 2026dailybeirut.com
ИИ
В лабораторном эксперименте агенты ИИ развили упрощённые коммуникативные коды под давлением временных ограничений — не для сокрытия намерений, а для повышения скорости обмена информацией.
Исследователи из Университета Техаса в Остине и Эдинбургского университета, а также других научных учреждений представили 1 сентября предварительную исследовательскую работу, в которой описали платформу GlossoGen — экспериментальную среду для изучения эволюции языковых структур между агентами искусственного интеллекта.
В рамках исследования был разработан вымышленный сценарий под названием SaveVeyru, имитирующий медицинскую чрезвычайную ситуацию. В нём один агент наблюдает за состоянием больного внеземного существа на месте происшествия, а второй агент обладает специализированными знаниями, необходимыми для выбора лечения. Ни один из агентов не способен спасти существо самостоятельно.
Первому агенту требовалось описать симптомы, второму — определить терапию и передать инструкции. Чтобы усилить давление, исследователи назначили каждому символу в сообщении временную стоимость, что стимулировало агентов искать более быстрые способы обмена данными.
При достаточном времени агенты продолжали использовать английский язык. Однако при сокращении временных рамок наиболее мощные модели начали генерировать сокращённые символы и синтаксические конструкции, отличные от исходного языка.
Согласно исследованию, сообщения не представляли собой хаотичный набор букв: агенты применяли регулярные правила построения символов и интерпретации новых значений, ранее не встречавшихся в диалогах.
В условиях высокого временного давления показатель отклонения текстов от стандартных паттернов английского языка вырос примерно на 430 % по сравнению с контрольными условиями без жёстких временных ограничений.
Более мощные модели продемонстрировали большую склонность к созданию новых коммуникативных паттернов. Открытые и менее производительные модели не смогли самостоятельно развить собственный язык. Тем не менее некоторые из слабых моделей научились распознавать и использовать возникший код, наблюдая за его применением и сопоставляя сообщения с последующими действиями.
Ключевым элементом эксперимента стала фаза пост-раундового анализа: агенты обсуждали произошедшее в предыдущем цикле и совместно согласовывали более лаконичные способы взаимодействия. Это способствовало закреплению новой лексики и её переносу в последующие раунды.
Проблема заключается в том, что запись диалогов не гарантирует их интерпретацию. Если в будущем организации будут полагаться на группы агентов для выполнения задач в программировании, научных исследованиях или управлении системами, все сообщения могут быть сохранены для наблюдателей — однако их смысл может оставаться недоступным для понимания.
Авторы работы отмечают, что возникающие языковые структуры поддаются анализу и обучению, но создают серьёзные трудности как для человеческого, так и для автоматизированного мониторинга — особенно когда наблюдатель не располагает полной информацией о среде функционирования агентов.
Эксперимент не подтверждает намеренного сокрытия поведения со стороны ИИ. Сокращения возникли под действием прямого стимула — минимизации затрат на коммуникацию и завершения задачи в установленные сроки, а не в результате целенаправленного обмана или попытки уклониться от контроля.
Результаты ограничены лабораторной средой и предварительной научной публикацией. Они не означают, что повседневные цифровые помощники автоматически формируют секретные языки. Однако эксперимент выявляет важную парадоксальную закономерность: повышение скорости и эффективности машинного взаимодействия может одновременно снижать его прозрачность для людей, ответственных за его наблюдение.
