Исследование: ИИ-резюме искажают воспоминания людей

Автоматические сводки на основе искусственного интеллекта повсеместно используются в поисковых системах, медицинских картах, полицейских отчетах и повседневных приложениях. Несмотря на удобство и экономию времени при обработке информации, новые данные свидетельствуют о том, что такие инструменты способны изменять содержание человеческой памяти.

Эксперимент с видеозаписью ДТП

В рамках исследования участникам демонстрировали 25-секундный анимационный ролик, где красный автомобиль на перекрестке сбивает пешехода. Существовали две версии видео, различавшиеся только типом дорожного знака: в одной был знак «Стоп», в другой — «Уступите дорогу». Этот метод опирается на классическую психологическую концепцию эффекта ложной информации, согласно которой память не является статичным файлом, а реконструируется под влиянием последующих данных.

Спустя 24–48 часов после просмотра участники получали доступ к 21-предложенному резюме события, сгенерированному ИИ. Для части группы текст соответствовал увиденному, для другой — содержал намеренную ошибку относительно типа знака. Исследователи просили отвечать исключительно на основе первоначальных воспоминаний, игнорируя прочитанный текст.

Статистика искажения памяти

Разница в результатах оказалась значительной. Среди тех, кто читал корректное описание, 83,6% правильно вспомнили дорожный знак. В группе, получившей дезинформирующее резюме, этот показатель упал до 44,8%. При этом общая точность ответов на другие 11 вопросов теста составляла в среднем 91,4%, а более 96% участников верно указали время суток происшествия, которое не упоминалось в сводке.

Предупреждение о том, что текст создан алгоритмом, не повысило критическое отношение пользователей. Участники, которым сообщили об авторстве ИИ, так же легко поддавались манипуляции, как и те, кому говорили, что резюме написал профессиональный стенографист. Частота использования чат-ботов и уровень доверия к ним также не защищали от формирования ложных воспоминаний.

Проблема пропусков в автоматических сводках

Маттеа Сим, один из авторов работы, отметила в пресс-релизе Georgetown University, что ИИ стал новым каналом распространения дезинформации, способным создавать фальшивые воспоминания. Она призвала критически оценивать применение таких технологий в ситуациях с высокими рисками.

Отдельный тест проверял качество генерации самих резюме моделями ChatGPT-5.5 и Gemini 2.5 Flash-Lite. На каждом из двух видео было создано по пять сводок (всего 20 текстов). Все без исключения резюме содержали ошибки. Наиболее частым дефектом оказались пропуски ключевых деталей: в среднем модели опускали 51,6% существенных элементов события. В 19 случаях из 20 алгоритмы вообще не упомянули факт столкновения автомобиля с пешеходом.

Исследование указывает на то, что главная опасность кроется не в галлюцинациях или выдумывании несуществующих фактов, а в систематическом исключении важных подробностей. Если транскрипция может быть просто неверной на бумаге, то резюме способно стать основной версией событий в сознании человека. Работа опубликована на платформе arXiv и пока не прошла процедуру рецензирования.