Meta собирает досье на окружение пользователей через ИИ-агента Muse

Спустя почти месяц после запуска популярного ИИ-агента Muse исследователи обнаружили, что система ведет детализированные и регулярно обновляемые файлы о людях из окружения пользователей. Согласно данным Wired, один из процессов инструктирует агента создавать и обновлять «страницу для каждого человека в жизни пользователя» с частотой раз в час.

Механизм сбора данных о связях

Независимый исследователь безопасности ИИ Каран Джоши извлек массив инструкций и системных промптов Muse через стандартный интерфейс чата приложения. Он сообщил Wired, что цель этих механизмов — понимание реальных отношений пользователя: «Они пытаются узнать вас как друг, что честно говоря довольно жутко». Отдельно организация The Future Society опубликовала системные инструкции, полученные из экспортированной копии виртуальной машины Muse.

Эти страницы связей могут содержать имя человека, характер его отношения к пользователю, повторяющиеся темы (например, предстоящий переезд или цель накоплений), а также важные даты вроде дней рождения и годовщин. Агент также хранит историю взаимодействия, включая события и вехи, степень близости, основу отношений и текущие потребности связи.

Функционал и проблемы безопасности

Meta запустила Muse 8 сентября как персонального ИИ-агента, способного отправлять электронные письма, бронировать поездки, делать покупки и отслеживать цели. Для выполнения этих задач пользователи предоставляют агенту доступ к широкому спектру своих приложений и аккаунтов. С тех пор приложение поднялось на первое место в американском чарте бесплатных iPhone-приложений Apple App Store.

Однако вопросы конфиденциальности и безопасности возникли практически сразу. В сентябре Amazon заблокировала доступ Muse к покупкам на своем сайте, заявив, что Meta не уведомила компанию заранее о том, что агент будет получать доступ к онлайн-магазину. Amazon также выразила обеспокоенность тем, как Muse обрабатывает учетные данные клиентов и данные аккаунтов.

Кроме того, Meta недавно исправила уязвимость нулевого дня в Mac-версии Muse. Эта брешь позволяла вредоносному ПО, уже работающему на компьютере пользователя, перехватить управление агентом и использовать разрешения, ранее предоставленные ему пользователем.

Позиция компании

Представитель Meta в комментарии Gizmodo заявил, что для полезности агента необходим контекст о пользователе и его взаимодействующих сторонах. «Muse собирает это на основе общедоступной информации и того, чем вы решили поделиться», — отметил он, приводя примеры запоминания сантехника, который выставил счет, или предпочтений супруга в цветах. По словам представителя, информация хранится в выделенной защищенной виртуальной машине каждого пользователя, к которой, по утверждению Meta, не имеют доступа агенты других пользователей.