Meta приостанавливает программу обучения ИИ после утечки данных сотрудников

Компания Meta временно приостановила работу одной из своих внутренних программ, предназначенных для обучения моделей искусственного интеллекта, после того как внутренняя утечка раскрыла возможность широкого доступа к конфиденциальным данным сотрудников. Этот инцидент произошёл на фоне внутреннего напряжения в компании, вызванного частыми сокращениями персонала и быстрым расширением проектов в области ИИ, что недавно подтвердил технический директор Meta Эндрю Босворт, известный под прозвищем «Боз», отметив, что моральный дух сотрудников находится на рекордно низком уровне.

По информации Business Insider, внутренняя ошибка привела к раскрытию данных, включающих внутренние переписки, оценки работы, расшифровки записей и другие сведения. Meta квалифицировала этот инцидент как «SEV 2» по своей внутренней системе оценки безопасности, где уровень «SEV 1» считается наиболее серьёзным. Представитель компании подтвердил факт утечки и сообщил, что расследование продолжается для выяснения всех обстоятельств.

Программа, вызвавшая споры, называется «Model Capability Initiative» (MCI). Она была разработана для сбора данных о действиях сотрудников с целью обучения и улучшения моделей искусственного интеллекта Meta. Программа была установлена на устройствах сотрудников в США и фиксировала движения мыши, клики, нажатия клавиш, а также взаимодействие с используемыми рабочими приложениями и сайтами. Внутренние документы указывают, что система периодически снимала скриншоты рабочего экрана, что усилило опасения по поводу конфиденциальности внутри компании.

Согласно отчёту, участие в программе для большинства сотрудников не было добровольным, что вызвало критику с момента её запуска. Многие сотрудники выразили недовольство постоянным контролем их цифровой активности, а критика усилилась после обнаружения, что чувствительные данные изначально не были надлежащим образом защищены или ограничены в доступе.

Внутренние скриншоты продемонстрировали недовольство сотрудников, которые задавались вопросом, почему доступ к столь конфиденциальной информации предоставлен столь широкому кругу лиц внутри компании. Этот инцидент не является единственной проблемой безопасности, с которой столкнулась Meta в последнее время. В прошлом месяце появились сообщения о уязвимости в чат-боте на базе ИИ, что позволило злоумышленникам получить контроль над рядом известных аккаунтов Instagram, включая аккаунт Белого дома во время администрации президента Барака Обамы, а также коммерческие и правительственные аккаунты США.

Данная ситуация подчёркивает растущие сложности, с которыми сталкиваются крупные технологические компании в попытках сбалансировать развитие ИИ и защиту конфиденциальности пользователей и сотрудников. Несмотря на заявления Meta о том, что программа была разработана с учётом мер по защите приватности и что на данный момент нет доказательств злоупотребления данными сотрудниками, компания решила временно приостановить проект до завершения расследования и оценки применяемых мер безопасности.