WhatsApp тестирует ИИ-систему обнаружения мошеннических сообщений

WhatsApp вводит новую экспериментальную функцию обнаружения мошеннических сообщений, основанную на искусственном интеллекте. Система предназначена для выявления подозрительных паттернов в переписке и информирования пользователя о потенциальных рисках, сохраняя при этом конфиденциальность диалогов и сквозное шифрование между участниками.

Локальная обработка на мобильном устройстве

Функция «предупреждение о мошенничестве» активируется опционально. Модель искусственного интеллекта работает непосредственно на смартфоне пользователя — содержимое сообщений не отправляется на серверы Meta. Анализируются входящие сообщения от номеров или лиц, отсутствующих в списке контактов, с целью выявления индикаторов мошенничества: особенностей стиля общения и характерных языковых шаблонов, присущих подозрительным сообщениям.

Конфиденциальность как принцип работы

Meta подчёркивает, что текст сообщений не покидает устройство пользователя в процессе классификации. Автоматическая жалоба в WhatsApp или Meta при обнаружении подозрительного сообщения не формируется — её отправка возможна исключительно по инициативе самого пользователя.

Персональное предупреждение внутри чата

При выявлении переписки, связанной с мошенничеством, пользователю отображается предупреждение непосредственно в интерфейсе чата. Второй участник диалога его не видит. После получения уведомления пользователь может заблокировать отправителя, сообщить о переписке или проигнорировать предупреждение и продолжить общение.

Обратная связь для повышения точности

Если предупреждение оказывается ложноположительным, пользователь может пометить чат как «доверенный». После этого система прекращает генерировать уведомления по данному диалогу. В этом случае также допускается добровольная отправка последних пяти сообщений в WhatsApp для улучшения точности алгоритма обнаружения.

Разработка функции вписывается в общие усилия Meta по расширению применения искусственного интеллекта в борьбе с мошенничеством в WhatsApp, при этом сохраняется баланс между усилением защиты пользователей и соблюдением требований к конфиденциальности зашифрованных сообщений.