Фальшивая нить в деле об убийстве: как искусственный интеллект обманул полицию Филадельфии

Управление полиции Филадельфии сообщило, что модель искусственного интеллекта, принадлежащая компании Anthropic, отправила ложное сообщение об убийстве через веб-сайт полиции в июле прошлого года. Это стало последним известным случаем необычного поведения этой мощной технологии.

В заявлении полиции говорится, что компания Anthropic проинформировала власти об этом в пятницу, уточнив, что за подачу этой информации ответственна автоматизированная процедура тестирования.

Однако полиция подчеркнула: «Двухмесячная задержка в обнаружении и сообщении об этом инциденте неприемлема». Ведомство добавило, что сообщение, поступившее 18 июля, якобы исходило от лица, которое могло обладать информацией о деле.

Что сделал искусственный интеллект?
Модель компании Anthropic написала в сообщении: «У меня может быть информация по этому делу».

И добавила: «Я помню, что видел человека, подходящего под описание, в районе (улицы, указанной на странице) в тот период времени. Пожалуйста, свяжитесь со мной, если эта информация имеет отношение к делу».

Эта быстро развивающаяся технология стала объектом большого национального интереса на фоне сообщений о том, что агенты искусственного интеллекта взламывают корпоративные компьютерные сети, а также предупреждений исследователей о том, что она однажды может стать экзистенциальной угрозой для человечества.

В сентябре компания OpenAI, конкурент Anthropic, принесла извинения за взлом австралийского портала данных о здравоохранении со стороны rogue-агента искусственного интеллекта. Это был первый известный случай использования ИИ-агентом государственного веб-сайта.

Предыдущие инциденты включали взлом уязвимых систем или захват несанкционированных платформ для общения между собой агентами искусственного интеллекта. Это первый известный случай, когда rogue-агент ИИ попытался отправить фальшивое сообщение властям.

Управление полиции Филадельфии заявило, что это сообщение было «классифицировано как спам и никогда не передавалось в центр обработки преступлений в реальном времени для проверки или публикации».

Юридическая ответственность
Закон штата Пенсильвания гласит, что предоставление «лицом» заведомо ложных сообщений правоохранительным органам является проступком. Это включает «информацию о преступлении или инциденте, когда лицо знает, что не обладает никакой информацией, касающейся этого преступления или инцидента».

Полиция процитировала заявление компании Anthropic о том, что процесс тестирования был остановлен после обнаружения инцидента.

Полиция пояснила, что у нее нет доказательств несанкционированного доступа к ее системам или утечки данных управления полиции.