Влияние сексуального контента на базе ИИ на подростков

Распространение технологий искусственного интеллекта привело к появлению сексуального контента, созданного с его помощью, который уже оказывает влияние на подростков. Согласно исследованию организации Common Sense Media, около 75% подростков сталкивались с порнографическими материалами в интернете, при этом более половины начали получать доступ к такому контенту в возрасте около 12 лет.

В исследовании приняли участие свыше 1300 подростков в возрасте от 13 до 17 лет. Около половины респондентов сообщили, что видели сексуальный контент, который, по их мнению, был создан с использованием искусственного интеллекта. Такой контент включает сгенерированные изображения и видео с обнажёнными персонажами, материалы с применением технологий дипфейка, а также цифровое удаление одежды, позволяющее создавать фальшивые изображения обнажённых людей.

Хотя показатели по просмотру сексуального контента среди подростков остались примерно на уровне отчёта Common Sense Media за 2023 год, способы доступа к таким материалам значительно изменились за последние три года. Главный автор исследования, директор по исследованиям Common Sense Media доктор Суприт Ман отметил, что речь идёт не о традиционной коммерческой порнографии, а о контенте, который лишает людей контроля над собственным изображением и возможностью решать, как оно используется.

Часто подростки сталкиваются с изображениями, сгенерированными ИИ, на которых изображены знаменитости, однако приложения для цифрового удаления одежды теперь также предлагают контент, связанный с их сверстниками. Исследователи отметили, что около 20% участников либо самостоятельно создавали сексуальный контент с помощью ИИ, либо знают кого-то, кто это делал; более половины таких случаев касались людей из их личного окружения.

Ман подчеркнул, что сформировалась новая, очень доступная и практически не регулируемая среда, позволяющая молодёжи получать и исследовать такой контент. Приложения для удаления одежды доступны с одного нажатия кнопки. Из тех подростков, кто видел сексуальный контент, созданный ИИ, 15% обнаружили его через приложения, предназначенные для создания или редактирования изображений и видео с помощью искусственного интеллекта.

Несмотря на существующие правила, регулирующие контент в магазинах приложений, некоторые программы обходят цензуру, поскольку не раскрывают полностью свои возможности, отметила исследователь политик института Стэнфорда по искусственному интеллекту, ориентированному на человека, Риана Бефиверкорн, которая не участвовала в исследовании. Она добавила, что усилия платформ и магазинов приложений не успевают за быстрыми изменениями в технологиях.

Ман выявил, что многие подростки стали переосмысливать собственное представление о себе в социальных сетях. Около 70% выразили опасения стать жертвами сексуального контента, созданного без их согласия, из-за чего они стали более осторожны в публикациях, закрывают аккаунты или удаляют их полностью.

Хотя осознание важности защиты цифрового присутствия является положительным, Ман предупреждает, что это может способствовать культуре обвинения жертвы. Распространение и лёгкий доступ к такому контенту влияют на восприятие подростками сексуальности, согласия и образа тела. Около 70% респондентов считают, что сексуальный контент, созданный ИИ, влияет на их представления о том, как должны выглядеть тела.

Особую тревогу вызывает тот факт, что подростки находятся в периоде быстрого и постоянного изменения тела. Ман отметил, что это влияет на восприятие ключевых аспектов подросткового опыта, включая понятия согласия и эмоциональных отношений.

Более трети подростков выразили желание обсудить с взрослыми вопросы сексуального контента, созданного с помощью ИИ, но не знают, как начать такой разговор. Для семей это может быть новой и сложной темой. Организация Common Sense Media рекомендует родителям и опекунам начинать поддерживающие беседы с обсуждения согласия, здоровья и сексуальной идентичности, что создаст основу для последующего разговора об особенностях искусственного интеллекта.

Исследование также показало, что младшие подростки чувствуют себя более комфортно, обсуждая эти темы с родителями, чем старшие, что указывает на важность раннего начала таких диалогов для повышения осведомлённости о сексуальном контенте, созданном ИИ.

Ман советует родителям и опекунам вести открытые и регулярные беседы с детьми, а не ограничиваться единственным разговором. Он рекомендует просить подростков объяснять, как работают используемые ими приложения с искусственным интеллектом, и отвечать на возникающие вопросы.

В школах подростки сталкиваются с негативными последствиями использования изображений, созданных с помощью ИИ, как своих, так и чужих. В нескольких учебных заведениях зафиксированы случаи, когда подростки понесли юридическую ответственность за создание фальшивых порнографических изображений одноклассников.

Это вызывает дополнительную тревогу, поскольку исследование показывает, что подростки чувствуют почти такой же уровень комфорта при общении с чат-ботами на базе ИИ, как и при разговоре с школьными консультантами или учителями. Руководители образовательных учреждений вынуждены реагировать на такие инциденты, даже если технически они происходят вне школьной территории. При участии в конфликте учеников одной школы, по мнению Бефиверкорн, возникает институциональная ответственность.

Она подчеркнула, что в решении этой проблемы должны участвовать школы, семьи, друзья, платформы и законодатели, поскольку это общественный вопрос, который нельзя оставлять на усмотрение только детей.