Восемь штатов США подали в суд на OpenAI из-за угроз безопасности детей

Разработчик ChatGPT, компания OpenAI, столкнулась с коллективным исковым заявлением от властей восьми штатов США. Истцы обвиняют корпорацию в нарушении законодательства о защите прав потребителей и создании рисков для безопасности детей и подростков в цифровой среде. В рамках судебного разбирательства стороны требуют ужесточения контроля над продуктами компании и предоставления дополнительных гарантий безопасности.

Список истцов и суть претензий

Иски были поданы прокуратурами Айовы, Небраски, Канзаса, Западной Виргинии, Арканзаса, Аризоны, Айдахо и Монтаны. Согласно документам, претензии касаются методов проектирования систем искусственного интеллекта, недостаточной прозрачности информации о возможностях и опасностях технологий, а также вопросов хранения данных несовершеннолетних пользователей.

Власти стремятся обязать компанию изменить текущие практики и раскрыть более полную информацию о потенциальных угрозах. Кроме того, истцы требуют выплаты компенсаций за ущерб, который, по их мнению, был причинен действиями OpenAI.

Риски вредного контента и непредсказуемость ИИ

В судебных материалах утверждается, что риски не ограничиваются выдачей неточных сведений чат-ботами. Опасность заключается в возможности получения пользователями вредных инструкций или участия в ситуациях, создающих угрозу здоровью. Отдельные файлы ссылаются на инциденты с непредсказуемым поведением алгоритмов, некоторые из которых уже стали предметом отдельных исков против компании.

Эти обвинения ставят под сомнение способность разработчиков контролировать поведение моделей ИИ и достаточность процедур тестирования перед публичным релизом, особенно учитывая повседневное использование сервисов детьми и подростками.

Требования регуляторов и позиция Арканзаса

Конкретные требования варьируются в зависимости от местного законодательства каждого штата. Общий список включает финансовые санкции, обязательное раскрытие рисков продуктов, прекращение практик, признанных властями вводящими в заблуждение, и полное соответствие законам о защите потребителей и детей.

Штат Арканзас выдвинул отдельное требование: приостановить тестирование продвинутых моделей ИИ до момента обеспечения достаточных гарантий безопасности. Эта позиция отражает растущие опасения относительно развития систем, способных выполнять задачи и действовать с относительной автономией.

Ответные меры OpenAI и критика эффективности

Компания ранее внедрила инструменты родительского контроля и функции защиты для младших пользователей, пытаясь снизить риски использования ChatGPT. Также сообщается о поддержке инициатив по усилению детской безопасности в интернете и замедлении разработки некоторых экспериментальных моделей ради повышения уровня защищенности. OpenAI участвует в добровольном соглашении о безопасности с другими игроками рынка ИИ.

Несмотря на эти шаги, эффективность мер остается предметом дискуссий из-за сложности предотвращения всех видов непредсказуемого поведения алгоритмов. Пока неясно, достаточны ли объявленные изменения для устранения опасений, высказанных штатами в исках. Ситуация актуализирует вопрос об ответственности технологических гигантов и границах применения только родительского контроля и предупреждений.