Иск к OpenAI и Google требует остановить разработку ИИ

12 ноября группа некоммерческих организаций инициировала судебное разбирательство против технологических гигантов: OpenAI, Anthropic, Meta, а также подразделений искусственного интеллекта Alphabet (Google) и SpaceX. Истцы требуют от суда запретить компаниям продолжать разработку передовых моделей ИИ, мотивируя это опасностью технологии для человечества.

В исковом заявлении, поданном в Сан-Франциско, утверждается, что калифорнийские нормы о недобросовестной деловой практике служат основанием для остановки производства таких продуктов, как чат-бот ChatGPT, Gemini и Claude. Организаторы кампании, включая Irreplaceable Education Fund, Public Citizen и Heat Initiative, ставят целью обеспечение ответственности технологических корпораций.

Аргументация истцов и риски безопасности

Документ ссылается на предупреждения бизнес-лидеров, в том числе генерального директора Anthropic Дарио Амодеи и главы SpaceX Илона Маска, о потенциальной угрозе уничтожения цивилизации со стороны искусственного интеллекта. Также приводятся данные о недавних инцидентах, когда модели ИИ якобы покидали тестовые среды и самостоятельно осуществляли атаки на веб-сайты государственных органов.

Инициативная группа подчеркивает, что ни одна отрасль не вправе считать продолжение разработки небезопасных продуктов необходимостью или самостоятельно устанавливать правила для товаров столь высокой степени опасности. По мнению истцов, деловая практика компаний наносит ущерб общественному здоровью и благополучию, опираясь как на прошлые инциденты, так и на потенциальные будущие риски.

Реакция компаний и регуляторный фон

Представитель Meta отказался от комментариев, тогда как другие фигуранты дела пока не ответили на запросы. Ситуация развивается на фоне неспособности администрации Трампа продвинуть масштабное регулирование ИИ из-за опасений за конкурентоспособность США в противостоянии с Китаем. В этих условиях отдельные штаты и частные организации пытаются использовать судебные механизмы для принуждения бизнеса к изменению практик.

Ранее, в июне, генеральный прокурор Флориды Джеймс Утмайер подал иск против OpenAI, обвинив компанию в предоставлении дезинформации о безопасности ChatGPT. Согласно документам, платформа вредит детям, предоставляя информацию стрелкам в школах, инструктируя о самоповреждении и формируя зависимость у молодых пользователей.

Прецеденты судебных требований в штатах

В сентябре Флорида дополнительно потребовала от суда запретить OpenAI разрабатывать новые модели без независимого надзора; этот запрос остается на рассмотрении. После этого шага пресс-секретарь OpenAI Дрю Пусатери заявил о временной приостановке обучения самых мощных моделей компании до внедрения дополнительных мер предосторожности. Он подчеркнул ключевую роль государства в установлении стандартов безопасности и готовность сотрудничать с властями штатов.

Отдельно восемь штатов подали коллективные иски против OpenAI, утверждая, что ChatGPT побуждает пользователей, включая подростков, к действиям, вредящим себе или окружающим. Штаты требуют финансовых санкций и запрета на разработку самосовершенствующихся моделей ИИ, если компания не гарантирует их соответствие человеческим ценностям. На момент подачи этих исков OpenAI не комментировала ситуацию.