Папа Римский призвал ограничить влияние искусственного интеллекта на человечество

Папа Римский Лев XIV заявил о необходимости «разоружить» искусственный интеллект (ИИ) для защиты человечества от его потенциальных угроз. Его выступление добавляет вес к дискуссии о том, насколько правительствам следует регулировать технологии, которые трансформируют современный мир.

В обращении к католической церкви понтифик призвал сделать искусственный интеллект более ориентированным на человека, освободить его от монополистического контроля и исключить использование ИИ в целях геополитических или коммерческих выгод.

В понедельник в своей новой папской энциклике Лев XIV отметил: «Разоружение означает опровержение предположения, что техническая мощь автоматически даёт право на власть». Он уточнил, что «разоружение не подразумевает отказ от технологий, а предотвращение их господства над человечеством», — сообщает агентство Bloomberg, с которым ознакомился портал «Аль-Арабия Business».

Обращаясь к вопросу защиты людей в эпоху искусственного интеллекта, первый американский папа в истории вступил в потенциальное противостояние с президентом США Дональдом Трампом, который выступает за снятие ограничений с быстро развивающихся технологий для сохранения конкурентного преимущества над Китаем.

Понтифик, которому 70 лет, присоединился к активным дебатам о необходимости контроля над моделями искусственного интеллекта. Обсуждается опасность их воздействия на банковскую систему, возможность выбора целей для военных операций и замена человека в принятии решений в различных сферах.

Документ под названием «Magnifica humanitas» («Великая человечность» на латыни) стал важнейшим трудом Папы с момента его избрания главой 1,4 миллиарда католиков по всему миру год назад. Папские энциклики традиционно служат инструментом для выражения этических позиций по ключевым вызовам современности, включая вопросы изменения климата и миграции.

Как специалист в области математики, Лев XIV особо предостерёг от рисков применения вычислительных технологий в военных конфликтах и утраты этических норм, подчеркнув: «Ни один алгоритм не может сделать войну этически приемлемой».

Папа добавил: «Искусственный интеллект не устраняет присущую конфликтам бесчеловечность, а может ускорить их и сделать более абстрактными, лишёнными человеческого облика».

Его высказывания прозвучали на фоне международных опасений после появления модели ИИ «Mythos», разработанной компанией Anthropic. Эта система способна выявлять ранее неизвестные уязвимости в информационных технологиях, что вызвало тревогу в последние месяцы.

Важным фактом является то, что Ватикан пригласил Кристофера Олаха, сооснователя Anthropic и эксперта в области машинного обучения, что свидетельствует о внимании к вопросам контроля над ИИ.

Компания Anthropic, создатель чат-бота Claude, столкнулась с разногласиями с администрацией Трампа по поводу использования своих технологий в военных и надзорных целях.

Вице-президент США Дж. Д. Ванс, недавно принявший католичество и близкий к миллиардеру из Кремниевой долины Питеру Тилю, одному из первых инвесторов OpenAI, намекнул на рост напряжённости. В последнее время Лев XIV и Трамп обменивались обвинениями по поводу позиции Папы в отношении возможной войны с Ираном.

19 мая Ванс на пресс-конференции заявил: «Когда лидер крупнейшей христианской конфессии говорит о таком вопросе, это, безусловно, имеет влияние. Я уверен, что в этом есть много идей, с некоторыми из которых я согласен, а с другими — нет».