Пять сценариев развития искусственного интеллекта: от забастовок до систем, превосходящих человека

Мир переживает стремительную технологическую трансформацию, которая радикально меняет глобальные расстановки сил. Системы искусственного интеллекта становятся всё более автономными и оказывают значительное влияние на рынки труда, национальную безопасность и экономику в целом. В ответ на эти изменения правительства и международные организации проводят глубокий пересмотр своих технологических стратегий с целью минимизации рисков и максимизации выгод от данной цифровой революции.

Согласно отчету, опубликованному на сайте правительства Великобритании, к 2030 году интеллектуальные системы достигнут беспрецедентного уровня автономии и превзойдут человеческих экспертов в ряде когнитивных и аналитических задач. Это может привести к масштабному вытеснению работников в административной и технической сферах, если не будут введены строгие законодательные меры для защиты рынка труда. В отчете также содержится серьезное предупреждение о существовании экзистенциальных и безопасности угроз, включая сложные кибератаки и потерю контроля человека над продвинутыми системами, способными принимать критически важные решения без вмешательства человека.

Основные сценарии развития искусственного интеллекта

В документе представлены пять возможных сценариев развития технологий в ближайшие годы. Они варьируются от замедления технологического прогресса и ограниченного применения ИИ до появления систем, превосходящих экспертов-человеков в большинстве интеллектуальных задач, что вызывает новые вызовы в области безопасности, экономики и контроля.

Сценарии базируются на шести ключевых аспектах: технических возможностях, доступности моделей, безопасности, уровне внедрения, влиянии ИИ на занятость и международном сотрудничестве. Их цель — помочь государствам и организациям подготовиться к потенциальным возможностям и угрозам в течение следующего десятилетия.

Сценарий 1: «Медленное возгорание» — постепенный, но менее впечатляющий прогресс

Этот сценарий предполагает, что искусственный интеллект будет развиваться до 2030 года, но без резких прорывов, ожидаемых некоторыми энтузиастами. Системы смогут автоматизировать множество цифровых процессов, поддерживать научные исследования, открывать новые лекарства и материалы, однако останутся менее эффективными в выполнении сложных когнитивных задач, требующих креативности, стратегического планирования и принятия чувствительных решений.

ИИ превзойдет экспертов в узких и проверяемых областях, таких как программирование, кибербезопасность и математическая оптимизация, но при этом будет нуждаться в постоянном человеческом контроле. Роботы останутся ограничены промышленными задачами в контролируемых условиях.

Ожидается замедление технологического прогресса после 2028 года из-за ограничений вычислительных мощностей, нехватки качественных данных и трудностей в разработке более эффективных архитектур. Это приведет к коррекции рынка ИИ, закрытию ряда стартапов и временному снижению инвестиций.

С экономической точки зрения ИИ принесет ограниченный рост производительности и окажет влияние на занятость преимущественно в сферах программирования, обслуживания клиентов и бухгалтерии, выступая скорее дополнением к человеческому труду, чем его заменой. Китай усилит конкуренцию с США благодаря промышленному преимуществу и широкому распространению технологий.

Сценарий 2: «Открытые границы» — доступность ИИ и рост киберугроз

В этом сценарии разрыв между открытыми и закрытыми моделями ИИ значительно сокращается, что делает технологии широко доступными для компаний, государств и частных лиц, создавая высококонкурентный рынок.

Несмотря на более медленный прогресс по сравнению с амбициозными прогнозами, распространение открытых моделей позволяет интегрировать ИИ во многие экономические секторы и существенно снижает затраты на его использование.

Однако возрастает уровень угроз безопасности: кибератаки с использованием ИИ становятся более частыми и сложными, преступные и враждебные государства проводят масштабные электронные кампании, продолжающиеся неделями или месяцами.

Отмечается риск появления вредоносных систем вследствие плохой координации или потери контроля над некоторыми интеллектуальными агентами. Усиливаются геополитические напряженности между США и Китаем, мир разделяется на две конкурирующие технологические зоны влияния.

Рынок труда переживает массовые увольнения в технологическом, профессиональном и финансовом секторах, при этом большинство работников способны найти новую работу, но с пониженной оплатой.

Сценарий 3: «Усиленный рост» — экономический бум и международные стандарты безопасности

Этот сценарий является самым оптимистичным. К 2030 году ИИ сможет выполнять большинство задач, доступных человеку удаленно, с минимальным уровнем ошибок и ложных срабатываний.

Системы будут способны реализовывать проекты, которые у людей занимают недели или месяцы, и участвовать в значимых научных открытиях в области энергетики, материаловедения и биотехнологий.

Это приведет к значительному росту производительности и улучшению общественных услуг, здравоохранения и образования, а также предоставит всем доступ к продвинутым инструментам программирования, дизайна и юридического и финансового консультирования.

Хотя ИИ заменит часть рабочих мест, законодательные, социальные ограничения и требования к человеческому контролю предотвратят массовую безработицу. Появятся новые профессии, связанные с управлением, проверкой и интеграцией интеллектуальных систем в организации.

Отличительной чертой станет широкое международное сотрудничество, где союзные государства примут общие стандарты безопасности для продвинутых систем, что снизит злоупотребления и повысит общественное доверие к технологиям.

Сценарий 4: «Экономика трансформации» — социальные потрясения и неравенство

Предполагается сохранение быстрого технического прогресса с возможностью автоматизации большинства удаленных интеллектуальных задач и значительными прорывами в науке и производительности.

Главное отличие — неравномерное распределение экономических выгод: две крупные американские компании контролируют большую часть мирового рынка ИИ, а остальные государства и фирмы зависят от их услуг и технологий.

Быстрое внедрение приводит к массовым увольнениям, особенно в офисных, административных и профессиональных сферах, поскольку организации могут выполнять работу с меньшим числом сотрудников.

Расширяется разрыв в доходах между получающими выгоды от ИИ и пострадавшими от него, уровень безработицы достигает значений, сопоставимых с экономическими спадами, растут протесты и политическое давление против увеличения зависимости от интеллектуальных систем.

Отмечается риск формирования двухуровневой экономики, где узкая элита владельцев активов и технологий получает высокую производительность и прибыль, а большинство работает на менее оплачиваемых и нестабильных должностях.

Сценарий 5: «Взлет» — превосходство ИИ и утрата контроля

Самый радикальный и спорный сценарий предполагает, что с 2029 года системы ИИ превзойдут человеческих экспертов почти во всех когнитивных задачах.

Такие системы смогут значительно ускорить научные открытия, сокращая десятилетия исследований и разработок до нескольких лет, добиваясь прорывов в медицине, энергетике и технологиях.

Отчет предупреждает, что гонка вооружений в области технологий между США и Китаем может привести к пренебрежению мерами безопасности в пользу скорости и стратегического превосходства, что позволит появиться системам с целями, не полностью совпадающими с интересами человечества.

В этом сценарии ИИ берет на себя управление крупными проектами и принятие ключевых решений в критической инфраструктуре, экономике и национальной безопасности, в то время как людям становится всё труднее понимать и контролировать их работу.

Рынки труда испытывают беспрецедентные потрясения: массовое замещение работников в интеллектуальных профессиях, рост безработицы выше уровней крупнейших экономических кризисов, при этом экономический рост продолжается за счет значительного прироста производительности.

Перспективы и риски развития искусственного интеллекта

Отчет подчеркивает, что представленные сценарии не являются точными прогнозами, а описывают возможные пути развития, зависящие от скорости технического прогресса, уровня общественного принятия, эффективности регулирования и успеха международных усилий по управлению рисками.

Некоторые сценарии предполагают беспрецедентный экономический и научный бум, тогда как другие предупреждают о росте безработицы, усилении неравенства, усилении геополитической напряженности и проблемах с сохранением контроля человека над продвинутыми системами.