Белый дом призывает OpenAI замедлить выпуск новой модели из-за опасений по безопасности

Выпуск новой модели GPT 5.6 компанией OpenAI будет отличаться от предыдущих релизов: вместо широкого распространения она будет доступна лишь ограниченному кругу партнёров. Как сообщает The Information, такое решение связано с требованиями администрации Трампа.

Генеральный директор OpenAI Сэм Альтман на недавней встрече сообщил сотрудникам, что в период предварительного доступа правительство будет одобрять доступ «клиент за клиентом». При успешном ограниченном запуске компания рассчитывает через несколько недель перейти к более широкому релизу.

Таким образом, администрация Трампа оказывает давление на OpenAI, чтобы та последовала примеру Anthropic, которая уже добровольно ограничивает доступ к своим наиболее мощным ИИ-моделям.

По информации The Information, новая модель OpenAI не только проходит проверку в администрации, но и разрабатывается в тесном сотрудничестве с правительством. Ограничение доступа было инициировано Управлением национального кибердиректора и Управлением науки и технологий.

Администрация Трампа, изначально заявлявшая о «невмешательстве» в развитие ИИ, в последние месяцы выступает за федеральный контроль новых моделей. В начале июня Трамп подписал указ, который обязывает определённые ИИ-компании добровольно предоставлять новые модели на тестирование и оценку перед их публичным выпуском.

Ранее в этом году компания Anthropic вызвала споры, объявив, что её новая модель Claude Mythos будет доступна лишь ограниченному числу партнёров в рамках программы Project Glasswing. Anthropic аргументировала это тем, что модель слишком мощная и в неправильных руках может нанести вред. Эксперты обсуждают, является ли такая позиция маркетинговым ходом или реальной попыткой предотвратить злоупотребления мощными технологиями. Вероятно, истина лежит где-то посередине.

Киберпреступники давно используют автоматизированные инструменты, однако в эпоху генеративного ИИ у них появилось гораздо больше цифрового оружия. Большие языковые модели (LLM) доказали свою эффективность в написании вредоносного ПО, а некоторые способны самостоятельно выполнять атаки с использованием программ-вымогателей.

Особую обеспокоенность вызывают передовые кибертехнологии, подобные Mythos, которые могут быстро выявлять и эксплуатировать уязвимости в программном обеспечении с недостижимой для человека скоростью. Поскольку многие системы содержат скрытые баги, открывающие доступ к корпоративным сетям, это представляет серьёзную угрозу для организаций с комплексной инфраструктурой. Тем не менее, так как эти модели остаются закрытыми для широкой публики, оценить реальный масштаб угрозы сложно.