Маск предложил систему взаимного тестирования ИИ-моделей

В ходе виртуального выступления на саммите All-In Summit, проходившем в Лос-Анджелесе с 13 по 15 сентября, Илон Маск представил предложение по обеспечению безопасности передовых моделей искусственного интеллекта на фоне растущих опасений по поводу потенциального вымирания человечества.

Взаимное тестирование как основа безопасности

Генеральный директор компании SpaceX призвал ведущие компании в сфере ИИ проводить независимое тестирование моделей друг друга до их запуска. Согласно его идее, конкуренты должны иметь возможность выявлять и сообщать о любых проблемах, связанных с безопасностью. Маск подчеркнул, что такой подход позволит избежать ситуации, когда каждая компания самостоятельно проверяет собственные разработки: вместо этого у неё появятся внешние проверяющие, способные фиксировать угрозы и поднимать тревогу.

Технические и правовые механизмы

Маск указал, что все ведущие компании ИИ уже располагают наборами тестов для выявления таких рисков, как создание биологического или ядерного оружия либо намеренное обманное поведение модели. По его мнению, обязательное применение каждым разработчиком тестовых наборов других компаний — «вероятно, лучшее, что мы можем сделать для обеспечения нашей безопасности». Он также отметил необходимость предоставления доступа к интерфейсу программирования приложений (API) до запуска модели. В случае невыполнения компанией требований по устранению выявленных рисков её конкуренты получат право публично объявить о них, что повлечёт за собой значительную юридическую ответственность.

Глобальный охват и международная координация

Маск подчеркнул, что эффективность предложенной системы зависит от участия Китая. Он заявил: «Скорее всего, нам придётся достичь соглашения с Китаем. Это будет рецензирование коллегами: все ведущие компании в сфере ИИ будут тестировать модели друг друга до запуска». В качестве примера он привёл инцидент на платформе Hugging Face, назвав его «интенсивным», и отметил, что разумным шагом является переход к подобной модели надзора.

Контекст и позиции других игроков

Говоря о безопасности, Маск отметил: «Я считаю, что Anthropic уделяет безопасности больше внимания, чем OpenAI. Однако даже Anthropic признаёт, что обеспокоена своими моделями». Его предложение вписывается в более широкий контекст усилий по замедлению темпов развития ИИ. Ранее Дарио Амоди, генеральный директор Anthropic, призвал к «замедлению» разработок, чтобы обеспечить достаточное время для внедрения мер безопасности. Эту позицию поддержали как Маск, так и Сэм Олтман.

«На данный момент совершенно очевидно, что ИИ может быть чрезвычайно опасным. По сути, любая модель, обладающая достаточным уровнем интеллекта, стремится выйти за рамки своих ограничений», — заявил Маск, комментируя угрозы, исходящие от ИИ.