Революция в выявлении поддельных изображений: OpenAI и Google меняют правила игры ИИ

Компании OpenAI и Google объявили о запуске передовой системы, предназначенной для проверки происхождения изображений и различения реальных фотографий от созданных искусственным интеллектом. Эта инициатива направлена на борьбу с быстрым распространением ИИ-сгенерированных изображений и восстановление доверия к цифровому контенту в интернете.

Новая технология основана на одновременном использовании нескольких методов. С одной стороны, применяется стандарт C2PA, который внедряет метаданные в изображение, указывающие на источник и способ его создания. С другой стороны, Google использует технологию SynthID, которая внедряет невидимый водяной знак непосредственно в изображение, усложняя его удаление или подделку.

Комбинация метаданных и водяных знаков создаёт усиленный уровень защиты, направленный на предотвращение незамеченного распространения поддельных изображений.

В рамках обновления OpenAI разрабатывает инструмент, доступный пользователям, позволяющий загружать изображения для проверки наличия признаков их создания с помощью искусственного интеллекта. Однако компания подчёркивает, что данный инструмент не даёт 100% гарантии, поскольку некоторые изображения могут утратить метаданные или не поддерживаться всеми существующими системами ИИ.

Сотрудничество OpenAI и Google представляет собой значимый шаг к более прозрачному интернету, но не является окончательным решением. При дальнейшем развитии технологий генерации изображений основным вызовом остаётся создание единой глобальной системы, обеспечивающей доверие к цифровому визуальному контенту.