Google открыла всем доступ к детектору водяных знаков SynthID

Google открыла SynthID Detector для проверки изображений, видео и аудио на совместимые ИИ-водяные знаки. Детектор не распознаёт немаркированный контент; файлы удаляются после проверки.

Google открыла публичный доступ к проверке водяных знаков SynthID

Google сделала SynthID Detector доступным для широкой аудитории. Сервис позволяет загрузить изображение, видео или аудиозапись и проверить, присутствует ли в файле водяной знак, связанный с генеративным ИИ. Ранее инструмент тестировали только отдельные журналисты, представители медиасферы и исследователи; теперь он работает через специальный сайт synthid.com.

Как устроен SynthID

Технологию представили в 2023 году. Она добавляет к созданным ИИ материалам незаметные водяные знаки, которые можно обнаружить позднее. Google использует SynthID в своих моделях и продуктах, в том числе Nano Banana, Veo, Lyria и Gemini, а также Flow, ProducerAI и Vids. Детектор принимает распространённые форматы изображений, видео и аудио.

Поддержка не ограничивается сервисами Google: инструмент распознаёт контент, связанный также с OpenAI, Nvidia и Kakao. Apple сообщила о намерении внедрить SynthID, однако Google пока не назвала срок, когда поддержка появится в её продуктах.

Проверка уже доступна в приложении Gemini и браузере Google Chrome. По данным Google, система получает около миллиона запросов на проверку ежедневно. Публичный запуск состоялся на фоне роста реалистичности синтетических материалов, из-за чего всё труднее отличать подлинные фотографии и записи от созданных или изменённых с помощью ИИ.

Детектор может обнаруживать и отдельные изменения

Проверка способна находить не только полностью сгенерированные материалы, но и некоторые изображения, прошедшие обработку с применением ИИ. В тесте CNET фотография, снятая на iPhone и затем изменённая инструментом Reframe в приложении Apple Photos, получила отметку о наличии SynthID. Исходный снимок с iPhone, который не редактировали, детектор не пометил.

При этом результаты зависят от способа создания или обработки файла. Чтобы SynthID Detector обнаружил водяной знак, использованный инструмент должен добавлять совместимую с системой маркировку. Поэтому созданный ИИ контент без SynthID может остаться незамеченным.

Такие ограничения есть и у других сервисов проверки. Например, OpenAI предлагает собственный детектор, но он ищет водяные знаки OpenAI, а не выявляет все возможные виды ИИ-контента.

Что происходит с загруженными файлами

Согласно условиям сайта, Google обрабатывает файлы в реальном времени и удаляет их после показа результата. Цифровая подпись, связанная с загруженным материалом, сопоставляется с идентификатором пользователя и удаляется через 24 часа.