2026-07-29 11:45:14 +0200
Исследователи разработали новый инструмент, который может отслеживать поддельные видео и определять, какая система искусственного интеллекта их создала. Это открытие способно оказать значительное влияние на фотосообщество и защиту от возможных манипуляций.
Технологии искусственного интеллекта могут генерировать видео с такой реалистичностью, что отличить их от настоящих становится всё сложнее. Однако команда ученых из Калифорнийского университета в Риверсайд создала инструмент, который не только определяет, является ли видео поддельным, но и выясняет, какая именно система ИИ его создала.
Новый инструмент, названный SAGA (Source Attribution of Generative AI Videos), выявляет визуальные паттерны в поддельных видео, которые были случайно оставлены генераторами видео на основе ИИ. Эти паттерны действуют как «отпечатки пальцев», позволяя проводить судебно-экспертный анализ и идентифицировать источники создания таких видео.
Система анализирует, как визуальная информация меняется с каждым кадром, а также исследует пространственные детали внутри отдельных кадров. Это позволяет установить уникальные артефакты, связанные с разными генераторами видео. Ключевым новшеством является метод, известный как временные салфетки внимания (Temporal Attention Signatures, T-Sigs), который визуализирует уникальные паттерны, связанные с различными видео-генераторами.
В недавнем исследовании команда протестировала SAGA на общедоступных наборах данных, содержащих видео, созданные 19 различными генераторами. Результаты показали, что SAGA может не только идентифицировать поддельные видео, но и определить, откуда они произошли, а также различать версии моделей ИИ.
