Совет Meta потребовал удалить дипфейки и ужесточить модерацию

Совет по надзору Meta обязал удалить два ИИ-дипфейка, включая ролик с фальшивой речью шотландского политика. Он предложил девять мер: маркировку, снижение охвата и санкции.

Совет по надзору Meta потребовал удалить два дипфейка и усилить модерацию ИИ-контента

Совет по надзору Meta распорядился удалить с Facebook два видео, созданных с помощью искусственного интеллекта. Одновременно он призвал компанию принять дополнительные меры против распространения дипфейков и пересмотреть действующие правила маркировки и ограничения такого контента.

Один из рассмотренных случаев связан с шотландским политиком — членом местного совета. В ролике его с помощью ИИ ложно представили автором провокационного высказывания о беженцах. На видео политик якобы говорил: «Беженцы здесь приветствуются, даже если они будут r*** наших женщин, потому что белые люди тоже так делают».

Совет по надзору пришёл к выводу, что ролик, по всей видимости, был синтетическим. На это указывала, в частности, рассинхронизация между звучавшей речью и движениями лица политика. Сам политик назвал использование скопированного голоса «довольно травмирующим» опытом.

Meta сначала решила не удалять публикацию после поступившей жалобы. Как сообщал The Guardian, компания объяснила это тем, что запись не была отмечена ни одной из организаций, входящих в число её «надёжных партнёров». Кроме того, Meta не обнаружила в ролике попытки повлиять на голосование или другие избирательные процессы. Маркировка о применении ИИ к видео также не была добавлена.

Почему Совет потребовал удалить ролик

По мнению Совета по надзору, Meta должна была убрать публикацию, поскольку она нарушала правила компании о разжигании ненависти. В видео беженцам как социальной группе приписывалось преступное и хищническое поведение.

Совет также указал, что запись следовало заметно обозначить как созданную искусственным интеллектом. Отсутствие такой маркировки, по его оценке, повышало риск того, что пользователи воспримут смонтированное высказывание как подлинное.

В решении говорится, что существующие меры защиты Meta являются «последовательно и принципиально недостаточными» для противодействия быстрому росту контента, созданного ИИ, на платформах компании.

Какие изменения предложены Meta

Совет сформулировал девять рекомендаций по обновлению политики Meta. Среди них:

• расширить перечень ситуаций, в которых публикации могут получать маркировку «высокий риск»;

• принять дополнительные меры для сокращения распространения вводящего в заблуждение контента, созданного ИИ;

• увеличить наказания для аккаунтов, которые неоднократно публикуют такой материал;

• повысить прозрачность данных о том, в каких случаях Meta применяет ИИ-маркировку;

• настроить алгоритмы так, чтобы они сокращали охват публикаций, признанных высокорисковыми;

• сделать подобные материалы менее заметными в пользовательских лентах;

• использовать предупреждающие экраны, через которые пользователю потребуется перейти перед просмотром отдельных ИИ-сгенерированных публикаций.

В заявлении Совета подчёркивается, что изменения должны касаться не только отдельных решений по уже опубликованным роликам, но и общей системы выявления, маркировки и распространения синтетического контента.

Риск для женщин, участвующих в публичной жизни

Сопредседатель Совета по надзору Памела Сан-Мартин заявила, что дипфейки всё чаще применяются против женщин — как политиков, так и частных лиц, — чтобы преследовать их и заставлять отказываться от участия в общественных дискуссиях.

«Эти дела демонстрируют более широкую и тревожную закономерность: женщины, которые публично высказываются по важным вопросам, непропорционально часто становятся объектами травли и дезинформации. Meta и другие социальные платформы нуждаются в более строгих правилах, чтобы противостоять распространению дипфейков», — сказала Сан-Мартин.

По оценке Совета, проблема выходит за рамки конкретного шотландского ролика. ИИ-сгенерированные видео и аудио могут использоваться для приписывания людям слов и действий, которых они не совершали, а также для давления на тех, кто участвует в политике и других публичных сферах.

Полномочия Совета по надзору

Meta создала Совет по надзору в 2020 году. Его задача — рассматривать сложные решения компании в области модерации контента и вырабатывать рекомендации по правилам платформ.

Индивидуальные решения Совета по конкретным публикациям обязательны для Meta. Более общие рекомендации по изменению политики обязательной силы не имеют. На ответ по последним предложениям у компании есть 60 дней.