2026-03-17 17:15:21 +0100
Три подростка подали коллективный иск против AI-чатбота Грок, принадлежащего Илону Маску, утверждая, что их фотографии были использованы для создания непристойных изображений без их согласия. Это дело вызывает серьезные вопросы о безопасности использования AI в отношении личных изображений.
Иск был подан в понедельник в федеральный суд Калифорнии и утверждает, что инструменты xAI были использованы для изменения фотографий трех подростков из Теннесси, на которых они были одеты, превращая их в обнаженные и сексуализированные изображения. По информации, опубликованной в СМИ, редактированные изображения распространились на таких платформах, как Discord и Telegram, и некоторые из них были обменены на другой материал сексуального характера с участием детей (CSAM).
Юридическое действие сосредоточено на "специальном режиме" Грок, который был выпущен в прошлом году и позволил пользователям удалять одежду с фотографий без запроса разрешения. Адвокаты истцов утверждают, что эти функции были созданы с целью увеличить использование Грок и платформы социальных сетей Илона Маска.
"Как тряпичная кукла, оживленная темными искусствами, это [сгенерированное AI] дитя может быть подвергнуто манипуляциям в любой позе, какой бы извращенной или незаконной она ни была. Для зрителя результирующее видео кажется совершенно реальным", - говорится в иске. "Для ребенка ее идентифицирующие черты теперь навсегда будут связаны с видео, изображающим ее собственное сексуальное насилие".
Иск также обвиняет xAI и Маска в том, что они знали о возможности создания таких результатов Гроком, включая использование изображений детей, и все равно выпустили его в публичный доступ. "xAI, как и его основатель Илон Маск, увидели бизнес-возможность", - утверждается в иске.
Истцы требуют неустановленные ущербы и немедленный судебный запрет на создание подобных изображений с помощью Грока, а также предотвращение генерации и распространения AI-сгенерированного CSAM.
"Их жизни были разрушены из-за опустошающей потери конфиденциальности, достоинства и личной безопасности", - пишут адвокаты.
Два из подростков еще не достигли 18 лет, и все трое скрывают свои имена для защиты своей приватности. Один из истцов сообщает, что она узнала об изображениях после получения анонимного сообщения в Instagram с ссылкой на измененные фотографии, включая ее фото из годового выпуска школы, на котором она изображена обнаженной и в непристойных действиях.
Грок, разработанный xAI и размещенный на платформе X Илона Маска, был запущен в 2023 году. В прошлом году xAI выпустил Grok Imagine, более известный как spicy mode, который позволял пользователям генерировать сексуализированные изображения.
