2026-09-14 10:20:06 +0200
xAI обвинила фотографа в создании сексуализированных изображений несовершеннолетних через Grok и потребовала возместить расходы. Дело обострило спор об ответственности разработчиков ИИ.
xAI подала иск к фотографу из Арканзаса из-за материалов, созданных с помощью Grok
Компания Илона Маска xAI предъявила иск Расселлу Бладворту, известному фотографу из Бентонвилла, штат Арканзас. Его обвиняют в том, что он использовал Grok для превращения фотографий несовершеннолетних клиентов в изображения сексуального характера. xAI утверждает, что фотограф нарушил условия использования сервиса и должен компенсировать компании расходы, возникшие из-за его действий.
В июне Бладворта арестовали по подозрению в создании с помощью искусственного интеллекта тысяч изображений сексуального насилия над детьми. На момент ареста он около 15 лет владел фотобизнесом в Бентонвилле. Фотограф не признал вину по более чем 200 предъявленным обвинениям.
Как началось расследование
Согласно полицейскому аффидевиту, полиция Бентонвилла получила кибернетическое уведомление от X — платформы, ранее известной как Twitter. Именно оно привело следствие к Бладворту.
Детектив, занимавшийся проверкой сообщения, обнаружил портреты девочки, снятые в рамках профессиональной фотосессии. Изображения были изменены при помощи Grok: для обработки использовались запросы, направленные на удаление одежды с модели.
Проверка показала, что исходные фотографии были сделаны Бладвортом для одной из местных школ. После этого полиция получила ордер и провела обыск в его доме. Там обнаружили около 1700 изображений и видеозаписей, на которых несовершеннолетние девочки представлены в сексуализированных ситуациях и с разной степенью обнажения.
По данным полиции Бентонвилла, Бладворт применял Grok для генерации этих материалов, причём значительная их часть была создана на основе фотографий, снятых им во время работы с несовершеннолетними клиентами.
Иски со стороны семей
После раскрытия дела несколько семей из Арканзаса подали иски к xAI. Они утверждают, что Grok использовали для обработки законно сделанных фотографий несовершеннолетних клиентов Бладворта, в результате чего появились созданные искусственным интеллектом изображения и видео сексуального характера.
В частности, юридическая фирма Potts Law Firm представляет семью из Арканзаса, чья дочь, как утверждается, стала объектом использования её внешности при создании материалов сексуального насилия над детьми с помощью технологии xAI. Управляющий партнёр фирмы Дерек Поттс считает, что Grok был более склонен к генерации сексуальных изображений, чем другие ИИ-платформы. По его мнению, компания должна была установить более эффективные ограничения, чтобы препятствовать использованию технологии для тяжких преступлений.
После появления этих исков xAI сама обратилась в суд против Бладворта. Компания ссылается на условия обслуживания Grok, с которыми соглашаются пользователи, и требует взыскать с фотографа связанные с этим расходы.
Позиция xAI: результат зависит от запроса пользователя
В исковом заявлении xAI неоднократно называет Grok «мощным, нейтральным инструментом генеративного искусственного интеллекта». Компания также утверждает, что «каждый ответ, каждое изображение, каждая генерация являются результатом запросов и указаний пользователя».
Основой требований стала оговорка о возмещении убытков, включённая в пользовательские условия сервиса. Она обязывает пользователя покрывать расходы компании, если его поведение приводит к юридическим претензиям к xAI.
Компания просит суд обязать Бладворта оплатить судебные расходы, понесённые при защите по искам семей, а также возможные расходы по будущим делам, связанным с его предполагаемыми действиями. Кроме того, xAI добивается постоянного запрета на создание фотографом новой учётной записи Grok.
Четыре аккаунта и обход защитных фильтров
Согласно иску xAI, в марте Бладворт создал четыре аккаунта Grok. Компания утверждает, что в период с 30 марта по 30 апреля он загружал обычные фотографии реальных людей, в том числе несовершеннолетних, а затем применял «адверсариальные» запросы, чтобы обойти защитные фильтры сервиса.
По версии xAI, в результате таких последовательных запросов чат-бот начал создавать изображения сексуального характера. Компания заявляет, что выявила эту активность и 23 апреля направила сообщение в Национальный центр по делам пропавших и эксплуатируемых детей — National Center for Missing and Exploited Children.
Как утверждает компания Маска, именно это уведомление в дальнейшем помогло полиции Бентонвилла установить личность Бладворта и арестовать его.
Дерек Поттс, представляющий одну из семей, считает, что одной ссылки на действия пользователя недостаточно для оценки ответственности разработчика. По его словам, Grok отличался от других платформ большей готовностью создавать сексуальные изображения, а компания должна была предусмотреть более строгие механизмы защиты.
«Думаю, все согласны и знают, что эта платформа отличается от других. Её продвигали как, цитируя саму компанию, “бунтарскую”. Также рекламировались дополнительные режимы, в которых можно было создавать изображения; сама компания называла их “острыми изображениями”. Таким образом, xAI продвигала подобные возможности, в отличие от некоторых других платформ. Нужны какие-то ограничения, верно? Нельзя оставлять систему полностью открытой, чтобы с её помощью можно было совершать ужасные преступления», — сказал Поттс в интервью KATV.
Как развивались функции Grok
В августе 2025 года xAI добавила в Grok режим spicy mode. Он позволял создавать фотореалистичные изображения обнажённого тела.
Позже компания внедрила в Grok функцию редактирования изображений. После этого на платформе появилась волна порнографических дипфейков: в основном изображения касались женщин, однако среди них были и материалы с детьми.
Дело Бладворта стало частью более широкого спора о границах ответственности разработчиков генеративных систем. xAI утверждает, что незаконный результат был получен вследствие намеренных действий пользователя и обхода защитных механизмов. Представители семей, напротив, настаивают, что сама платформа предоставляла слишком свободные возможности для генерации сексуализированного контента и должна была лучше предотвращать злоупотребления.
