xAI подает в суд на мужчину за использование Grok для создания глубоких подделок

Стартуп Элона Маска xAI подал в суд на мужчину, который, по их утверждениям, неправомерно использовал генератор изображений AI Grok для создания контента, связанного с сексуальным насилием над детьми. Это дело стало одним из первых примеров, когда компания по разработке AI подает в суд на своего пользователя за нецелевое использование технологий.

Мужчина по имени Терри Харвуд из Южной Каролины был арестован в начале этого года по обвинению в создании сексуально откровенных изображений несовершеннолетних. В минувший вторник xAI подал иск в Техасе, что является одним из первых случаев, когда компания AI предпринимает такие действия в отношении своего пользователя.

В августе 2025 года xAI представила режим "spicy" для Grok, который мог создавать фотореалистичные изображения наготы. Позже была добавлена возможность редактирования изображений, что привело к возникновению огромного количества глубоких подделок порнографического характера, в основном изображающих женщин, но также и детей. В ответ на эту взрывную ситуацию Grok ограничил свои инструменты редактирования изображений, но это не остановило расследования со стороны регулирующих органов и иск молодежи против xAI, утверждающих, что Grok создал изображения и видео без их согласия, когда они были несовершеннолетними.

В своем иске xAI утверждает, что действия Харвуда создали "значительный юридический риск и репутационный ущерб" для компании. Согласно сообщениям, xAI приостановил 52,222 аккаунта и направил 73,604 сообщения в Национальный центр пропавших и использованных детей (NCMEC) в 2026 году, что, по их данным, привело к как минимум 244 арестам.

Стартуп требует от суда обязать Харвуда выплатить компенсацию, а также возместить "разумные расходы, понесенные для защиты от любых юридических действий, поданных жертвами действий ответчика". xAI также хочет, чтобы суд запретил Харвуду создавать аккаунт в xAI или использовать Grok.