xAI судится с собственным пользователем Grok за дипфейки: редкий поворот в спорах об ответственности ИИ

Компания xAI подала в суд на пользователя Grok, 67-летнего Терри Уэйна Харвуда из Южной Каролины, обвинив его в создании сексуализированных дипфейков реальных людей, включая несовершеннолетних. Об этом 16 июля 2026 года сообщило издание Engadget со ссылкой на материалы дела и Reuters. Кейс разворачивает привычную схему: обычно ИИ-компании оказываются на скамье ответчиков, а здесь разработчик нейросети сам вышел в суд против того, кто злоупотребил его сервисом. Ответственность ИИ-компаний за вредный контент выходит на новый уровень.

Reuters называет иск одним из первых, поданных ИИ-компанией против собственного пользователя. Это сигнал всей отрасли о том, как разработчики намерены выстраивать защиту, когда их инструменты используют для генерации противоправного контента.

Что именно произошло с пользователем Grok

Согласно жалобе, поданной xAI в Техасе, Харвуд с 8 декабря 2025 года по 18 февраля 2026 года загружал несексуальные фотографии множества взрослых и детей на два своих аккаунта. Затем он просил Grok изменить эти снимки или создать новые изображения и видео, где люди изображены «в порнографической манере или иным образом сексуализированы».

В иске приводится конкретный эпизод: пользователь загрузил фотографию полностью одетой девочки примерно 10-11 лет и попросил Grok снять с неё одежду и заставить изобразить «модель Playboy», лёжа в кровати. Чат-бот отказался. Но Харвуд, по данным компании, раз за разом отправлял переформулированные промпты, чтобы обойти защиту нейросети.

Хронология скандала с Grok

История с дипфейками тянется с начала 2026 года.

• Начало января: появляются сообщения, что Grok позволяет превращать фотографии реальных женщин и детей в сексуализированные изображения.
• Середина января: власти Калифорнии и британский регулятор Ofcom запускают проверки. Отдельные расследования открывают Еврокомиссия и Комиссия по защите данных Ирландии.
• 18 февраля: заканчивается период, в течение которого, по версии иска, Харвуд загружал изображения.
• 9 марта: прокуратура Южной Каролины объявляет об аресте Харвуда в рамках работы Целевой группы по борьбе с интернет-преступлениями против детей.
• 16 июля: xAI подаёт гражданский иск против пользователя.

Харвуду предъявили три пункта обвинения в сексуальной эксплуатации несовершеннолетнего второй степени и пять пунктов третьей степени. По версии обвинения, он хранил материалы сексуального насилия над детьми и распространял их.

Защита Grok сработала, но не полностью

xAI внедрила меры против генерации дипфейков, как только начались проверки регуляторов. Технические барьеры оказались проницаемыми. Даже после доработок пользователи всё ещё могли «раздевать» мужчин с помощью Grok, а сам Харвуд, по данным иска, продолжал загружать снимки и создавать сексуализированные правки.

Проблема обхода фильтров ИИ

Классическая история с обходом защиты: модель обучена отказываться от прямых вредоносных запросов, но переформулировка промпта, разбивка задачи на шаги или косвенные инструкции нередко пробивают барьеры. Отказ Grok в конкретном эпизоде не остановил пользователя. Он продолжил перебирать варианты формулировок.

Что это значит для ответственности ИИ-компаний

Иск читается как продуманная юридическая стратегия. Подавая в суд на пользователя, обходившего защиту, xAI заявляет: вина лежит на человеке, а инструмент ни при чём. Для будущих споров об ответственности ИИ-компаний за сгенерированный контент это весомый аргумент. Разработчик показывает, что предпринимал усилия, а нарушитель сознательно их саботировал.

Показательно и требование иска. xAI просит суд взыскать денежное возмещение и обязать ответчика оплатить расходы, которые компания понесёт на защиту в любых исках его жертв. Это попытка заранее переложить финансовые риски на нарушителя.

Есть и очевидный контраст. Одновременно с ролью истца сама xAI остаётся объектом проверок Калифорнии, Ofcom, Еврокомиссии и ирландского регулятора. Компания выступает и обвинителем, и проверяемой стороной, и, на наш взгляд, иск против пользователя отчасти работает как публичный ответ регуляторам.

Почему это касается вас

История Grok, это повод пересмотреть отношение к тому, какие личные фотографии вы загружаете в ИИ-сервисы и выкладываете в открытый доступ. Любой снимок в высоком разрешении потенциально становится материалом для дипфейка. Базовая цифровая гигиена снижает риск:

• ограничивайте доступ к личным альбомам в соцсетях;
• не публикуйте фотографии детей в открытых профилях;
• следите за настройками приватности в приложениях.

Отдельный уровень защиты, это контроль над тем, через какие каналы уходит ваш трафик и данные. Если вам важна приватность при работе с зарубежными сервисами, безопасный доступ можно настроить через Sigma.

Источники

Engadget, xAI подала в суд на пользователя Grok за создание несогласованных сексуализированных дипфейков