xAI судится с пользователями Grok из-за CSAM: скандал вокруг безопасности ИИ

Компания xAI Илона Маска судится с пользователями Grok из-за CSAM-контента: она подала первый в своей истории иск против пользователя нейросети, обвинив его в создании незаконного контента с сексуализированными изображениями. Иск подан во вторник против Терри Уэйна Харвуда, арестованного ранее в этом году в Южной Каролине за хранение и распространение CSAM (материалов сексуального насилия над детьми). Значим тут не сам иск, а его подтекст. Компания месяцами отрицала саму возможность генерации такого контента через Grok, а теперь фактически её признала.

Вину xAI решила возложить на человека, который отправлял запросы, а не на свой ИИ.

От отрицания к иску: как изменилась позиция Маска по CSAM в Grok

Ещё в начале января Маск утверждал, что «не видел ни одного примера» CSAM, сгенерированного Grok. 3 января он написал в X, что «любой, кто использует Grok для создания незаконного контента, понесёт те же последствия, как если бы он загрузил незаконный контент». Ограничивать выводы самого Grok компания при этом так и не стала, техническую генерацию подобных изображений заблокировать не попыталась.

Спустя полгода риторика поменялась. В иске против Харвуда xAI сама рассказывает, как обнаружила, что он месяцами использовал два аккаунта сервиса, чтобы «раздевать» несексуальные изображения нескольких жертв, включая девочку, выглядевшую примерно на 10 лет. Аккаунты скрывались за длинными техническими идентификаторами вроде «ceae2cb4-a9f6-4885-8ae9-6e2096d084f4», а период генерации контента компания датирует промежутком с 8 декабря по 18 февраля. И xAI прямо заявляет, что помогала правоохранителям с его арестом.

Аргумент «Grok такого не делает» больше не работает, и компания это знает.

Стратегия «виноват пользователь»: зачем xAI показательный процесс

Формально xAI судит Харвуда за нарушение пользовательского соглашения. Но мотивация в иске сформулирована откровенно: компания хочет избежать «существенных судебных издержек» и «риска значительной ответственности за ущерб», если предполагаемые жертвы подадут в суд.

Здесь и кроется суть конфликта. Вместо того чтобы технически ограничить Grok и сделать генерацию CSAM невозможной, xAI выбрала юридический путь. Иск против конкретного человека нужен как прецедент, инструмент, который можно доставать всякий раз, когда появляется новый пострадавший, и которым удобно прикрываться в надвигающемся групповом иске от тысяч потенциальных жертв.

На наш взгляд, это принципиальный сдвиг: платформа перекладывает ответственность за то, что производит её собственная технология, на людей, отправляющих запросы.

7000 изображений и один отчёт в NCMEC

Параллельно развивается коллективный иск, и он выглядит куда страшнее. Чуть более чем за неделю до иска против Харвуда к делу присоединилась ещё одна девочка. По её словам, отчим покончил с собой после того, как был раскрыт: он использовал Grok, возможно вместе с другими ИИ-инструментами, чтобы создать 7000 сексуализированных изображений её и распространить их в даркнете.

Из этих 7000 вредоносных выводов xAI сообщила в NCMEC (Национальный центр по делам пропавших и эксплуатируемых детей) лишь об одном промпте, с запросом на изображение «группового изнасилования». Жертва также утверждает, что xAI отказалась помочь полиции идентифицировать пользователя, который загрузил её изображение в Grok.

90% бесполезных сигналов: почему полиция не находит преступников

Дело не только в объёмах, но и в качестве передаваемых данных. Согласно отчёту NCMEC за 2026 год, 90% отчётов xAI в CyberTipline правоохранители не смогли использовать, потому что компания отказалась включать информацию о пользователях, позволяющую отследить и найти преступников.

Это ломает всю цепочку борьбы с CSAM. CyberTipline работает как хаб: платформа сообщает о нарушении, NCMEC передаёт сигнал полиции, полиция выходит на конкретного человека. Если в отчёте нет данных для идентификации, сигнал превращается в статистику, а не в дело. Тысячи отправленных отчётов при таком подходе почти не помогают поймать тех, кто стоит за генерацией.

Гардрейлы Grok, которые обходятся с N-й попытки

Защитные механизмы Grok срабатывали, но частично. Иногда бот отказывался выполнять запрос, ссылаясь на нарушение правил модерации. В деле фигурируют примеры отклонённых промптов: в одном использовалась маскировка намерения через странные формулировки вроде «white slime», в другом напрямую содержалась просьба «снять всю одежду», что нарушает пользовательские условия.

Так работают почти все современные ИИ-генераторы изображений: фильтр ловит прямые формулировки, но злоумышленники обходят его переформулировкой запроса, это и называется jailbreak. Пока модель не ограничена на уровне того, что она в принципе способна сгенерировать, а полагается лишь на фильтр входящих промптов, обход остаётся вопросом настойчивости.

Раздел 230 и главный спор об ответственности ИИ-платформ

За всей историей стоит вопрос, который в 2026 году определяет судьбу индустрии ИИ: где заканчивается ответственность пользователя и начинается ответственность платформы. Классическая защита американских интернет-компаний, раздел 230 закона о приличиях в коммуникациях, освобождает площадки от ответственности за контент, который размещают пользователи. А применим ли он к контенту, который ИИ генерирует сам по запросу, юридически никто ещё не проверял.

Поэтому иск xAI против Харвуда стоит особняком. Компания тестирует границу: можно ли назвать сгенерированное машиной изображение «контентом пользователя» и снять с себя ответственность.

Что скандал с безопасностью ИИ значит для обычных пользователей

Для рядового человека тут два практических вывода. Первый: то, что вы вводите в чат-бот, хранится, анализируется и при необходимости может быть передано третьим сторонам. В случае с преступлениями это правильно, но полную прослеживаемость запросов стоит держать в голове. Второй: политика компании в отношении данных, что она собирает, что передаёт и кому, важна не меньше, чем возможности самой модели.

Если вам важно, чтобы ваш трафик и доступ к сервисам оставались приватными, а подключение стабильным, Sigma помогает с безопасным доступом. Но приватность на стороне ИИ-платформы, это отдельная зона ответственности самих платформ, и история с Grok показывает, насколько по-разному они её понимают.

Дело Харвуда всё ещё в производстве, прокуратура Южной Каролины пока не подтвердила, что использованной платформой был именно Grok, хотя иск xAI утверждает, что «как минимум часть» изображений создали или изменили через сервис. Главное здесь одно: заставит ли давление судов xAI ограничить сам Grok вместо поиска крайних среди пользователей.

Источники

Ars Technica как xAI перешла от отрицания к иску против пользователей Grok