Иск xAI к пользователю Grok за создание CSAM: проблема безопасности ИИ-чатботов

Иск xAI к собственному пользователю Grok стал первым известным прецедентом такого рода и обострил спор о безопасности ИИ-чатботов. Компания Илона Маска 15 июля 2026 года подала в суд на жителя Южной Каролины Терри Уэйна Харвуда, обвинив его в использовании чатбота Grok для генерации и распространения материалов сексуального насилия над детьми (CSAM). Об этом сообщило издание The Verge со ссылкой на материалы дела, ранее описанные агентством Reuters. Прежде xAI не преследовала в суде собственных пользователей за созданные через Grok дипфейки.

По утверждению компании, Харвуд «сознательно и намеренно использовал Grok, чтобы обойти защитные механизмы, изменять изображения без согласия и генерировать и распространять CSAM». В феврале 2026 года его арестовали по обвинению в хранении и распространении такого контента, ему предъявлено восемь уголовных статей. xAI заявляет, что «по меньшей мере некоторые» изображения из уголовного дела «были сгенерированы или изменены» с помощью её чатбота: он якобы превращал несексуальные фотографии реальных людей в откровенно сексуальные без их согласия.

Что требует xAI в иске к пользователю Grok

Компания просит суд взыскать с Харвуда компенсацию ущерба, возместить «разумные расходы на защиту в любых исках, поданных жертвами его действий», а также навсегда запретить ему создавать аккаунт xAI и пользоваться Grok. Формулировка вреда прямая: действия ответчика подвергли компанию «значительному юридическому риску и репутационному ущербу».

Иск можно читать двояко. С одной стороны, это борьба с реальным злоупотреблением ИИ-чатботом. С другой, попытка юридически дистанцироваться от системной проблемы собственного продукта и снизить риски по будущим искам жертв. Фильтры Grok обходятся хитрыми формулировками промптов, и защита пока остаётся реактивной: она догоняет нарушителей, а не предотвращает их.

Откуда взялась волна дипфейков через Grok

Проблемы с безопасностью Grok начались не вчера. В 2025 году xAI запустила «пикантный» режим (spicy mode), а затем добавила редактирование изображений прямо в чатботе. Итог, поток сексуализированных ИИ-дипфейков, в том числе с несовершеннолетними.

Хронология скандалов

• Март 2026 года. Группа подростков подала иск против xAI, утверждая, что Grok генерировал их изображения как несовершеннолетних в сексуальном контексте.
• Апрель 2026 года. Сексуальные дипфейки чуть не привели к бану приложения в Apple App Store. Тогда же X разрешила пользователям запрещать Grok редактировать их фотографии.

Маск на волне скандалов заявлял: «Любой, кто использует Grok для создания незаконного контента, понесёт те же последствия, как если бы он загрузил незаконный контент».

Чем это опасно для обычных пользователей

Опасность касается каждого, чьи фото лежат в открытом доступе: обычный снимок из соцсети ИИ превращает в компромат за пару запросов. Чем меньше личных фотографий в публичном доступе и чем строже настройки приватности, тем ниже риск стать материалом для чужого дипфейка. Тот самый случай, когда осторожность важнее удобства.

Источники

The Verge, об иске xAI к пользователю Grok за создание CSAM