Сан-Франциско требует от Apple и Google убрать ИИ-«раздевалки»: поворот в регулировании ИИ-сервисов

Сан-Франциско обязал Apple и Google удалить приложения-«раздевалки» на базе ИИ, и это заметный поворот в регулировании ИИ-сервисов. Генеральный прокурор города Дэвид Чиу в июле 2026 года направил обеим компаниям официальные требования (cease-and-desist) убрать из магазинов 13 ИИ-приложений, которые «раздевают» людей на обычных фотографиях. Google просят удалить пять таких приложений, Apple восемь. Претензия опирается на законы Калифорнии, запрещающие поддержку сервисов, создающих дипфейк-порнографию.

Речь про nudify-приложения. Вы загружаете снимок реального человека и за пару кликов превращаете его в откровенное изображение: «раздеваете», подставляете лицо жертвы на чужое обнажённое тело или помещаете в сексуализированную позу. Одно из отмеченных приложений набрало более миллиона загрузок и открыто рекламировало создание «бесплатных и нецензурированных» видео с сексуализацией женских изображений.

Что именно потребовал Сан-Франциско от Apple и Google

Названия приложений прокуратура не публиковала, чтобы не гнать к ним новых пользователей. Требования жёсткие: офис Чиу считает, что Apple и Google годами зарабатывали миллионы долларов на комиссиях с таких приложений, вместо того чтобы усилить модерацию и детекцию.

Сам Чиу заявил, что его офис «абсолютно потрясён» тем, насколько широко разошлась эта технология. По его словам, жертвы преимущественно женщины и дети, а сгенерированные изображения используют, чтобы «травить, унижать и угрожать». Последствия он описывает конкретно: удар по репутации и психике, потеря автономии, случаи суицидальных наклонностей у пострадавших.

Как отреагировали компании

Google отреагировала сразу. Пресс-секретарь Дэн Джексон сообщил, что все пять отмеченных приложений приостановлены за нарушение политики. Компания напомнила, что запрещает приложения с таким сексуальным контентом, уже приостановила сотни нарушающих приложений и ограничила в магазине поисковые запросы вроде «nudify». Apple на запрос Ars Technica не ответила, хотя часть приложений, отмеченных исследователями, ранее удаляла.

Почему претензии к магазинам, а не к разработчикам

Это главное в кейсе. Раньше регуляторы давили на разработчиков и хостинг-провайдеров. Теперь мишенью стали дистрибьюторы, то есть App Store и Google Play. Магазин трактуется как соучастник публичного вреда, который получает свою комиссию с каждой покупки внутри вредоносного приложения.

Логика простая: приложение без витрины почти не имеет охвата. Именно магазины дают ему миллион загрузок, платёжную инфраструктуру и знак доверия в виде модерации. Если площадка пропускает такой софт и берёт с него деньги, она перестаёт быть нейтральным посредником, по крайней мере в глазах прокуратуры.

И это та часть истории, которая аукнется дальше всего. Если подход приживётся, спрос с Apple и Google за содержимое их каталогов вырастет по всему спектру ИИ-сервисов, а не только по nudify-приложениям.

70% «безобидных» face-swap оказались раздевалками

Почему модерация не ловит такие ИИ-приложения? Ответ дал препринт исследования, опубликованный в мае 2026 года. Учёные обнаружили 420 приложений, которые позиционируются как обычная «замена лица» (face-swap). Из них протестировали 155, и в 70% случаев внутри работала «раздевающая» функция.

Вредоносные возможности маскируют под безобидный face-swap. На витрине магазина приложение выглядит как развлечение для замены лиц в видео, а платную или скрытую функцию сексуализации раскрывают уже внутри программы или на внешнем сайте. Автоматическая модерация магазина такой фасад проходит насквозь. Виден предел нынешних систем проверки: они смотрят на заявленное описание, а не на реальное поведение.

Grok в той же комнате: где граница ответственности ИИ

На той же неделе всплыл более неудобный сюжет. Компания xAI подала иск, в котором подтвердила, что обнаружила случаи генерации Grok-ом материалов с сексуальным насилием над детьми (CSAM) и несогласованных интимных изображений взрослых (NCII).

xAI подала в суд на пользователя, который якобы спровоцировал такую генерацию. Но здесь открывается принципиальный вопрос: несёт ли ответственность сама xAI за то, что её модель это выдала? Ещё в апреле Apple заявляла сенаторам, что приватно грозила удалить Grok из магазина, однако приложение xAI там осталось.

Чиу удаления Grok не требовал. Но он рассчитывает, что его требования по nudify-приложениям подтолкнут обе платформы ужесточить модерацию в целом. Вопрос встаёт шире: где граница ответственности универсального ИИ-ассистента за вредный результат, если его к этому подтолкнул пользователь? Для тех, кто пользуется ChatGPT, Grok и другими нейросетями, это вопрос о том, что вообще будет позволено генерировать завтра.

Правовая рамка регулирования ИИ, в которую всё встраивается

Ход Чиу опирается не только на калифорнийские законы. В 2025 году в США приняли федеральный TAKE IT DOWN Act, закон о несогласованных интимных изображениях, включая дипфейки. Он обязывает платформы удалять такой контент по запросу пострадавших. У Калифорнии при этом один из самых жёстких режимов против дипфейк-порнографии.

Вместе эти нормы дают прокурорам инструмент давить не на анонимного разработчика где-нибудь за рубежом, а на понятного и платёжеспособного адресата, владельца магазина. Отсюда и уверенность требований.

Что это значит для пользователей

Любое ваше фото в открытом доступе это потенциальный материал для генерации через ИИ-«раздевалки». Полной защиты нет, но риск снижают базовые вещи.

• Закройте профили в соцсетях и ограничьте, кто видит ваши фотографии.
• Не выкладывайте в публичный доступ снимки в высоком разрешении, где хорошо видно лицо.
• Если вы стали жертвой NCII, у вас есть право требовать удаления контента: по законам вроде TAKE IT DOWN Act платформы обязаны реагировать.
• Фиксируйте доказательства (ссылки, скриншоты) до подачи жалобы, чтобы было на что опереться.

Приватность фото это часть общей цифровой гигиены. Если вы уже думаете о том, чтобы контролировать свой цифровой след и защищённо выходить в сеть, безопасный доступ можно оформить через Sigma.

Открытыми остаются два пункта: удалит ли Apple все восемь отмеченных приложений и чем закончится иск xAI. Google свои пять уже приостановила, следующий ход за Купертино.

Источники

Ars Technica, о требованиях прокуратуры Сан-Франциско к Apple и Google удалить ИИ-«раздевалки»