Meta будет уведомлять родителей, если подросток говорит с её ИИ о суициде

Meta 16 июля 2026 года запустила родительский контроль в ИИ-чате Meta AI: система уведомляет родителей, если их подросток обсуждает суицид или самоповреждение с чат-ботом. Компания также разрабатывает функцию автоматической связи с экстренными службами, когда разговор указывает на риск причинения себе вреда. Об этом сообщила Aisha Malik в TechCrunch.

Нововведение вышло на фоне давления регуляторов и родителей на техкомпании из-за того, как ИИ-боты реагируют на пользователей в кризисе, особенно на несовершеннолетних. Вопрос ответственности всё сильнее влияет на то, как ИИ-сервисы проектируют и продвигают свои продукты.

Как работает родительский контроль в ИИ-чате Meta AI

Meta построила отдельную ИИ-систему, которая выявляет разговоры, где подросток делает явную отсылку к причинению себе вреда. Все помеченные чаты проходят ручную проверку человеком перед тем, как родитель получит уведомление.

ИИ ловит сигнал, человек проверяет вручную

Если намерение двусмысленное, компания действует «на стороне осторожности» и всё равно уведомляет родителя. Meta прямо допускает ложные срабатывания и называет это «правильной отправной точкой»: лучше лишний раз предупредить, чем пропустить реальный кризис.

Где и когда заработали уведомления

Уведомления уже работают через Instagram Parental Supervision в США, Великобритании, Австралии и Канаде. Глобальный охват компания обещает развернуть до конца 2026 года. Это надстройка над существующими функциями: ранее Meta уже оповещала о повторяющемся поиске подростком терминов о суициде в Instagram и давала родителям возможность видеть темы, которые подросток обсуждал с Meta AI за последнюю неделю.

Режим Limited Content и связь с экстренными службами

Заодно на Meta AI распространили более строгий режим Instagram под названием «Limited Content»: теперь чат-бот отклоняет более широкий круг запросов. Бот и раньше был обучен избегать с подростками сексуальных и романтических тем, разговоров об алкоголе; расширенный список запросов Meta не раскрыла. Связаться с экстренными службами компания собирается при риске суицида в разговоре любого пользователя, а не только подростка, распространяя практику, которая уже применяется к тревожному контенту в Facebook и Instagram.

Обратная сторона: забота о безопасности подростков или мониторинг переписки

Любая система, которая сканирует диалоги с ИИ на предмет опасных тем, анализирует личные сообщения. И здесь баланс между безопасностью подростков и приватностью не такой очевидный, каким кажется на первый взгляд.

Открытыми остаются вопросы: где хранятся пометки о тревожных темах, кто имеет к ним доступ и не оседают ли флаги о суицидальных разговорах в профиле пользователя. Раз Meta сама признаёт ложные срабатывания, часть подростков могут пометить ошибочно. Похожие меры по защите несовершеннолетних вводят OpenAI и Character.AI, так что мониторинг эмоционально чувствительных диалогов и родительский контроль в ИИ-чатах постепенно становятся отраслевой нормой.

Если вам важно понимать, кто и как обрабатывает вашу переписку и данные, начните с базовой цифровой гигиены: приватного доступа к сети через Sigma.

Источники

TechCrunch, Meta уведомляет родителей о разговорах подростков с Meta AI о суициде