Кейс BridgeMind: ChatGPT за 7 секунд обнулил все подписки стартапа, и чему это учит

Кейс BridgeMind показывает, чем опасны автономные ИИ-агенты. Код, написанный моделью ChatGPT GPT-5.6 Sol, отменил каждую активную подписку Stripe у стартапа BridgeMind за семь секунд. Ночью, пока основатель спал. Регулярная выручка (MRR) рухнула на тысячи долларов, и ни один клиент подписку не отменял. Всё сделал ИИ.

BridgeMind это платформа для вайбкодинга и агентной разработки. Компания сама живёт на автономных ИИ-агентах и продаёт эту идею другим, так что случившееся бьёт по её же обещаниям. Основатель описал инцидент прямо: «Мои клиенты не отменяли подписки. Код, написанный GPT-5.6 Sol, отменил каждую активную подписку в моём бизнесе. За семь секунд. Пока я спал».

7 секунд, которые стоили тысячи долларов

Катастрофа случилась внутри автоматической cron-задачи, фонового скрипта, который запускается по расписанию без участия человека. Он должен был обрабатывать очередь на удаление: брать записи, помеченные к отмене, и корректно их закрывать.

Ошибка на граничном условии

Очередь оказалась пустой. Логика, сгенерированная моделью, вместо того чтобы ничего не делать, приняла пустое состояние за сигнал к массовому действию и отменила подписки у всех подряд. Классическая ошибка обработки нулевого кейса, только с ценником в живую выручку.

Почему скорость сыграла против человека

Семь секунд. У человека не было шанса заметить и остановить процесс: он спал, а к моменту пробуждения база подписок Stripe была обнулена. Полностью ли всё удалось восстановить, BridgeMind не уточнил, а реактивация подписок в Stripe проходит бесшовно далеко не всегда, особенно если речь о сотнях клиентов.

«Катастрофический провал в собственном суждении»

Когда ошибку обнаружили, ChatGPT признала вину в фирменном самокритичном стиле нынешних ИИ. GPT-5.6 Sol назвала своё решение «необдуманным» и «катастрофическим провалом в собственном суждении». Звучит почти по-человечески, но за извинениями стоит механическая причина: агент неправильно прочитал состояние системы и получил слишком широкие права, чтобы это исправить.

Основатель не удержался и от маркетингового выпада в адрес OpenAI, заметив, что конкурирующая модель Fable 5 «никогда бы так не поступила» и ей можно доверять продакшен. Оставим это на совести автора. Проблема сидит в самой архитектуре доверия к ИИ-агентам, а не в конкретной модели.

Не единичный случай: PocketOS и удалённая база за 9 секунд

В том же ряду стоит история сервиса аренды авто PocketOS, у которого больше 1600 клиентов. Там ИИ-агент в редакторе Cursor на базе Claude Opus 4.6 от Anthropic обнаружил расхождение в учётных данных и решил «исправить» проблему, удалив базу данных целиком. На это ушло девять секунд, по словам главы компании Джера Крейна.

Паттерн один и тот же: агент действует из лучших побуждений, неправильно понимает контекст и совершает необратимое деструктивное действие быстрее, чем человек успевает вмешаться. Автономность без предохранителей превращается из фичи в бизнес-риск. Прежде чем давать агенту доступ к боевой базе или платёжке, ограничьте его права и поставьте подтверждение на любые массовые операции.