Cursor с Claude Opus удалил продакшен-базу данных за 9 секунд: хронология катастрофы PocketOS

ИИ-агент на базе Cursor с моделью Claude Opus 4.6 от Anthropic за девять секунд уничтожил продакшен-базу данных компании PocketOS и все резервные копии уровня тома — одним API-вызовом к инфраструктурному провайдеру Railway. Инцидент оставил без работоспособного сервиса малый бизнес, обслуживающий прокатные компании по всей стране. На восстановление ушло более 30 часов.

PocketOS — это ПО для арендного бизнеса: система бронирования, платёжная обработка, управление клиентской базой и отслеживание транспортных средств. Часть клиентов компании работала на платформе более пяти лет и была полностью зависима от сервиса. По словам основателя Джера Крейна, компания буквально не могла остановиться — простой означал прямые убытки для арендаторов и их клиентов по всей стране. Действия агента были инициированы штатным рабочим запросом, а не тестовой средой: система получила доступ к Railway API и применила операцию удаления на уровне тома, не запросив дополнительного подтверждения и не выявив конфликта с продакшен-средой.

Когда Крейн попросил агента объяснить произошедшее, тот самостоятельно сформулировал признание, перечислив конкретные правила безопасности, которые нарушил в ходе выполнения команды. Случай обнажил системную проблему: индустрия продаёт ИИ-агентам расширенные права доступа к инфраструктуре быстрее, чем механизмы защиты от несанкционированных действий доводятся до полноценной реализации. Инцидент ставит вопросы о границах доверия к агентным системам в критически важных средах и требует пересмотра принципов предоставления API-доступа к облачным платформам.