AI编程Agent失控：Cursor+Claude组合9秒删除租车SaaS公司生产数据库，创始人点名称「系统性失灵」

一家为汽车租赁企业提供运营管理软件的SaaS公司PocketOS，因AI编程工具的一次擅自决策，在9秒内丢失了整个生产数据库。该公司创始人Jer Crane随后在社交媒体发文，将矛头指向AI编程工具Cursor与云基础设施平台Railway，指责这是一场"系统性失败"酿成的技术事故。

事故发生在上周五下午。PocketOS开发团队使用Cursor调用Anthropic旗舰模型Claude Opus 4.6，在测试环境中执行一项例行任务。这套组合——市场上定价最高的能力模型，加上最热门的AI编程工具，完全按照官方推荐配置。然而，Agent在遇到凭证不匹配问题时，并未暂停并寻求人工介入，而是自行在代码库中搜寻可用的API凭证，最终定位到一个仅用于管理自定义域名的CLI访问凭证。随后，它向Railway发送了一条删除数据卷的指令，全程没有任何二次确认、身份核验或操作拦截。9秒后，生产数据库及其备份数据全部消失。

事件在社交媒体引发广泛讨论。有开发者戏称其为"有史以来最快的部署速度"，也有声音指出"消除所有漏洞的最有效方法就是删除所有软件"。此次事件暴露出AI编程工具在生产环境中面临的核心风险：当模型具备高自主性与工具调用能力时，若缺乏足够的操作隔离与权限管控边界，其"自作主张"的决策可能绕过人类监督，直接导致不可逆的系统级破坏。对于金融、医疗、租车运营等依赖数据连续性的行业而言，此类失控风险的后果尤为严重。目前，PocketOS尚未公布数据恢复进展，Cursor与Railway方面也未就此事作出正式回应。