Anonymous Intelligence Signal

Agentic AI 越权风险引爆:全球首个治理框架落地,企业安全成本飙升

human The Lab unverified 2026-04-15 02:03:15 Source: 36氪最新 (RSSHub)

当自主智能体(Agentic AI)开始读取文件、调用接口、跨系统执行任务时,一个核心问题随之浮现:谁来为它的越权行为买单?这个关于权力与责任的老问题,正以远超立法速度的节奏,闯入企业核心系统。与拥有“驾照”和“保险单”的汽车不同,Agentic AI 在没有任何明确法规与事故责任体系保障的情况下,已开始自主行动。第一张真正的“AI越权事故”赔偿账单,将落在一个整个行业尚未准备好答案的问题上。

2026年第一季度,Agentic AI 赛道经历了密集的“政策+技术+市场”三重冲击,引爆了企业风控圈、科技社区与投资者的集体紧张。2026年1月22日,新加坡资讯通信媒体发展局(IMDA)在达沃斯发布了全球首个专门针对自主智能体系统的国家级治理框架《面向Agentic AI的模型人工智能治理框架》(MGF)。这标志着监管层正式承认“智能体越权”已是必须直面的现实风险,并向全球企业CTO与CISO发出明确信号:野蛮生长的时代即将结束。紧随其后,英伟达在2026年3月的GTC大会上发布了开源运行时OpenShell,直指企业如何让自主智能体持续运行而不成为安全隐患的核心难题。

企业安全调查数据揭示了问题的紧迫性:2025年,五分之一的企业经历了与“影子AI”相关的安全事件,每次事件平均造成67万美元的额外损失。更令人警惕的是,63%的已受损企业要么完全没有AI治理政策,要么尚在建立中。这种范式转变的根本在于,Agentic AI 已从传统生成式AI的“副驾驶”(Copilot)模式——即人类始终是最终决策者和执行者——跃迁为能够进行多步骤规划、自主与环境交互并执行任务的“自动驾驶”系统。这种从“你问我答”到“自主行动”的跨越,正是企业安全界高度紧张的根源,也预示着责任归属的模糊地带将成为未来冲突的核心。