Anonymous Intelligence Signal
五部门新规重拳出击:AI拟人化互动服务不得向第三方提供用户交互数据
国家互联网信息办公室联合工业和信息化部、公安部、国家市场监督管理总局、国家广播电视总局等五部门,正式公布《人工智能拟人化互动服务管理暂行办法》,为快速发展的AI拟人化互动服务划定了明确的安全红线。其中,对用户交互数据的保护成为核心焦点,明确规定服务提供者不得向第三方提供此类数据,除非法律另有规定或用户明确同意。此举直接针对当前AI服务中普遍存在的数据收集与潜在滥用风险,旨在从源头收紧数据流向。
《办法》构建了从部署到终止的全生命周期安全管理框架。服务提供者必须确保安全措施与功能同步上线,并加强实时安全监测与风险评估,以应对系统偏差和安全事件。在数据安全层面,新规不仅要求加强训练数据的管理,提升其透明度与可靠性,更明确要求采取数据加密、访问控制等具体技术手段保护用户交互数据。这意味着,从智能客服到虚拟伴侣,所有具备拟人化互动能力的AI服务,其与用户的每一次对话、每一个指令,都将被置于更严格的监管保护之下。
新规同时强化了用户权益保障。服务提供者必须履行个人信息和隐私保护义务,并向用户提供交互数据的复制、删除选项以及便捷的服务退出途径。若停止服务,需提前告知或及时公告。此外,健全的用户申诉和公众投诉举报机制也被要求建立。这一系列规定,标志着中国对生成式AI应用,特别是具有高度交互性和拟人化特征的服务,进入了精细化、强约束的监管新阶段,将对相关企业的数据业务模式与合规体系构成直接压力。