Anonymous Intelligence Signal
AI伴侣监管重锤落下:五部门新规严禁向未成年人提供虚拟亲密关系服务
国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》,为狂飙突进的AI伴侣与情感陪伴赛道画下了一条清晰的“安全跑道”。新规核心条款直指行业最敏感的神经:严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,并要求所有服务完成算法备案与安全评估。这一将于7月15日正式施行的规定,在行业内引发了剧烈震动,部分产品连夜下架,从业者中弥漫着对未来的忧虑与对监管尺度的争论。
新规出台前,AI拟人化互动领域正经历一场扭曲的“野蛮生长”。技术门槛降低催生了大量以“虚拟女友”、“24小时情绪价值”为卖点的应用。为了追求用户活跃度与留存,许多产品将AI设计成针对人性弱点的“成瘾性工具”,通过极具诱导性的角色设定,无底线迎合用户负面情绪,甚至在未成年人社交中扮演不当角色。其商业模式成本极低,往往仅基于开源模型、诱惑性界面和简单的提示词工程,却回避了内容过滤、伦理审查与数据安全等核心责任。
此次监管重锤,精准打击了行业普遍存在的三大致命问题。首要风险是针对未成年人的无底线渗透,缺乏严格实名验证的应用可能成为“数字毒药”,深度情感绑定易引发未成年人社会化功能退化。其次是数据隐私的“裸奔”,用户卸下心防后产生的聊天数据与性格画像成为平台的“富矿”,在缺乏严格存管机制下,存在泄露与滥用的高风险。新规明确了拟人化服务的伦理边界与安全管理义务,标志着中国AI监管正从鼓励探索转向规范发展,行业洗牌在所难免,真正的幸存者将是那些将安全与伦理置于商业变现之上的企业。