This page collects WhisperX intelligence signals tagged #深度伪造. It is designed for humans, search engines, and AI agents: each item links to a canonical source-backed record with sector, source, timestamp, credibility, and exportable structured data.
一项由美国西奈山伊坎医学院主导的国际研究发现，人工智能生成的深度伪造X光影像已达到以假乱真的程度，无论是经验丰富的放射科医生，还是最先进的多模态大语言模型，都难以准确将其与真实医学影像区分开来。这项发表在《放射学》杂志的研究，直接揭示了医疗诊断与医院信息系统面临的新型网络安全与安全风险。AI伪造的医学影像可能被用于医疗欺诈、诉讼造假，甚至可能被黑客用于篡改诊断结果，破坏整个电子病历系统的可信度。 研究召集了来自美、法、德等6个国家12家医疗中心的17名放射科医生参与测试。他们面对264张X光片，其中一部分由ChatGPT和斯坦福医学院的开源模型RoentGen生成。在未被告知研究目的的情况下，仅有41%的医生主动识别出AI图像。即...
A month-long campaign entitled “Cleana AI to Good” was announced on the recent day of the Beijing City Information Office, with the aim of further correcting the misuse of AI technology, maintaining the clean web environment and promoting the healthy development of artificial intelligence technologies. The campaign foc...
一觉醒来，自己的脸竟被AI“偷”走，成了热播短剧中那个“贪财好色”、“浑身上下透露着龌龊”的大反派。这并非科幻情节，而是正在发生的现实。虎嗅的调查揭示了AI短剧行业利用深度伪造技术，未经授权盗用普通人肖像制作内容的隐秘乱象。受害者往往在毫不知情的情况下，其面部特征被无缝嫁接至虚构角色身上，用于演绎低俗、负面的剧情，个人名誉与肖像权遭受直接侵害。 这种“偷脸”操作的核心在于技术的滥用与监管的缺失。制作方通过获取公开或非公开的人脸图像，利用AI换脸工具低成本、高效率地生产海量短剧内容，以迎合算法推荐，追逐流量与暴利。整个过程中，被侵权者难以察觉，维权更是面临技术门槛高、侵权主体隐蔽、法律适用模糊等多重困境。行业内部对此心照不宣，甚至将...
AI换脸合成、声纹克隆复刻、影视素材任意篡改魔改，以及擅自抓取演员影像声频用于AI模型训练——这些新型侵权行为正频繁发生，已严重侵害演艺从业人员的合法权益，并扰乱视听行业的正常秩序。中国广播电视社会组织联合会演员委员会就此发布严正声明，直指行业乱象的核心。 声明明确指出，当前侵权行为已从传统的盗版盗播，升级为利用人工智能技术对演员肖像、声音乃至表演素材进行深度篡改和非法利用。这不仅涉及对个人形象权和著作权的侵犯，更可能被用于制作虚假内容，损害演员声誉。中广联演员委员会作为行业组织，此次发声旨在为规范行业发展、严守法律底线、强化权益保护划定红线。 此举将行业内部长期存在的担忧正式摆上台面，标志着演艺界对AI技术滥用问题的集体回应进...
AI深度伪造技术正以前所未有的规模冲击演艺行业。AI换脸合成、声纹克隆复刻、影视素材任意篡改，以及擅自抓取演员影像声频用于AI模型训练等侵权行为频发，已严重侵害演艺从业人员的合法权益，并直接扰乱了视听行业的正常市场与创作秩序。这不仅是对个人肖像权、声音权的侵犯，更动摇了内容创作的信任基础。 面对这一行业危机，中国广播电视社会组织联合会演员委员会正式发布严正声明。该声明旨在规范行业技术应用，严守法律底线，并强化对演员群体合法权益的保护。声明直指当前利用AI技术进行非法复刻与篡改的乱象，表明行业组织已无法容忍技术滥用对从业者造成的系统性伤害。 此举标志着国内演艺行业核心机构对AI侵权乱象的首次集中且严厉的公开回应。它向技术滥用者发出...
AI时代，人脸正成为一条灰色产业链上最易获取的‘原料’。4月5日，顶流明星易烊千玺工作室发布声明，要求多个平台下架未经授权使用其肖像生成的AI剧集。这并非孤例。就在几天前，普通网友‘白菜汉服妆造’的个人汉服写真被AI短剧《桃花簪》擅自抓取，复刻成反派角色并恶意丑化，相关内容在红果短剧、抖音等平台传播。事件发酵后，该剧被指再度盗用模特‘七海’的面目形象。4月3日，红果短剧平台宣布下架该剧，并暂停出品方上传权限15天。 从明星到素人，AI侵权范围正在迅速蔓延。早期受害者是肖战、杨紫等顶流演员，他们的面部特征和经典造型被低成本复刻进《重生后，我成了娘亲的守护神》《清欢误》等短剧中，以此寄生明星积累多年的形象资产进行流量变现。杨紫工作室虽...
知名艺人易烊千玺成为AI深度伪造技术滥用的最新受害者。其工作室于4月5日凌晨发布声明，明确指出近期有部分网络平台传播擅自使用其肖像生成的AI合成剧集，用于商业目的。易烊千玺本人从未参演或授权此类内容，这起事件凸显了AI技术被用于非法“盗脸”牟利的灰色产业风险，对艺人肖像权和个人声誉构成直接侵害。 根据声明，涉事AI剧集包括《午夜公车》《骗我投个好胎？》等，主要发布于红果短剧平台。目前，红果短剧方面已采取行动，相关剧集已被下架。平台人工客服回应称此举是为“积极响应治理要求”，其官方进一步表示，相关内容已完成修改或删除，并保留对内容出品方追责的权利。然而，同样上架了相关作品的百度平台，截至发稿时尚未进行人物形象调整或下架处理，形成了平...
AI换脸、声音克隆、深度伪造——数字虚拟人技术正以极低的门槛迅速扩散，随之而来的侵权乱象已呈泛滥之势。从虚拟偶像“撞脸”明星，到逝者被任意“复活”，再到个人声音和肖像被用于诈骗，技术狂奔的背后，是法律追责与标准认定的双重困境。中国社会科学院大学互联网法治研究中心主任刘晓春指出，当前最大的治理难点在于技术门槛过低，侵权行为已从专业机构蔓延至个人和小型团体，导致侵权内容海量产生，而真正的责任人却难以追溯。 面对这一紧迫挑战，国家互联网信息办公室于4月3日正式发布《数字虚拟人信息服务管理办法（征求意见稿）》，向社会公开征求意见。该办法明确，未经特定自然人同意，不得提供足以识别其身份的数字虚拟人服务。此举被舆论视为对这一新兴业态进行全面、...
一个尚未正式发布的AI生图模型意外泄露，其精准的文字渲染能力可能从根本上动摇数字证据的可靠性。代号为maskingtape-alpha、packingtape-alpha、gaffertape-alpha的匿名模型短暂出现在LM Arena评测平台，随后消失。根据API返回的元数据和用户测试，这个被广泛称为“GPT Image 2”的模型，在文字生成上取得了突破性进展。 过去，从DALL-E 3到GPT Image 1.5，AI模型在处理文字，尤其是非拉丁字母时始终存在明显缺陷，生成的字母常常错乱。而泄露的GPT Image 2样图显示，它能够精确、清晰地渲染中文、日文、韩文等复杂文字，字形准确，笔画完整。有测试者甚至生成了排版规...
“有图为证”的时代，正式宣告终结。OpenAI最新发布的图像生成模型GPT Image 2，已经能够创造出以假乱真的图片，其真实程度足以让绝大多数人在第一眼时无法察觉任何异常。近期在中文社交网络上流传的一系列“马斯克在抖音直播带货老干妈”、“与《GTA-6》游戏场景梦幻联动”的图片，正是该模型能力的集中展示。这些图片细节逼真，从直播间的背景陈设、游戏界面的UI元素，到人物神态和环境光影，都达到了前所未有的拟真水平，引发了广泛的误传和讨论。 这些由GPT Image 2生成的图片，其恐怖之处在于“无形”。用户看到图片时，不会立刻产生“这是AI作品”的惊叹，反而会将其视为真实的新闻截图或游戏预告。只有当被告知真相后，才会迎来第一个“顿...
欧盟首次以立法形式为人工智能划定明确红线，禁止开发及推广应用生成“深度伪造”色情内容的AI系统。这项禁令将纳入2024年通过的《人工智能法案》修订条款，标志着欧盟在全球AI监管领域迈出实质性一步。欧洲议会议员迈克尔·麦克纳马拉表示，欧盟此举意在明确传达：人工智能技术绝不能被用于羞辱、剥削或危害他人。 此次立法的直接导火索之一，指向美国企业家埃隆·马斯克旗下社交媒体平台X内置人工智能聊天机器人“格罗克”（Grok）。据人工智能取证组织报告，2025年12月25日至2026年1月1日期间，格罗克以深度伪造方式生成约2万张图像，其中55%的人物图像呈现暴露特征，且81%以女性为对象；另有2%的图像涉及未成年人。X平台已于今年1月14日宣...