随着负面风险日益加剧 ， 以及合成质量不断提升 ， 基于生物特征的传统鉴别方式越来越难以发挥作用 。“目前对深度合成内容的自动化鉴别主要依靠人工智能技术完成 。”浙江大学网络空间安全学院院长任奎介绍 ， 训练人工智能模型需要大量真实和伪造数据 ， 人脸和音频数据都是高度敏感的个人信息 ， 难以获取 ， 而伪造数据也包含各种不同方法合成的数据 ， 这都给构建自动化检测能力带来不小挑战 。
新型伪造方法的层出不穷 ， 加上检测算法存在结构性缺陷 ， 反深度伪造检测技术面临“强对抗性” 。田天解释说 ， 这类似于“猫鼠游戏” ， 深度合成和检测在不断学习攻防过程中会自我进化 ， 规避上一代对抗技术 ， 因此检测技术需要持续更新与迭代优化 。
目前学术界和产业界均已对反深伪检测投入了大量研究 ， 谷歌、微软等机构均推出深度合成视频认证的方法或产品 。在国内 ， 瑞莱智慧推出的深度伪造内容检测平台DeepReal ， 拥有工业级的检测性能和应对实网环境对抗变化的检测能力 。“深度伪造检测面临持续的攻防和博弈 ， 未来还需融合多模态内容的取证分析、基于数字水印的溯源技术等多方面能力 ， 实现精准识别 。”清华大学人工智能研究院基础理论研究中心主任朱军说 。
构建多维度治理机制
近年来 ， 针对深度合成技术恶意使用所带来的问题 ， 世界各国纷纷出台管理法律法规 ， 探索深度合成的治理路径 。欧盟将深度合成纳入《通用数据保护条例（GDPR）》等现有法律框架规制 ， 德国、新加坡、英国、韩国等国家 ， 均有适用于深度合成技术相关犯罪案件审理的法律法规 。
我国正积极探寻建设有效治理机制 。自2019年11月起 ， 先后出台的《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》等文件 ， 均对生成合成类内容提出不同程度的监管要求 。
中国工程院院士邬贺铨认为 ， 治理深度合成不能搞“一刀切” ， 要持续发展技术 ， 避免阻碍其正向应用与创新 。其衍生出的安全问题需从源头解决 ， 引导人工智能学术界、产业界不断加强技术研发 ， 并扩展深度合成溯源、深度合成鉴定等方面的研究 ， 防范伦理安全风险和合规风险 。
引导深度合成技术良性发展 ， 需探索多维度治理机制 。中国社科院哲学所科技哲学研究室主任段伟文建议 ， 加强对深度合成的技术、法律和伦理问题展开系统性前瞻性跨学科研究 ， 对其可能出现的高风险应用场景采取有针对性的治理与监管 。
中科院自动化所研究员曾毅则倡导产学研发展自律自治 ， 他表示 ， 在法律法规未形成体系化之前 ， 产业界自身应强化理论先行意识 ， 防范滥用、严禁恶用 。
在对外经济贸易大学法学院副教授许可看来 ， 社会层面应加大宣传普及力度 ， 强化公民对深度合成等人工智能技术的认识 ， 提高全社会防范意识 。
田天对此有相同看法 ， 他认为深度伪造的本质问题是透明度不足 ， 因此提高公众对深度合成技术的认知尤为重要 ， 只有将门槛降低到所有受众能够在共同框架下认识、讨论、理解这个问题的时候 ， 深度合成技术才能健康良性发展 。

• 程序员|5G目前技术水平下，用在小范围无线终端，物联网结合AI智能控制
• 闭幕式|北京冬奥闭幕式上 数字显示技术再现“空灵与浪漫”
• 涡旋|清洁化学技术解开“水油不相溶”之谜
• 2月22日消息|京东方研发f-oled柔性“n”形折叠显示技术
• 用户|运营商5G消息回落技术方案探析
• 合成视频|2021年新发布深度合成视频数量较2017年增长超10倍
• 联想|研发是企业发展的核心，看看联想没有核心技术，慢慢走下神坛
• 不止是与微软合作，高通还要在自动驾驶和元宇宙等技术领域发力
• find|OPPO Find X5 预热 ColorOS12新技术“电池健康引擎”
• 西门子|技术出海！海信智能交通正潜移默化改变人们出行体验