目前学术界和产业界已对反“深度伪造”检测投入了大量研究 ， Meta、谷歌、微软等科技巨头均推出了深度合成视频认证的方法或产品 。 在国内 ， 清华大学、中科大、瑞莱智慧科技、百度、科大讯飞等高校和企业在深度伪造内容检测方面取得显著成果 。
【深度合成还是深度伪造？“元宇宙”治理“攻防博弈”序幕拉开】清华大学人工智能研究院基础理论研究中心主任朱军认为 ， 深度合成检测面临持续的攻防和博弈 ， 未来还需融合多模态内容的取证分析、基于数字水印的溯源技术等多方面能力 ， 实现精准识别 。
田天也对第一财经采访人员表示：“新型伪造方法层出不穷、网络传播环境的日趋复杂 ， 加上基于检测算法存在漏洞缺陷等 ， 反深伪检测技术面临强对抗性 ， 需要持续更新与迭代 。 ”
探索深度合成治理路径
除了发展深度伪造内容检测技术以外 ， 近几年来 ， 针对深度合成技术恶意使用所带来的挑战 ， 世界各国纷纷出台相关法律法规 ， 探索深度合成的治理路径 。 国际方面 ， 美国从联邦和州层面进行专门立法 ， 欧盟将深度合成纳入《通用数据保护条例（GDPR）》等现有法律框架规制 。
2022年1月28日 ， 国家网信办最新公布了《互联网信息服务深度合成管理规定（征求意见稿）》（简称《深度合成征求意见稿》） ， 对作为元宇宙基石的深度合成技术做出了一系列较为明确的规定和指引 。
按照定义 ， AI语音 ， NFT生成艺术、虚拟演唱会、全息人像投影、虚拟人数字人、AR购物等元宇宙的重要组成部分都属于深度合成技术的具体应用 ， 均在《深度合成征求意见稿》的规制范围内 ， 这项规则将对深度合成乃至人工智能行业的监管产生深远影响 ， 尤其是针对“深度伪造”技术的防范 。
中国工程院院士邬贺铨认为 ， 深度合成的治理主要有两个原则 ， 一是要持续发展技术 ， 不能“一刀切”地禁止 ， 避免阻碍正向应用与创新；二是针对衍生出的安全问题要从源头上解决 ， 利用技术创新、技术对抗等方式 ， 持续提升和迭代检测技术的能力 。
中国信通院云大所人工智能部副主任石霖认为 ， 有必要对“深度伪造”和深度合成进行明确区分 ， 不能用“深度伪造”这一“污名化”词汇来概括“深度合成”技术 。 “深度合成技术本身没有善恶之分 ， 当滥用该技术 ， 跨越道德和法律的边界时 ， 才会出现深度伪造行为 。 ”石霖表示 。
小米集团副总裁、小米安全与隐私委员会主席崔宝秋对第一财经采访人员表示：“技术监管是一场永恒的攻防对抗博弈 。 深度合成技术的服务方在提供服务的同时 ， 会产生多方面的风险 ， 除了深度伪造的风险外 ， 还包括自动生成内容文本、图像或者视频带来的版权和著作权的侵权风险 ， 信息安全和隐私泄漏风险以及敏感内容的风险 。 ”
崔宝秋建议 ， 未来出台的相关法规中 ， 应该强制要求服务提供方对于哪些内容是深度合成的进行标注 ， 对于技术提供方而言 ， 则应从底层技术开始推进相关标准的建立 ， 在算法上保证计算模型的公平性 。
· 往 期 精 选 ·
· 人 物 专 访 ·
姜建清 |马蔚华 | 陈志武 |管清友 |李迅雷 |黑石董事长苏世民 |火山石资本创始合伙人章苏阳 |渶策资本创始合伙人甘剑平 |嘉御基金创始合伙人卫哲 |金沙江创投董事总经理朱啸虎 |东方证券首席经济学家邵宇 |兴业证券首席经济学家王涵 |交银国际董事总经理洪灏 |汇丰银行大中华区行政总裁黄碧娟 |恒生银行中国行长宋跃升 |法国巴黎银行首席经济学家陈兴动