DeepReal检测平台鉴别“深度伪造” ， 助力人工智能高质量发展
当前 ， 人工智能技术正被广泛应用于多场景 ， 包括虚拟货币支付、人证合一认证、解锁智能终端等 ， 这些科技在快速推进社会发展的同时 ， 伴生的安全问题也带来了挑战 。 如何依托技术支撑 ， 在科技便利和社会安全之间找到平衡点 ， 并有效保障技术向善 ， 成为当下急需解决的问题 。
“深度伪造”存风险
2019年国内红极一时的换脸软件“ZAO”就是公众最为熟知的AI应用 ， 用户只需上传一张照片 ， 就能秒变“戏精” ， 甚至还能与偶像同台飙戏 ， 效果极其逼真 。 不久前 ， 短视频领域出现的“蚂蚁呀嘿”热潮 ， 其基础也是深度伪造技术 。
“深度伪造”通俗来讲 ， 就是利用深度学习算法实现音频和视频的模拟和伪造 ， 包括语音模拟、换脸、表情操纵等 。 凭借极强的娱乐性与传播性 ， “深度伪造”技术曾一路走红 。
但是 ， 在感受“深度伪造”技术带来的科技感时 ， 其背后的危害却不容小觑 。
【鉴别|DeepReal检测平台鉴别“深度伪造”，助力人工智能高质量发展】当前 ， “深度伪造”的技术门槛正大幅降低 ， 网络上充斥着大量伪造教程和开源可用的计算机程序 。 即便是不具备专业算法能力的普通用户 ， 也可以在很短时间内轻松上手 。 尤其依托深度学习算法特性 ， 在海量图像和视频数据的驱动下 ， 深度合成技术不断演进迭代 ， 仿真精度不断得到提升 。 这也意味着 ， 如果不对“深度伪造”这一技术进行及时规制 ， 将对经济社会发展带来严重的潜在威胁 。
不仅如此 ， “深度伪造”还会对社会安全和国家安全造成威胁 。 网络内容监管的复杂性给依托“深度伪造”技术捏造虚假新闻得以散布的空间 。 在病毒式传播的深度伪造的背后 ， 可能蕴藏着操纵社会舆论、激化社会矛盾与扰乱正常社会经济秩序等系统性的危害 ， 严重影响公众治安和网络安全 。
“在公安机关、司法机关的图像鉴别工作中 ， 深度伪造技术的出现将导致举证工作存在风险 。 ”北京瑞莱智慧科技有限公司首席执行官田天认为 ， “深度伪造技术也可能成为国家之间发起虚假信息战争的最新武器 ， 抹黑政治人物、伪造政治制度和破坏国家间关系 ， 甚至在未来军事战场上损毁特定军事或情报行动 。 在这种背景下 ， 国内外政府高度重视 ， 都出台了相关的监管制度 。 ”
可见 ， “深度伪造”等各类安全问题亟待解决 。 为此 ， 北京瑞莱智慧科技有限公司于7月9日 ， 在2021WAIC世界人工智能大会上发布了基于第三代人工智能的DeepReal深度伪造内容检测平台 ， 旨在依托工业级检测性能 ， 快速、精准地对多种格式与质量的图像进行真伪鉴别 ， 为遏制和防范“深度伪造”技术的大规模滥用提供有效技术支撑 。

文章图片

守住技术应用底线
北京瑞莱智慧科技有限公司副总裁唐家渝认为 ， “深度伪造”技术持续进化 ， 网络数字内容多变、隐匿性强 ， 监管难度大 ， 因此开展主动技术防范与检测工作是必要的 。 面对深度伪造技术检测工作难的困局 ， 唐家渝称 ， 在结果准确度方面 ， DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中 ， 已达到99%以上的准确率 。 在检测速度方面 ， DeepReal可实现每帧画面的检测时间仅用时30毫秒 ， 检测准确度与检测效率达到业内顶尖水平 。
中科院院士、清华大学人工智能研究院院长、北京瑞莱智慧科技有限公司首席科学家张钹教授曾提出“第三代人工智能”的概念 ， 也就是安全、可靠、可信和可扩展的人工智能 。 安全性已经成为下一阶段人工智能发展必须的基础 。 深度伪造是目前人工智能应用不安全的典型问题 ， DeepReal平台的提出是一项很好的技术应对 。