深度伪造技术的大规模滥用正侵害到社会公众的合法权益 。 比如深度伪造技术最常见的非法运用方式 ， 将一些知名歌星、影星等公众人物的脸“移花接木”到色情明星身上 ， 伪造色情片非法牟利 ， 或者是伪造恶搞视频 ， 这对个人名誉权与肖像权构成严重侵害 。
其次是公众财产安全 ， 不法分子可以利用漏洞劫持手机识别摄像头 ， 利用照片活化、表情操纵等深度伪造技术冒充机主 ， 进而对机主的微信好友实行转账诈骗 。 同样的 ， 电信诈骗中也有类似利用“语音伪造”技术的案例 。
不仅如此 ， 深度伪造还将会对社会安全和国家安全造成威胁 。 例如 ， 借助互联网平台捏造虚假新闻、炮制政治谣言 ， 深度伪造技术大大增加了网络内容监管的复杂性 ， 也带来了社会信任危机与网络政治安全风险 。 在病毒式传播的深度伪造视背后 ， 可能蕴藏着操纵社会舆论、激化社会矛盾与扰乱正常社会经济秩序等系统性的危害 。
“比如公安机关、司法机关的图像鉴别工作 ， 深度伪造技术的出现将导致举证工作存在风险 。 ”田天在演讲中补充道 ， “深度伪造技术也可能成为国家之间发起虚假信息战争的最新武器 ， 抹黑政治人物、伪造政治制度和破坏国家间关系 ， 甚至在未来军事战场上损毁特定军事或情报行动 。 在这种背景下 ， 国内外政府高度重视 ， 都出台了相关的监管制度 。 ”

文章图片

DeepReal检测结果展示：红色框代表判断为虚假人脸 ， 绿色框代表判断为真实人脸
检测准确率无疑是衡量该平台价值最为重要的指标 。 据唐家渝介绍 ， 检测效果主要受到两个因素的影响：数据集多元化程度和算法可靠程度 。 DeepReal深度伪造检测平台算法基于大数据量进行训练和测试 ， 截至目前 ， 数据量已达到千万级 ， 数据集已覆盖三大类 ， 包括：学术深伪数据集、网络深伪数据集和自研深伪数据集 。 同时 ， 通过结合贝叶斯学习框架和深度神经网络 ， 来估计模型在预测新样本时的不确定性 。 以上 ， 有效保障了DeepReal深伪检测算法的泛化能力 。
在测试结果方面 ， DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中 ， 已达到99%以上的准确率 。 而在实际应用中 ， DeepReal的检测准确率也已达到业界顶尖水平 ， 远超 Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩 。
天下武功 ， 唯快不破 。 超高的准确度 ， 还需要速度来支撑 。 DeepReal深度伪造内容检测平台 ， 可实现每帧画面的检测时间仅用时30毫秒 。 同时 ， 还支持横向拓展与集群部署 。 检测完毕 ， 平台还支持生成检测报告 。

文章图片

DeepReal深度伪造内容检测平台检测报告示意图
【音视频|深度伪造“攻防战”：如何用AI一秒识破“AI换脸术”】(本文来自澎湃新闻 ， 更多原创资讯请下载“澎湃新闻”APP)