“深度合成”新规，“元宇宙”关键技术迎来监管( 二 ) _信息快讯

随着 ” 深度合成 ” 技术逐渐成熟并进入商业化应用阶段，其巨大的经济价值已经逐渐向世人展露。当前， ” 深度合成 ” 已经在音乐、影视、综合娱乐、社交等多个行业的场景中被实际推广应用。
例如，在电影大片的制作中其应用最为成熟，不仅可以通过提升音视频制作的效率和质量，显著降低影片制作成本，还能赋予艺术创作者更大的想象空间。甚至深度合成技术还可以使一些已过世的演员进行在影视剧中以虚拟数字人的形态 ” 复活 “ 。
在综合娱乐方面深度合成同样表现不俗，某互联网大厂常用的脸部特效、换脸短视频等已经在我们的生活中屡见不鲜。虚拟偶像、虚拟主播、甚至已经有能力为消费者提供娱乐、购物、向导等服务。另外，在教育、艺术、医疗和科研等领域，深度合成技术都可以为这些产业带来新的应用。
二、深度合成技术存在的风险
自从 2017 年 Deepfake（深度伪造）出现后， AI 技术在造假方面的潜力为世人所惊叹。此后， GAN 算法的突飞猛进不仅仅可以做到 AI 换脸，甚至能自动生成文本、人工语音、图像等各种数字内容。
深度合成技术在为我们的生活提供便利的同时，也带来了一系列的风险。例如 AI 换脸制作的大量色情视频正在网络上泛滥成灾，不仅严重侵犯了他人的肖像权、隐私权和名誉权、个人信息安全等个人私益，对社会公共秩序和善良风俗也造成了严重的侵害。甚至有不法分子利用 AI 换脸、合成声音等技术实施诈骗等犯罪活动。
2021 年，山东省公安厅网络安全总队就公布了几个利用深度合成技术实施诈骗的真实案例。
2020 年 12 月，某公司财务接到领导电话要求立刻给供应商转款两万元，并将转账信息以邮件形式发送到对方邮箱，理由是避免缴纳滞纳金。由于电话中老板的口音十分逼真，公司财务毫无怀疑地在一小时内完成了转账。
更有甚者，在山东网安总队公开的第二个案例中，犯罪分子利用了社交媒体视频进行诈骗。
其首先通过盗用了他人社交媒体账号，获取他人面部信息，通过与账号原所有人亲属进行视频电话的形式要求亲友向其指定账号转账，成功地取得了受害人的信任，骗取了大量钱财。
利用深度合成技术实施违法犯罪活动是其风险的表象，而深度合成技术真正危险的是其对社会信任关系的严重破坏。信任关系的存在，对于任何个体、社群来说都是无比重要的，甚至有学者认为，信任是自古以来人类社会存在的基础之一，关于人与人之间的信任关系的重要性，无论做出多高评价都不为过。
张康之老师认为，在人类历史的农业社会阶段中，人们之间的信任关系以传统习俗的形式表达，而近代工业社会中所存在的人们之间的信任关系，则属于契约型的信任关系。虽然社会信任的形式会随时代变迁而改变，但无论如何，社会的维系必须建立在社会信任的基础上。
深度合成技术拥有破坏社会信任的潜力，俗话说，眼见为实，但当眼见、耳闻都不再是真实，谎言和欺骗甚嚣尘上时，社会信任将会荡然无存。
康德在《实践理性批判》中就曾论证了 ” 无信任社会 ” 的可怕。按照康德的理论，假如谎言是社会的通行法则，那么人人可以说谎。在这种情况等下，作为一个拥有正常理智的人，我们不会再去相信说谎的人，也就不会再相信这世界上的每一个人。不被相信的谎言也就不再有意义，这就形成了一个悖论。

特别声明：本站内容均来自网友提供或互联网，仅供参考，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系，我们将在24小时内删除。