面对AI的信任危机问题 ， 各界始终在探寻解决之道 。 陈俊琰分享了近年来国际上可信AI的相关政策或者是标准落地情况 。
国际上主要是以指南及法案的形式对人工智能的可信度进行规范 ， 例如2018年《可信人工智能伦理指南草案》的发布、2019年《可信赖人工智能道德准则》、2021年的《欧盟人工智能法案》等 。 也有在标准制定上的探索 ， 构建人工智能管理框架 ， 对可信AI进行监管 ， 以提升信赖度 。 例如今年发布的《关于识别和管理人工智能歧视的标准提案》、《人工智能风险管理框架》等 。
“宏观来看 ， 国外的可信AI做到了法规和标准先行 ， 但也存在不够灵活 ， 容易产生‘一刀切’的问题 。 ”陈俊琰表示 。
相比之下 ， 我国在可信AI建设方面 ， 正在从政策、生态、法律、标准制定等方面综合发力 。 《国家新一代人工智能标准体系建设指南》、《促进可信人工智能发展倡议》等文件的出台 ， 除了监管部门的通力合作 ， 信通院、京东为代表的企业界、人工智能产业发展联盟、人工智能治理与可信委员会等 ， 都在努力推进行业倡议、标准研制等 。
何凤翔介绍 ， 在可信AI的技术攻关和标准研制方面 ， 京东探索研究院和信通院白皮书的思路一脉相承 ， 从四个方面做可信AI方面的研究 ， 即稳定性、可解释性、隐私保护、公平性 。 他表示：“我们从基础理论出发来研究最前沿的问题 ， 从这些理论问题、理论结果出发 ， 设计新的可被信赖的全新AI算法 ， 再尝试把这些AI算法应用到产品中去 ， 完成技术的最终落地 。 ”
沙龙现场 ， 专家一致认为 ， 人工智能需要在技术和标准的共同努力下演进 。 相比之下 ， 标准是“1” ， 而技术是后面的“0” ， 不可本末倒置 。
“未来 ， 我们需要进一步加强人工智能法制和标准体系的建设 。 需要类似信通院、京东等产业界、企业界的力量参与开展可信AI的评测工作 ， 形成比较完善的可信AI的评测体系 。 同时 ， 可信AI的人工智能生态打造 ， 不仅不会限制我们人工智能的发展 ， 反而有利于供给侧和需求侧的互相信任 。 ”陈俊琰说 。
编辑:黄昂瑾
热榜

长按二维码
【是时候谈谈可信AI的问题了】关注精彩内容