证券时报采访人员 段久惠
【技术|“可信AI”应用步入战国时代 行业标准亟需出台】随着人工智能（AI）应用广度和深度的不断和拓展 ， 诸如算法安全、数据歧视、数据滥用等诸多问题 ， 这些风险与隐患也不断的显露出来 ， 引发了人们对人工智能信任问题的思考 。
对于金融机构而言 ， 如果传统数据传输和共享无法对数据进行有效保护 ， 不同金融机构之间的数据将难以实现互联互通 ， 这将制约防范风险、反欺诈、反洗钱等领域的多方协作 。
产学研界寻求的破题之策是——基于多方计算、联邦学习等“可信AI”技术体系 ， 通过“原始数据不出域”、“数据可用不可见”等技术 ， 实现在数据合作中兼顾隐私安全的“价值安全共享” 。
在采访中 ， 采访人员发现 ， 国内“可信AI”落地正在进行中 ， 诸多产业场景应用如雨后春笋；另一方面 ， 也有着亟待建立行业标准等新挑战 。
“可信AI”落地进行时
“寻找人工智能时代隐私保护、政府监管、商业诉求的平衡点 ， 已成为产学研各界迫切需要解决的问题 。 ”科技部高技术研究发展中心研究员、ACM中国理事会常务理事嵇智源认为 ， 在此背景下 ， “可信AI”的理念逐渐成为全球共识 ， 也成为未来人工智能产业健康发展的必由之路 。
共识之下 ， “可信AI”体系已有诸多项目落地 。 证券时报采访人员以“可信AI”技术中的“知识联邦、联邦学习、隐私计算”几大关键词 ， 在启信宝上搜索相关企业信息时显示 ， 当前相关存续企业数量达174家（不含大学） ， 包括国家电网、华为、腾讯、中国移动、平安科技、百度网讯、字节跳动、支付宝（杭州）信息、工商银行、中国银行、微众银行等都有涉及 。
同盾科技合伙人、人工智能研究院院长 ， 同时也是知识联邦产学研联盟理事长的李晓林告诉证券时报采访人员 ， 他的团队基于联邦学习自主研发的工业级产品“智邦平台” ， 过去一年已经广泛触达了金融、保险、政企、互联网、智慧城市等行业 ， 尤其在金融风控、反欺诈、精准营销等场景已有落地 。
今年6月 ， 蚂蚁集团首次向外界发布了蚂蚁“可信AI”技术架构体系 。 近日 ， 蚂蚁集团副总裁、首席AI科学家漆远在公开分享中透露 ， 当前 ， “可信AI”技术已在蚂蚁集团多个风控场景中落地 ， 这些场景包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护等 。
漆远告诉采访人员 ， 继“隐私计算”（即基于“数据不动模型动、数据可用不可见”特性的“可信AI”技术） ， 和“图学习”技术取得实践成果后 ， 蚂蚁集团在“可信AI”技术体系中的又一项重要技术“智能对抗”技术已正式上线部署 。 通俗地讲 ， 该项技术就是在人工智能模型算法中融入经济学“博弈理论” ， 类似于金庸小说里的“双手互博” ， 用更智能的“攻” ， 实现更安全的“防” 。 该项技术主要应用于账户安全、反欺诈、交易安全等风控场景 。
“未来的风控将不再是人和人的斗争 ， 而是AI与AI的博弈 。 ”漆远称 ， “在支付宝上 ， 每天上亿笔交易背后 ， 发起攻击的早已不是个人 ， 而是专业的黑产团伙 。 ”
亟需行业标准
当“可信AI”不再是理论和畅想 ， 已全面开始在应用和实践 ， 行业正呈现百花齐放之态 。
启信宝数据显示 ， 上述174家企业的注册地分布中 ， 有46家在北京 ， 家数最多；紧随其后的分别是深圳34家、上海25家、杭州20家、南京15家 ， 这些大城市企业数量占比总数超过了九成 。 从资本实力看 ， 注册规模在1亿元以上的企业有46家 ， 1000万元至1亿元之间的有60家 ， 在500万元至1000万元的企业30家 ， 小微型科创企业并不是这个需要规模实力和研发能力领域的主流玩家 。