【提升效率还是加速不平等？公共管理专家问数湾区热议算法治理】问数湾区
“还没搜 ， 就知道我想买什么？”……这个时代在迈向高速智能化的同时 ， 一系列反思与疑问相伴而生 ， 算法的神秘性带来风险的模糊性 ， 使用户不知如何应对 。 算法究竟给我们带来哪些影响？未来走向何方？在10月29日“问数湾区”第13期系列对话上 ， 电子科技大学公共管理学院副教授贾开、复旦大学全球公共政策研究院讲师范梓腾线上开讲 ， 从“理论研究框架”“用户接受度”等视角 ， 共同探讨“算法治理的发展与挑战” 。

算法时代呈现人机合作前景

“问数湾区”是由中山大学国家治理研究院数字治理研究中心、数文明科技、南方都市报联合推出的系列活动 ， 旨在通过讲座、圆桌讨论、论坛等形式推动湾区的实践者和研究者们进行交流 ， 追踪湾区数字治理发展的新动态 ， 探寻湾区数字治理创新与提升的路径和方向 。
“机器智能的知识事实上来源于人类活动 ， 而人类活动在受益于劳动机械化之后又被赋予了开拓并积累更多知识的机会和能力 。 ”在当晚的演讲中 ， 贾开认为机器智能算法与人处于动态演化的关系之中 ， 进行机械化、重复化的劳动是机器算法的功能定位 ， 人类则应该去实现创造性、批判性的价值 。
对算法的关注贯穿近年来对数字政府、智慧城市建设的讨论之中 。 那么 ， “我们需不需要算法、我们需要什么样的算法？”范梓腾从用户视角进行讲述 ， 我国的数字治理正在由供给侧向需求侧建设转变 ， 核心不在于酷炫的科技 ， 而是民众满意信任和治理水平提升 。 算法能够成为辅助决策的工具 ， 但有限的资源精力约束下 ， 算法应用无法面面俱到 ， 需要针对性循序开发 。
电子科技大学公共管理学院副教授贾开在线上开讲《算法治理的视角、进路与理论框架》 。

算法应用引发六大类伦理隐忧

贾开总结了算法治理的学术研究存在技术决定论、社会决定论等视角 ， “算法并不是无所不能” ， 要考虑它在多大程度上是有效的 ， “打破技术乌托邦的想象” 。 “算法是作为引导、影响人类生产生活的规则而出现的 。 ”贾开说 ， 如果将“算法作为一种规则 ， 研究的视角会特别宽广” 。 具体而言 ， 作为规则的算法是否公平、规则的产生程序是否正当、如何应用规则以及产生什么效果等？
“近期研究发现 ， 算法决策应用在现实中可能会引发六大类的伦理隐忧 。 ”范梓腾说 ， 这些隐忧包括证据的无定论性、证据的不可解释性、证据的误导性、结果的不公正性、影响的变革性和可追溯性 。 比如 ， 如果区域犯罪预警系统通过数据分析得出少数族裔群体有更高的犯罪可能性 ， 那么在现实决策中就能想当然地给群体中的每一个人贴上标签吗？基于总体的一般性情况不能在现实中机械地、忽略差异性地给去直接解释个体 ， 这在公共决策中很重要 。
“算法编写者的主观偏见可能会潜移默化地嵌入其中 ， 还有数据本身的技术性偏误 ， 以及决策者解读的偏见 。 ”范梓腾说 ， “最终可能不是我们在做决策 ， 以为自己掌握了数据 ， 但可能是数据掌握了你 。 ”

文章图片

复旦大学全球公共政策研究院讲师范梓腾开讲《用户对算法决策应用的接受度及其多维复杂性》 。

算法治理中政府应发挥怎样作用

在讨论环节 ， 系列对话主持人——中山大学政治与公共事务管理学院副教授郑跃平向两位演讲嘉宾抛出自己的疑问：政府在算法治理中应该发挥怎样的作用？如何在应对算法挑战的同时发挥它应有的价值？