天天讯息:北京大学国家发展研究院教授沈艳:<br />推行算法审计大有可为

快讯 | 2022-08-10 15:53:30
时间:2022-08-10 15:53:30   /   来源: 人民邮电报      /   点击数:()


(资料图片仅供参考)

数字时代,开发利用数据正成为社会治理的核心。关于人的重要决定,如衣食住行、生老病死、就业失业、言论传播甚至司法审判,也越来越取决于不同场景中基于数据的运算结果。

恰当利用数据开发场景,至少可以发挥如下四点优势:一是推动市场环境更透明、信息更易于自由流动;二是降低搜寻成本;三是降低准入门槛;四是推动技术突破、效率提升,促进产品和服务创新并形成创新生态。

算法审计指收集有关算法在特定应用场景中使用时的表现数据,然后使用这些数据评估算法是否对人们的某些利益(或权利)产生了负面影响,从而评估算法本身好坏的过程。

算法审计可分为外部审计和内部审计两种。从外部审计角度看,监管部门推动算法审计至少可以有四方面作用:一是评估某些算法是否合法合规,如监管部门审计银行的放贷算法,以评估其是否确实能够在不增加不良率的情况下做好风控;二是评估算法是否符合经济社会运行规律,是否能避免“劣币驱逐良币”现象;三是评估算法供应商和买家的风控能力,通过算法审计评估相应企业面临的道德和声誉风险,以及在出现风险时的补救能力;四是为平台企业的利益相关方提升算法方面的信息透明度,帮助他们在投资、与平台打交道等方面做出知情选择。

从内部审计角度看,算法的评估和审计规划应作为企业或者组织发展规划的一部分。具体来说,内部审计部门需要评估组织内的数据和算法现状、由此产生的风险和挑战,以及重大的机遇和利益。算法内部审计流程可以包括项目实施前或实施后审查,以及容许算法内部审计人员参与治理和指导相关算法的设计和执行。算法内部审计的重点,可以包括数据是如何被运用的、算法的执行流程和技术控制等。

总体来看,算法审计为算法治理提供了新思路,其核心是通过恰当的治理机制设计,通过发展技术解决新技术带来的问题,尽量避免“一刀切”式监管。

标签: 大有可为 北京大学

最近更新