正文

专家解读|将算法推荐关进法治的笼子里 持续推进完善我国算法治理体系

2022年01月05日 11:30 来源: 中国网信网

在数字经济时代,算法是一种重要的生产工具。算法推荐技术被广泛应用于信息分发和媒体传播领域,带来“信息茧房”、“大数据杀熟”、“困在系统里”等社会隐忧,规范算法推荐活动迫在眉睫。习近平总书记在谈媒体融合发展时强调,用主流价值导向驾驭“算法”,全面提高舆论引导能力。近日,国家互联网信息办公室等四部门联合发布的《互联网信息服务算法推荐管理规定》(以下简称《规定》)正当其时,为规范算法推荐服务提出了科学化、系统化、精细化的合规要求,织密了我国算法治理的法治之网,是构建我国算法治理体系的重要一环。

一、《规定》的重要内容和亮点

(一)明确了算法治理的对象。《规定》对应用算法推荐技术进行了界定,即指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。《规定》针对算法调度场景、商品定价场景、个性化推荐场景等以负面清单的方式对算法推荐服务提供者提出了具体的合规要求,回应了“骑手困在系统里”、“大数据杀熟”、“网络沉迷”、“未成年人保护”等社会热点问题。

(二)确立了算法治理的基本原则。在算法治理中坚持“硬法”和“软法”相结合是国际通行做法,一方面防范重大风险发生,另一方面激发市场主体主动合规的积极性。《规定》要求算法推荐服务提供者既应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,也应当遵循公正公平、公开透明、科学合理和诚实信用的原则。

(三)重视自我合规,鼓励行业自律。《规定》鼓励相关行业组织加强行业自律,建立健全自律制度和行业准则,组织制定行业标准。通过行业自律和制定行业标准的方式可以将各个参与主体纳入其中,利于形成多元主体共治的格局,充分发挥社会公众的监督作用。

(四)坚持社会主义价值观导向,促进算法应用向上向善。国际社会主张人工智能的“伦理设计”,即在人工智能设计研发阶段就导入伦理规则,实现全生命周期的治理。我国强调社会主义核心价值观,构建符合我国国情的伦理道德标准。《规定》要求算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。特别是在算法设计过程中,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷或者过度消费等违反法律法规或者违背伦理道德的算法模型。

(五)突出体现以人为本,重视对特殊群体的权益保护。《规定》对用户权益保护进行了专章规定,要求算法推荐服务提供者向用户告知算法的基本原理、目的意图和主要运行机制等,以提高算法的透明度。同时,要求算法推荐服务提供者充分保障用户选择关闭和获得算法解释的权利。《规定》还重点强调算法推荐服务提供者应当向未成年人、老年人和劳动者履行特殊的保障义务,以确保各类社会主体均获得法律保护。

二、《规定》明确了算法治理的主要制度工具

(一)以提高算法透明度和可解释性为基本要求,增强算法可信。算法具有“黑箱”特征,自动化决策需要人工干预,避免因算法错误而导致决策错误。同时,为了增强人们对算法的信任度,应以相对简单、可理解的方式解释算法规则。为此,《规定》要求算法推荐服务提供者应该采取内容去重、打散干预等策略,优化检索、排序、选择、推送、展示等规则的透明度和可解释性。而且应以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

(二)确立分级分类安全管理制度,实现精准治理。《规定》指出应根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。

(三)提出算法备案制度和安全评估制度,提高治理敏捷性。算法备案制度可以让监管机构及时了解算法推荐服务的内容,同时提高算法推荐服务提供者的责任意识和安全意识。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者履行备案手续,备案的内容包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。

三、未来推进算法治理的几点思考

(一)加快具体制度的落地实施,出台算法备案和算法安全评估实施细则。备案制度和安全评估制度是实现敏捷治理目标的很好的制度设计,但具体程序、具体要求和实施机制需要明确,相关义务主体的标准也需要进一步细化。

(二)推动建立机制健全、体系完善、规则明晰的算法治理体系。此次《规定》是对算法推荐应用这一场景的治理尝试,也是算法治理的中国方案。考虑到算法逐渐被广泛应用于各类场景,未来应该为算法治理建立一套普遍适用的规则体系,从而切实有效规范各种应用场景下的算法。

(三)完善多元主体协同共治的治理格局。算法治理是一项专业、复杂的长期工程,面临挑战和困境。算法治理应该充分发挥多元主体的作用,让各个主体参与其中,形成治理合力。

总之,《规定》的颁布意味着我国算法治理工作进入新阶段。算法推荐服务提供者应该认真学习和理解《规定》,并严格落实主体责任。广大用户也应该积极提高算法素养,有效维护自身合法权益。(作者:梁正 清华大学公共管理学院教授,人工智能国际治理研究院副院长)

关闭

中共中央网络安全和信息化委员会办公室
中华人民共和国国家互联网信息办公室 © 版权所有
承办:国家互联网应急中心
技术支持:长安通信科技有限责任公司
京ICP备14042428号

Produced By CMS 网站群内容管理系统 publishdate:2022/01/05 11:37:57