随着数字技术日益广泛的应用,算法逐渐在社会生产、生活中发挥着日益重要的作用。我们正逐渐迈入“算法泛在”的世界。算法既是使人们在日渐广袤的互联网信息海洋中获得有益信息的桥梁,也是使数据和硬件资源得以更加充分地发挥作用的关键所在,在数字中国建设中具有重要意义。但与此同时,随着社会数字化、智能化程度的不断提高,算法安全、算法黑箱、算法歧视、信息茧房等诸多问题在世界范围内得到了高度关注,各国都在积极探索如何更好地对此予以回应和解决。

2021年12月31日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),于2022年3月1日起开始实施。《规定》旨在规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。《规定》的发布和实施,是对算法推荐这一当下我国网络治理领域具有突出性的、受到广泛关注问题的积极回应,是在世界范围内首次针对互联网信息服务算法推荐建立起来的具体法律规范,是智能社会的法治秩序体系的有益补充,是“数字中国”与“法治中国”建设深度融合发展的重要探索。

《规定》中的具体规范措施,体现了我国在科技发展运用之中对于科技法理的探索、发展和落实,特别体现了如下原则:

一、伦理与法治相结合原则

《规定》中采用了整体原则与具体领域伦理规则相结合、科技伦理与主体责任相链接的规则设置模式,将伦理与法治更有机、科学地结合在一起。近几年来,众多国家、地区、组织、企业纷纷发布了人工智能或自动化系统的伦理准则,我国也予以了高度重视。例如国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》,在以人为本、促进创新、保障安全、保护隐私、明晰责任等价值观上取得了高度共识。《规定》第四条中规定了应“尊重社会公德和伦理,遵守商业道德和职业道德,遵循公正公平、公开透明、科学合理和诚实信用的原则”,吸纳了该领域的一些重要伦理原则,作为算法推荐活动应遵循的一般原则。同时,对于一些重点领域也进行了有针对性的具体规定。例如,第八条中规定“不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型”。这种伦理在法律规范中的两层次嵌入,体现了在技术发展变化快速、智能社会法律秩序还在不断探索的阶段,在一定程度上依赖与伦理相链接的法治思路。同时,为更好地引导企业重视科技伦理并采取相应措施,相比2021年8月发布的征求意见稿,《规定》在第七条中更是专门增加了建立“科技伦理审查”等管理制度和技术措施的要求,作为企业落实算法安全主体责任的重要方面。

二、社会共建共治共享原则

“共建共治共享”、建设“社会治理共同体”等思想和理论,为新时代社会治理指出了重要发展方向,也奠定了算法多元共治的本土理论基础。《规定》中着重建立了政府监督管理、推动企业自治、鼓励行业自律、发展行业标准、便利公民维权等方面的具体规范,有利于推动多元主体共同参与算法治理,是“共建共治共享”的思想和基本理论在算法治理领域中的具体落地。

三、算法分级分类治理原则

网络空间具有层次划分并且包罗万象,分级分类治理是网络与信息法治里面的普遍原则。这在《网络安全法》《数据安全法》《个人信息保护法》中均有具体体现。《规定》第十九条中专门规定了网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度,是分级分类治理原则的集中体现。此外,目前分级分类治理原则在《规定》中主要体现为两个方面:一是对于“具有舆论属性或者社会动员能力的算法推荐服务”,由于其涉及国家安全风险,因而除《规定》中的一般规则外,还特别设置了“算法备案”“自评估”的特别义务。二是面向一些特定类别的服务,分别进行了有针对性的规定,例如向未成年人提供服务(第十八条)、向老年人提供服务(第十九条)、向劳动者提供工作调度服务(第二十条)、向消费者销售商品或者提供服务(第二十一条)等。分级分类治理避免了“一刀切”式的粗犷立法,有利于增强法律规范的针对性、科学性、有效性。

四、安全与发展并重原则

如何解决好安全与发展、秩序与活力等目标之间的冲突,是科技法治领域的难点与重点。《规定》制定过程中充分体现了安全与发展并重的基本原则。例如,《规定》向用户提供“选择或者删除”用户标签功能的要求,反映了对多方利益和制度科学性的综合考量。再如,算法备案制度的建立,体现出柔性治理的特点,承载了多元化的复合型功能,包括信息收集功能、信息公示功能、企业自治激励功能等。未来算法备案等制度仍需进一步细化,在细化过程中也仍然需要坚持安全与发展并重的原则。

我国在新一轮产业革命中具有一些领先世界的优势,要发挥好这种优势,保障数字经济的健康发展,亟需探索一条算法治理的有效路径。《规定》的出台和实施,既为在实践中出现的算法问题提供了系统的治理路径,又贯彻落实了在我国科技法治实践中总结和发展的法理原则,更在具体规范构建上进行了有益的创新和探索,为未来更加综合、深化的科技法治体系构建提供了重要基础。(作者:张吉豫 中国人民大学法学院副教授,未来法治研究院执行院长