正文

专家解读|规范算法技术应用 构建算法治理规则

2022年01月05日 11:29 来源: 中国网信网

规范算法推荐技术应用并系统制定规则,是我国在数字经济快速发展、信息服务广泛拓展的进程中,为更好地贯彻习近平法治思想,建设中国特色社会主义法治体系,在互联网信息服务领域进行的一项重要制度设计。《互联网信息服务算法推荐管理规定》(以下简称《规定》)是我国互联网法治建设进程中的重要一步,体现了中国特色社会主义法治建设的正确价值导向、科技向善的伦理取向、协同共治的新型格局、全程监管的风控理念以及对特殊群体的人文关怀。

首先,《规定》系统打造了互联网信息服务算法推荐治理方案,具有全球示范性和国际引领力。

算法推荐活动,本质上是一项信息自动化筛选、个性化分发的行为,需要以信息采集及分析等处理为基础,其中既蕴含了隐私权、个人信息权益、企业利益保障等问题,又关系国民注意力治理等价值命题。将算法推荐技术应用到商业化信息服务中,能够有效提升用户偏好与推荐内容的匹配程度,也容易造成用户过度沉迷、认知窄化、过度消费以及产生新型歧视等问题。从全球立法实践来看,尚未有如此精细程度与关注广度的系统性规定。我国率先推出这部综合治理互联网信息服务算法推荐的管理规定,在全球范围内具有显著的示范效应,在算法监管领域也起到了以制定规则引导科技应用、以适度干预促进应用发展、以科学协调多方长远利益落实新发展理念的效果。

其次,《规定》与《网络安全法》《数据安全法》《个人信息保护法》等相关立法紧密衔接,共同构建多层次的互联网信息服务算法推荐规范体系。

作为一部由国家网信办、工业和信息化部、公安部、市场监管总局联合制定发布的部门规章,《规定》既承接多部上位法的管理要求,又体现出算法推荐根源于数据信息活动的特征,还成为了具有创新性和可操作性的行动指南。一是,在违法和不良信息监管方面,《网络安全法》第四十七条规定了网络运营者应当加强对违法信息的管理,《规定》第九条第二款承接细化,规定“发现违法信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门和有关部门报告”,并进一步要求“发现不良信息的,应当按照网络信息内容生态治理有关规定予以处置”。二是,对于《数据安全法》第二十七条规定的数据安全保护义务,在《规定》第七条集中得到了落实体现,明确了算法推荐服务提供者的算法安全主体责任,对建立健全数据安全和个人信息保护等的管理制度和技术措施、制定相关规则、配套相应人员和技术支撑等作出了要求。三是,在自动化决策方面,《规定》第十七条第一款承接《个人信息保护法》第二十四条第二款和《电子商务法》第十八条第一款,规定用户选择关闭算法推荐服务的,算法推荐服务提供者应当“立即停止”提供相关服务;《规定》第十七条第二款承接落实了《个人信息保护法》中个人信息主体所享有的选择、删除等权利,第三款明确提出了算法推荐服务提供者应用算法对用户权益造成重大影响的,应当依法予以说明并承担相应责任。四是,在特定领域的应用方面,按照《互联网新闻信息服务管理规定》第五条要求,《规定》第十三条明确要求“算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得互联网新闻信息服务许可”。五是,《未成年人保护法》第七十四条第一款规定网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务,《规定》第八条和第十八条作了进一步细化,提出了“不得设置诱导用户沉迷”的要求,并设置了保护未成年人的专门条款。

最后,《规定》坚持问题导向,回应社会关切,在治理格局、价值导向、风险控制、权益保障等方面作出全面制度设计。

一是,《规定》构建了协同共治的治理格局,明确了算法推荐服务提供者的算法安全主体责任。例如,第七条规定了算法推荐服务提供者要建立健全算法机制机理审核、科技伦理审查等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑,既赋予算法推荐服务提供者以能动发展的空间,同时也设定了相应的主体责任,有助于与监管部门形成良性协同的治理格局。二是,《规定》明确了算法推荐服务提供者应当坚持主流价值导向、促进算法应用向上向善的基本要求。例如第八条规定了算法推荐服务提供者不得设置诱导用户沉迷、过度消费等算法模型,这是将科技向善理念落实为具体业务要求的突出体现。三是,《规定》体现了对数字时代泛风险特征的控制,形成了集事前、事中与事后监管于一体的全流程监管机制。例如,第六条规定了算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益等行为的禁止性义务,第十四条规定了算法推荐服务提供者不得利用算法实施影响网络舆论或者规避监督管理等行为,第十五条规定了算法推荐服务提供者不得利用算法实施垄断和不正当竞争行为。四是,《规定》凸显了对特殊群体的人文关怀与权益保障,在互联网信息服务日益多元化、基础化、普及化的情况下,精细化、有侧重地满足不同群体的利益诉求。例如,第十八条规定了算法推荐服务提供者在向未成年人提供服务时,应当履行的网络保护义务,以及便利未成年人获取有益身心健康信息的企业责任,还提出了不得向其推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的禁止性义务;又如,第十九条关注了算法推荐服务的“适老化”问题,有针对性地提出了应充分考虑老年人出行、就医、消费、办事等需求,并依法开展涉电信网络诈骗信息监测、识别和处置这一老年人保护条款;再如,第二十条回应了算法调度在劳动用工领域产生的权益保障及激励问题,为此类算法推荐服务完善算法设计指明了调整方向。此外,第二十一条明确了算法推荐服务提供者不得滥用消费者的偏好、交易习惯等特征,利用算法在交易价格等条件上实施不合理的差别待遇等违法行为,这为制衡非对称信息关系、解决价格歧视等问题,提供了算法治理这一新型路径。

总体来看,《规定》针对在我国境内应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法推荐技术提供互联网信息服务的行为提出了系统治理方案,与《网络安全法》等相关法律法规共同构成了我国开展新技术、新应用治理的规则体系,是数字时代提升治理能力的重要制度探索。对落实习近平总书记提出的“依法治网、依法办网、依法上网,让互联网在法治轨道上健康运行”要求,打造清朗网络空间,用主流价值导向“驾驭”算法,具有显著的推进效果,同时还发挥着在该领域制定规则的国际引领力。期待“算法之治”能够在持续保障广大人民群众“数字权益”、稳步推进数字经济健康发展的进程中,把握住信息化变革新机遇,走好中国特色的网络强国之路。(作者:王立梅,中国政法大学数据法治研究院教授)

关闭

中共中央网络安全和信息化委员会办公室
中华人民共和国国家互联网信息办公室 © 版权所有
承办:国家互联网应急中心
技术支持:长安通信科技有限责任公司
京ICP备14042428号

Produced By CMS 网站群内容管理系统 publishdate:2022/01/05 11:38:08