近日,《数字虚拟人信息服务管理办法(征求意见稿)》(以下简称《办法》)对外发布,标志着我国在数字虚拟人的人工智能前沿业态治理领域迈出关键一步。数字虚拟人作为数字技术融合创新产物,已从娱乐场景向金融、医疗、文旅等垂直领域落地,成为数字经济发展新载体与网络空间服务新形态。《办法》紧扣数字虚拟人信息服务的发展实际与治理需求,构建了全维度治理框架,既是对新兴业态的及时回应,更是完善网络空间安全治理体系的重要举措,为产业健康发展划定清晰的安全红线,彰显了我国网络空间安全治理的前瞻性与科学性。

一、创新业态崛起:数字虚拟人发展态势与治理紧迫性

数字虚拟人从形象复刻到智能交互,成为连接物理与数字世界的重要纽带,呈现技术融合化、场景多元化、应用普及化特征。从应用来看,其已从虚拟偶像、数字主播,延伸至金融客服、医疗导诊、新闻传播等领域,深度融入生产生活与公共服务。从产业来看,我国已形成涵盖底层算法、内容制作、硬件终端的完整体系,成为数字经济创新发展的重要增长点。

数字虚拟人作为数据、算法、形象的复合产物,其服务全流程涉及数据处理、人格权界定、内容传播等问题,若缺乏有效制度约束,易引发个人信息泄露、人格权侵害、未成年人权益受损等问题,损害公民、法人和其他组织的合法权益。数字虚拟人治理已非单纯的产业规范问题,而是关乎网络空间安全、社会公共利益与数字经济高质量发展的战略性科学问题。《办法》的出台,正是通过系统性制度设计,实现技术创新与风险防范的动态平衡。

二、风险多维凸显:数字虚拟人的网络空间安全挑战

数字虚拟人信息服务的风险具有跨领域、传导性、隐蔽性特征,关乎公民个体合法权益,影响整体网络空间安全。一是数据安全与个人信息保护风险。数字虚拟人建模、形象生成高度依赖自然人肖像、声音等敏感个人信息,甚至涉及逝者相关信息,数据高敏感、高价值,易引发数据泄露、违规倒卖,为网络诈骗等违法犯罪提供便利。二是人格权侵害风险。数字虚拟人的形象复刻与人格模拟特征,易引发未经同意使用他人肖像声音、丑化污损虚拟人形象、冒用知名人士笔名艺名等行为,侵害自然人肖像权、姓名权等人格权益,造成网络空间身份混淆,破坏公众对数字内容的信任体系。三是未成年人保护风险。未成年人心智尚未成熟,缺乏虚实辨别能力,易受数字虚拟人服务不良影响。诱导沉迷虚拟交互、提供虚拟恋爱、诱导消费等行为,会严重损害其身心健康。四是认知安全与网络生态风险。数字虚拟人作为网络信息服务新载体,其内容生产传播直接影响清朗网络生态建设。拟人化互动类数字虚拟人易通过算法迎合用户偏好,引发用户情感依赖、弱化现实社交能力。

三、锚定治理航向:网络空间安全战略下的重要原则

《办法》的制度设计始终立足总体国家安全观,紧扣网络空间安全战略要求,结合数字虚拟人信息服务业态特征,确立了治理原则与价值导向。一是坚持价值引领,恪守网络空间治理底线。明确服务提供与使用主体必须坚持社会主义核心价值观,遵守法律法规,维护国家安全和社会公共利益,尊重社会公德与伦理道德。二是坚持权益至上,强化全维度合法权益保护。将保障公民、法人和其他组织的合法权益作为治理出发点和落脚点,围绕个人信息、人格权构建专项保护体系,针对未成年人设置特殊保护条款,以制度化设计防范权益侵害风险。三是坚持安全与发展并重,包容审慎引导产业创新。划定安全红线、强化风险防范、鼓励应用落地,在智能向善、安全可控的前提下,推动示范应用、完善产业生态,支持研发创新和产学研协同,为产业发展预留制度空间,平衡技术创新与安全治理。四是坚持多元共治,构建协同监管治理格局。多部门协同监管,鼓励行业组织加强自律,接受社会监督,整合多方治理资源,形成权责清晰、协同高效的治理新格局。五是坚持标准引领,推动产业国际化发展。鼓励参与国际规则制定与交流合作,推动国内产业形成统一规范的标准体系,提升网络空间治理国际话语权。

四、守正创新:构建数字虚拟人全链条治理体系

(一)守正延续治理框架,夯实安全治理基础

《办法》多项制度与我国现有网络空间治理法律法规、监管规则一脉相承,体现治理体系的连续性,为数字虚拟人治理提供坚实制度支撑。一是延续算法治理要求,强化智能内核监管。要求具有舆论属性或社会动员能力的服务提供者、技术支持者,履行算法备案、变更、注销义务,提升算法透明度,防范算法滥用带来的内容安全风险。二是遵循数据安全法规,落实全流程数据管控。明确使用合法来源数据,服务提供者落实数据安全保护主体责任,采取技术措施保障数据存储、传输安全,从源头防范数据安全风险。三是承接深度合成管理规则,明晰虚实边界。要求设置“数字人”字样显著提示标识,延续身份标识义务,防范用户认知混淆。四是坚持全流程监管,完善监督追责机制。延续事前评估、事中监测、事后追责思路,设置安全评估、监督检查制度,建立举报机制,畅通违法违规反馈渠道,确保风险早发现、早预警、早处置。

(二)创新设计治理制度,防控产业安全风险

紧扣数字虚拟人形象拟人化、数据敏感化、场景多元化的技术特征,《办法》设计创新性制度,精准防控产业特有风险,填补治理空白。一是个人信息保护精细化规则。个人信息用于建模等活动需取得自然人单独同意,自然人撤回同意后应注销数字虚拟人,明确逝者肖像、声音等信息的使用规范。二是数字人格权全方位保护。明确不得以丑化、污损等形式侵害他人的人格权,未经同意不得提供可识别特定自然人身份的服务,保护范围涵盖有社会知名度的笔名、艺名、网名等衍生标识,精准界定虚拟人与自然人的人格权边界。三是未成年人保护刚性化条款。禁止诱导未成年人沉迷、提供虚拟恋爱、诱导消费、诱导信教等行为,从内容、行为、交互多维度划定服务禁区。四是人工智能拟人化互动服务领域专项化规范。禁止诱骗或过度诱导用户使用,同时鼓励对用户自杀、自残等倾向进行积极干预和专业救助,兼顾防沉迷与生命健康保护,体现治理的人文关怀。五是传播平台责任制度化要求。明确传播平台需留存日志信息、优化内容审核和账号管理,将平台主体责任具体化,推动形成服务提供者、传播平台双层责任体系,强化信息内容与认知安全的全链条管控。六是梯度化法律责任设计。设置警告、通报、罚款的梯度罚则,根据违法情节实施差异化处罚,强化市场主体合规意识,避免一刀切重罚抑制产业创新,体现过罚相当的法治原则。

五、治理价值彰显:赋能数字经济高质量发展

《办法》的制定是对数字虚拟人新兴业态的专项规范,为数字经济高质量发展和网络强国建设提供重要制度支撑。从国家层面看,《办法》补齐了数字虚拟人业态的治理短板,完善了网络空间安全治理制度体系。通过将其纳入法治化、规范化轨道,从多维度防范风险,筑牢了网络空间权益保护与数据安全防线,提升了我国网络空间安全治理的精细化、专业化水平,契合总体国家安全观和网络强国战略要求。从产业层面看,《办法》为数字虚拟人产业划定清晰合规边界,通过明确市场主体责任,消除企业发展顾虑,推动安全治理、合规经营内化为关键业务流程。明确鼓励创新发展导向,为技术创新、场景落地提供制度保障,推动数字虚拟人技术与实体经济深度融合,释放数字经济创新潜能。从国际层面看,《办法》为全球数字虚拟人治理提供了中国方案,彰显我国网络空间治理的责任与担当。将“以人为本、智能向善”理念与网络空间安全要求相结合,构建了兼顾权益保护、风险防范与产业创新的治理框架,为全球治理提供可借鉴经验。鼓励参与国际规则制定,提升我国在全球网络空间治理的话语权,推动构建网络空间命运共同体。

六、结语

随着《办法》的制定与迭代完善,数字虚拟人信息服务将在安全合规框架下持续释放技术价值,垂类应用将更具深度与广度,成为赋能实体经济、丰富数字生态、推动数字经济高质量发展的重要力量。网络安全技术的持续创新与融合应用,将为数字虚拟人筑牢坚实保护屏障,推动智能向善、安全可控、合规有序的健康发展,为网络空间安全治理与数字经济高质量发展注入发展新动能。(作者:黄永峰,中关村实验室双聘专家、研究员