2025年3月14日,国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》)及其配套强制性国家标准,自9月1日起正式实施。这一重要制度的出台,标志着我国在AI治理领域迈出了关键一步。在标识逐步成为国际人工智能安全治理共识的时代背景下,我国针对性地提出了中国方案。《标识办法》发布以来,标识实施工作呈现出全方位推进、多层次落实的良好态势,各地网信部门、企业平台共同构建起覆盖全链条、全环节的标识治理体系,显著提升用户对人工智能生成内容的辨别能力,各场景应用不断深化,为人工智能健康有序发展提供有力保障。

一、多措并举推动标识工作落实,构建全方位推进格局

(一)行业协会组织开展宣贯活动,在多省市持续推进覆盖

中国网络空间安全协会积极组织开展标识办法及标准宣贯活动,在全国多省市持续推进覆盖。协会充分发挥专业优势,邀请相关技术部门和标准编制专家,深入解读《标识办法》的政策要求和技术标准的具体规范,系统阐述标识工作的重要意义,帮助企业和相关机构准确理解标识义务和实施路径。截至目前,相关宣贯活动已覆盖全国9省市,参与企业和机构达700余家,为制作平台、传播平台、应用分发平台等不同主体提供了专业化指导,帮助各类企业都能准确把握政策要求,为标识制度的有效落实奠定了坚实的认知基础和工作基础。

(二)技术支撑部门强化协同保障,多方面促进工作落实

在国家互联网信息办公室指导下,国家互联网应急中心作为核心技术支撑单位协同发力促进标识工作稳妥落实。深入推进标识相关政策法规实施指导,以多种形式面向研究机构、平台企业、专业人员开展技术解读,从技术发展、技术要求、实现路径、行业建议等多角度阐述《标识办法》的内涵要义、核心要求和实施方法。积极回应企业落实标识责任开展技术实践过程中存在的难点堵点问题,提供建设性指导意见,帮助企业有效应对标识落地过程中的技术挑战。结合行业实际扎实构建系列技术能力,有力支撑标识落实工作的顺利开展,充分发挥技术部门的带动引领作用。

(三)属地网信主动作为,积极对接企业开展政策宣贯

各地网信部门充分发挥属地管理优势,主动作为,积极对接辖区内重点企业,扎实开展政策宣贯及实施指导工作。采用“因地制宜”的标识工作落地引导模式,针对不同规模、不同业务类型的企业,提供个性化的政策解读和技术指导。通过组织面向属地企业的标识政策答疑、技术路线交流、实地调研走访等方式,确保政策传达的及时性和准确性。各地网信部门提供的精准化、差异化的工作指导,有效提升了企业对标识工作的理解度和执行力,推动形成了政府引导、企业响应的良性互动格局,为标识工作在各地的顺利推进提供了有力支撑。

(四)企业开展技术探索,头部企业积极贡献实践指南

各企业平台积极开展标识落地技术探索实践,在文本、图像、音频、视频等各个模态及不同应用场景下,有效完成了标识要求的技术实现,形成了覆盖全链条的标识技术体系。头部企业充分发挥技术优势和示范引领作用,积极贡献技术实施实践经验,推动形成了《人工智能生成合成内容标识方法 文件元数据隐式标识 文本文件》等6项网络安全标准实践指南,明确各个模态典型的元数据标识、安全检测及防护技术方案,为行业提供了详实具体的技术指导,有效降低了行业实施标识的技术门槛,实现了合规要求与技术创新的有机统一。

(五)平台企业提升标识工作透明度,全面介绍标识落地举措

在9月1日《标识办法》正式实施前夕,各企业陆续通过多种方式发布公告提示,全面向用户介绍本平台标识落地情况和具体举措。通过系统弹窗、功能页面提示、用户协议更新、官方公告等形式,主动告知用户“标识功能已正式上线”,详细说明标识的作用、意义和使用方法。各平台结合自身业务特点,采取差异化的用户告知策略,这种全覆盖、多层次的用户告知机制,确保用户能够充分了解和正确使用标识功能,有效提升了标识制度的社会认知度和用户接受度,为标识工作的深入推进营造了良好的社会环境。

二、标识落地成效显著,用户感知度明显提升

(一)显式标识有效提示生成内容,用户辨识能力增强

显式标识作为用户可直接感知的标识方式,在各平台得到了规范实施。生成的文本内容普遍添加内容或角标提示信息;图像内容通过图片水印信息方式进行明显标注;音频内容在适当位置添加语音或者节奏提示;视频内容在开头、结尾或画面中加入视觉标识。各平台在标识的位置选择、大小设计、颜色搭配等方面逐步形成更成熟的落地方案,确保标识清晰可见、易于识别。显式标识的有效实施,为构建清朗网络空间提供了重要支撑。

(二)隐式标识提供打标工具,周边标识体系完善

隐式标识是通过在文件元数据中嵌入标识信息,记录生成合成内容的关键属性信息。各平台建立了用户生成合成内容声明机制,当用户上传可能包含人工智能生成合成元素的内容时,平台提供了声明工具,便于用户对生成合成内容进行声明提示。同时,传播平台在内容展示、分享、下载等环节提供周边标识提示,提示浏览用户注意辨别内容的真实性。隐式标识的技术实现日趋成熟,覆盖了主流的文件格式和应用场景。用户声明工具的便利性不断提升,操作流程更加简化,用户体验持续优化,声明工具的无感化、便利化程度的提升,将为标识技术应用的持续深化注入活力。

(三)全链条责任体系建立,各环节标识义务明确落实

各类平台严格按照《标识办法》要求,在人工智能生成合成内容的制作、传播、分发等各个环节切实履行标识义务,形成了责任清晰、协调有序的全链条管理格局。制作平台作为源头环节,确保生成内容从源头就具备可识别、可溯源的特征。传播平台作为中间环节,对平台上传播的人工智能生成合成内容进行有效识别和管理,在内容展示、分享、转发等环节保持标识信息的完整性和准确性。应用分发平台作为入口环节,严格履行审核把关职责,认真核验服务提供者的标识功能实现情况。通过各环节的协同配合和责任落实,初步构建起覆盖“生成-传播-分发”全链条的标识管理体系,为标识制度的有效运行提供了坚实的组织保障。

三、持续完善标识体系建设,打造人工智能健康发展坚实基础

(一)形成隐式标识方法共识,提升跨平台互认效率

着力推进隐式标识方式形成更加广泛的行业共识,明确不同文件格式、不同应用场景下的隐式标识实现标准,充分考虑跨平台标识互认的可行性,提升标识互认效率。通过统一技术路径,有效降低隐式标识互认的实施成本,指导企业采用更加适配的隐式标识解决方案,推动行业持续完善有效支撑跨平台标识互认的标识应用生态。

(二)持续推进技术研发,提升安全管理能力

加强标识相关技术的持续研发投入,在生成合成内容识别、标识安全防护等方面不断提升技术能力。推动人工智能检测技术的创新发展,提高对各类生成合成内容的识别精度和处理效率,提升对互联网存量生成合成内容的安全管理能力。强化标识安全防护技术研究,防范标识信息被恶意篡改或绕过的风险,提升生成合成内容标识的安全性与稳健性。

(三)实施精细化标识落地指引,兼顾尺度和温度

针对人机高频交互等特色化应用场景,研究制定具有场景特色的标识要求,实现精细化管理模式。对虚拟数字人、智能助手、智能对话等应用场景,在确保标识效果的同时,充分考虑用户体验和业务需求。在标识工作推进过程中,统筹考虑标识管理的规范性与灵活性,实现监管尺度和人文温度的有机统一,支持标识技术与业务场景的深度融合。

(四)提升公众意识,促进正确认知形成

通过标识制度的实施,带动社会对生成合成内容的正确认识。加强面向不同群体的标识知识普及工作,通过公益宣传、科普教育、媒体传播等多种方式,提升公众对人工智能生成合成内容的识别能力和风险防范意识。推动标识教育持续走深走实,从源头培养公众的AI内容识别能力,建立标识使用的社会监督机制,形成全社会共同维护标识制度的良好氛围。

(五)顺应时代发展,为人工智能健康发展保驾护航

面对“人工智能+”带来的千行百业巨大变革,标识体系要顺应时代发展趋势,持续优化完善。密切跟踪人工智能技术发展动态,及时研判新技术、新应用对标识工作的影响,建立标识制度的迭代升级机制,确保标识要求与技术发展相适应。积极参与国际标识治理规则制定,推动形成全球人工智能安全治理的中国方案,通过持续完善标识体系建设,为未来中国人工智能的健康发展提供坚实保障,实现人工智能技术发展与社会治理的良性互动。

人工智能生成合成内容标识制度的建立和实施,是我国在数字时代治理体系建设中的重要创新实践。通过各方的多措并举和协同配合,标识工作已经取得显著成效,构建了政府、企业、社会多方共治的良好局面。针对重点平台、关键环节,将综合利用督促引导、提醒警示、限时整改等管理手段推动平台企业全面落实标识义务,确保标识责任链条不缺项、不断链。面向未来,我们要始终坚持以习近平新时代中国特色社会主义思想为指导,统筹发展与安全,不断完善标识制度,提升治理效能,为建设网络强国、推动人工智能高质量发展作出更大贡献。(作者:刘博,国家互联网应急中心副主任)