人工智能生成合成内容治理已经成为全球人工智能治理的新兴命题,更是中国式现代化治理能力必须面临的重大考验。《人工智能生成合成内容标识办法》及配套的强制性国家标准(以下简称《标识办法》)的出现标志着我国在制度层面率先完成从“0”到“1”的突破,我国对生成式人工智能的治理正式从原则性规范迈向精细化规制新阶段。然而,这仅是起点,而绝非终点。现结合《标识办法》的出台背景、制度需求以及产业发展实践,作如下分析:

一是《标识办法》实现了理念到成型制度的转向,代表了当前阶段最为系统、完善的制度设计。在标识要求方面,《标识办法》首次在国家层面系统构建了人工智能生成内容的标识框架,通过“显式标识(文字、声音提示)”与“隐式标识(元数据嵌入)”双重要求,建立起用户可感知、机器可识别的信任机制。前者是在人工智能生成内容中,通过添加显式标识,让用户一眼可知“哪些是生成的”;后者则为厘清内容是“从哪里生成的”,通过元数据嵌入在文件底层记录生成来源、模型类型、创作时间等结构化信息,为事后追溯、责任认定提供技术依据。在适用范围方面,《标识办法》针对视频、文本、图片、音频四大类主流文件格式提供操作层级的规范要求,其覆盖范围已在当前相关制度中领先。与此前标识认定的相关规范相比,《标识办法》中内容更加系统化、颗粒度加细、可操作性显著增强。例如,对于不同生成内容类型,《标识办法》提出了差异化的标识嵌入与提取要求。这也有助于大幅降低企业因合规产生的业务改造成本,避免了因标准模糊导致的重复投入或适配障碍,进一步推动产业发展。此外,《标识办法》则明确了标识内容、位置、格式及读取方式等关键要素,使得无论大型企业还是中小型企业,都能在统一框架下推进技术改造,从而提升全行业的合规效率。

二是建立起完善的内容标识制度是一项长期的系统性工程,现阶段必须“先立后破、分步实施”。必须认识到,内容标识制度的完善是一项跨部门、多主体、长周期的系统工程,需要政府和企业的持续协同与投入,构建政府与市场协同共治的良性生态。一方面,《标识办法》划定了明确的规范底线。针对不同主体着力构建全链条责任机制,如用户发布生成内容需主动声明、社交平台等互联网应用需审核AI服务标识材料以及服务提供者的标识义务等。这一责任分工强化了关键环节的把控,有助于遏制生成式人工智能“造假”“冒充”等乱象,防止产业野蛮生产与发展,推动产业走向规范竞争业态。另一方面,也为企业留出了适应和调整的空间。当前,一些中小企业、传统企业等需要技术调整的过程,《标识办法》也创新提出文本符号标识等低成本标识方法。这一设计考虑到了企业实际能力差异,体现出制度设计中必要的梯度性与阶段性。未来,可以逐步拓展《标识办法》实施的范围与深度,避免“一刀切”对产业发展造成不必要的阻力,推动标识手段从“有无”向“优劣”演进,切实减轻企业合规压力,保护创新活力。

三是《标识办法》应被视为全新制度起点,技术认定和监管链条都将在动态迭代中持续完善。《标识办法》的重大意义不仅在于解决当前产业内的新生问题,更在于为我国生成式人工智能治理体系的长期演进确立基本框架和指引方向。在技术认定方面,轻量化数字水印、频域嵌入、分布式身份标识等抗攻击性强、跨平台兼容的技术手段仍有待引进,同时随着多模态大模型与生成式人工智能技术的不断融合,内容生成的形式与复杂度将进一步提升,标识认定维度必然会继续拓展,识别精度和维度也将进一步细化,并通过多场景应用模型的整合,形成“标准—检测—评价”的闭环。在监管方面,可以继续推进沙盒试点,在稳定运行的同时形成有效反馈机制,固定周期动态更新指南内容,定期修订技术指南与实施路径,强化平台审核责任与违规处置联动机制,实现产业全面推广和“未标识、不推送”的治理目标。

总言之,《标识办法》的出台,是中国式人工智能治理现代化的重要里程碑,更是全球人工智能治理体系中的“中国亮点”。它以元数据隐式标识为核心机制,推动了技术标准、制度规范、产业实践的协同创新;秉持着“先立后破、分步实施”的理念,有效兼顾了治理刚性与发展弹性,为复杂技术治理提供了动态平衡的实现路径;同时也预留了一定的制度空间,确保了制度体系的可持续演进。

未来,应继续坚持“技术为基、制度为纲、产业为用”的治理理念,持续拓展标识维度和识别精度,推进跨模态、跨平台的可信认证技术体系建设,不断完善法规标准与监管机制,增强制度的覆盖性、操作性和国际兼容性,并深化产学研用多方协同,促进创新实践与合规发展良性互动。构建起更加完善、更加高效、更加可持续的中国式人工智能治理体系,为全球数字治理贡献中国智慧与中国方案。(作者:张凌寒,联合国高级别人工智能咨询机构中方专家,中国政法大学数据法治研究院教授)