2025年9月1日起，国家互联网信息办公室联合多部门发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》）正式生效，标志着我国内容标识制度进入正式落地实施阶段。在我国深入实施“人工智能+”行动背景下，探索推进内容标识制度实践，对于提升我国人工智能安全能力水平，加快形成动态敏捷、多元协同的人工智能治理格局，保障人工智能健康发展具有重要意义。
一、智能经济加速，安全护航更显重要紧迫
近日，国务院《关于深入实施“人工智能+”行动的意见》明确提出“推动人工智能与经济社会各行业各领域广泛深度融合”，将“人工智能+”升级为国家战略行动，全面激发产业变革新动能、培育智能经济新范式。在此背景下，传统信息内容风险可能体现出新特性、新形式、新问题。一是内容生成质量提升，加大辨别难度。相较于以往，大模型通过海量多模态数据训练，可生成高度逼真的多模态信息内容，例如复刻权威媒体的行文范式、模拟特定人物的形象风格，导致大量用户误信。二是人工智能跨界融合，扩大风险范围。伴随人工智能加速应用于医疗、商业、金融等领域，虚假信息风险可能导致医疗误诊、虚假宣传、市场波动等问题。以智能终端为例，虚假信息生成呈现即时交互、多感官触达等特征，可能助长虚假诱导性消费购物行为等。三是内容传播路径多样，源头溯源困难。人工智能生成内容呈现去中心化、跨平台化和跨境传播特征，信息源头隐匿化，追溯难度显著增加。同时，人工智能生成内容易于被批量篡改和重组，进一步加剧溯源困境。当前，AI内容识别溯源已从技术问题升级为系统性治理难题，亟需通过内容标识制度构建“可识别、可追溯、可问责”的安全防线，为智能经济高质量发展筑牢根基。
二、明确标识要求，筑牢AI“技治+法治”防线
为有效化解生成合成内容难识别难溯源困境，《标识办法》从标识义务、标识主体、监管协调等方面明确内容标识制度要求，构建人工智能生成合成风险“技治+法治”双重防线。
一是提出显式隐式双标识义务，细化不同内容标识要求。《标识办法》和相关标准根据内容类型与风险等级，构建了显式与隐式双重标识要求，为AI标识提供基本框架：一方面，针对可能导致公众混淆或者误认的内容，要求添加显式标识，并根据文本、音频、图片、视频等不同的服务场景明确标识位置、样式、区域和大小等具体要求，既实现对用户的提示警示效果，又尽量保障用户良好体验。另一方面，要求服务提供者在生成合成内容的文件元数据中添加隐式标识，嵌入生成合成内容属性信息、服务提供者名称或者编码等信息，为内容溯源与责任认定提供技术保障。
二是打通全链条治理路径，科学设定主体责任义务。《标识办法》的内容标识要求覆盖设计开发、上架分发、用户使用、内容传播和责任追溯等全链条，依据生成合成内容服务提供者、内容传播服务提供者、互联网应用程序分发平台、用户等不同主体在潜在风险构成中的作用和合规能力，科学划分责任义务，实现生成合成内容上下游链条的全覆盖。例如，今日头条、快手、小红书、哔哩哔哩、喜马拉雅等制作平台、传播平台均发布公告，创新探索内容标识制度落地方案，落实双标识、标识检测等义务，并提供“作者声明”等功能，激励人工智能向善应用，保障正常合规使用AI工具。这既体现了对技术创新的包容和鼓励，又彰显了对潜在风险的高度警惕和有效防范。
三是衔接现有法律法规体系，推进多部门监管统筹协调。作为人工智能治理的重要一环，《标识办法》既与《网络安全法》一脉相承，又与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等有效衔接，在总则部分就明确指出其与现有法律、行政法规和部门规章的紧密联系，并在“服务提供者”等关键概念上沿袭已有规定。与此同时，《标识办法》明确相关主管部门管理职责，强化标识管理与算法备案、安全评估等制度的衔接协调。例如《标识办法》规定，服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享。
三、坚持系统观念，加快内容标识制度落实落细
总体来看，《标识办法》构建的标识制度打破了生成合成内容带来的信任赤字，形成生成即标识、传播必核验的闭环管理，为全球人工智能治理贡献了重要的中国智慧。未来，在实施中要依据实践，为规则填补细节，为技术注入伦理，共同推动全体人民共享人工智能发展成果。
一是内容标识是践行以技治技的先行探索，坚持分类施策逐步全面覆盖。“以技治技”是应对AI技术滥用风险的重要理念。作为“以技治技”的关键实践，内容标识通过为AI生成内容打标，化解“人工智能+”应用中难识别、难追溯等问题，维护用户合法权益和社会公共利益。然而，标识制度的细化落地受到技术成熟度、产业差异、场景复杂性等多重因素影响，细化落地并非简单的技术叠加，而是技术、产业、监管、标准多维度协同的系统工程，需在技术上分阶段覆盖、在主体上分层次引导、在场景上分类型施策，循序渐进激发和实现内容标识的制度价值。
二是内容标识是优化行业生态的共同需求，推动多方协同加快普及适用。用户信任是释放AI内容价值的基础，若用户对信息内容真伪难辨、风险未知，则会本能抵制，制约技术应用创新发展。内容标识制度试图通过“透明化”重建用户信任，有效追溯违法违规责任主体，推动释放技术对实体经济的赋能价值。在落地实践中，部分头部企业已在内容标识策略、多模态鉴伪技术等方面积极探索，形成行业最佳实践。推动内容标识的普及适用，需要全行业强化协同，建立跨平台协同机制，着力推动技术标准统一、安全能力普惠，共同推动标识制度全面落地。
三是内容标识是推进国际合作的重要方向，构筑标准引领增强国际互信。当前，人形机器人、智能体等AI应用快速发展，进一步加速人工智能全球风险传播速度、加剧责任跨境追溯难度。内容标识作为技术规制的“通用语言”，可成为弥合各国监管差异、推进国际合作的有效抓手。为配合《标识办法》有效落地，我国先后发布《网络安全技术 人工智能生成合成内容标识方法》及7项标准实践指南，推动内容标识制度的工程化、技术化、标准化。未来，系列标准将在实践中积累形成“内容标识工具包”，成为可推广可复制的国际公共产品，推动安全可信AI惠及更多国家和人民。
作者：李强治 中国信息通信研究院政策与经济研究所副所长
