Expert Interpretation: From Technical Rules to Technical Standards: Identification Management for AI Governance

国家互联网信息办公室等部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》），旨在防范人工智能生成合成内容引发的信息安全风险，提升人工智能安全水平，规范人工智能行业应用和健康发展。从技术规则到技术标准的有机组合，是一种兼具灵活性和约束力的制度创新，符合全球人工智能治理通用做法，提出人工智能标识管理的中国方案，为全球人工智能治理规则形成和兼容协调提供更多基础共识。<br> 一、《标识办法》和《标识标准》的制定背景<br> 当前以ChatGPT、Sora、DeepSeek等为代表的生成式人工智能迅猛发展，借助人工智能生成合成文本、图像、音频、视频、虚拟场景等，逐渐演变为重要的信息生产模式。然而，伴随技术门槛降低，虚假信息、深度伪造、恶意输出等安全问题突出，加剧传统信息安全风险的动态性、渗透性和全局性。联合国2024年《治理人工智能，助力造福人类》报告将“损害信息完整性”列为排名第一的风险。<br> 生成合成内容标识已成为国际惯例。无论是已施行的欧盟《人工智能法》、正式出台的澳大利亚《安全和负责任的人工智能咨询：澳大利亚政府的临时回应》，还是正在制定中的美国《编辑和深度伪造内容来源保护完整性法案》《数字内容溯源标识法案》、英国《人工智能（监管）法案》等提案，均对水印、标识义务有要求。在我国，2023年1月施行的《互联网信息服务深度合成管理规定》提出针对文本、图像、音频、视频、虚拟场景等信息内容的标识要求，2023年8月施行的《生成式人工智能服务管理暂行办法》承袭这一规定。尽管各国对数字水印、数字指纹、加密元数据等标识技术的具体要求存在不同，对平台标识义务的强度设定也存在差异，但在从事后内容审核转向生成端风险内嵌控制、提高人工智能治理技术能力的理念是一致的。<br> 二、《标识办法》和《标识标准》的核心内容与治理逻辑<br> 作为网络信息内容治理制度体系的有机组成部分，《标识办法》和《标识标准》是我国人工智能法治建设进程中的重要一步，既与《中华人民共和国网络安全法》一脉相承，又与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等有效衔接，构建的人工智能标识管理要求具有体系性、技术性、协同性、融贯性、全流程、精细化等特点，在明确治理标准和落地机制、促成治理实效方面，具备可操作性、落实基础和前景。<br> 1.体系性、技术性：技治与法治互嵌运行，探索显隐双标识机制<br> 技治与法治彼此的内嵌、牵连、塑造在人工智能标识管理中尤为明显。《标识办法》援引的《互联网信息服务深度合成管理规定》涵盖人工智能输出的基本数据类型，并明确各类信息内容的可标识性。其中，显式标识能够对主体权利、义务进行明确提示；而元数据的隐式标识、基于技术中立性选择的内容隐式标识和加密，在不影响输出数据质量、用户感观的同时，其内容的完备性、唯一性要求，形式的强制性、规范性等共同构成结构化数据的一部分。《标识标准》中显式标识与隐式标识的有机结合、综合运用，使得通过技术检测机制识别人工智能生成合成内容成为可能，并在一定程度上具有确立主体行为性质的初步证据效力。<br> 2.协同性、融贯性：多部门监管统筹协调，多制度衔接资源整合<br> 在人工智能标识监管执法中，厘清相关主管部门管理职责，明确标识违规行为法律责任，强化标识管理与算法备案、安全评估等制度的衔接和程序协调至关重要。《标识办法》规定，服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享。《标识办法》明确，违反本办法规定的，由网信、电信、公安、广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。<br> 3.全流程、精细化：产业生态链治理，科学设定上下游主体义务<br> 《标识办法》和《标识标准》从网络信息服务提供者这一整体视角切入，进一步明晰适用标识义务的主体。通过深入审视各主体在人工智能生态体系中的角色、定位、行为模式以及影响程度，精准区分为生成合成内容服务提供者、内容传播服务提供者这两大类主体。同时，针对其他关键参与方，如互联网应用程序分发平台主体的责任范畴等，也进行明确规定，基本实现对生成合成内容上下游主体的全覆盖。将行为主体作为抓手进行识别和义务分配，法律的追责机制和后果承担方得以落实。此外，《标识办法》体现出在数据内容创作与打击滥用间寻求平衡的考量，也表明在立法思路上对当前蓬勃发展的人工智能产业整体上的鼓励倾向，可理解为早期确立的平台避风港原则在新时代背景下的创新性发展。<br> 三、《标识办法》和《标识标准》的制度意义<br> 从制度构建角度审视，《标识办法》和《标识标准》的制度化进程，本质是将人工智能标识产业实践经验升维为有约束力的治理范式。依托“立法确认-标准转化-产业传导”机制，我国构建起从技术共识迈向法律秩序的进阶之路。这一过程契合我国人工智能立法秉持的总体思路，即灵活运用既有规则，鼓励行业产业先行开展试点探索，同时针对痛点、难点问题精准发力，靶向施策，其产生的影响也将辐射至全球人工智能治理的理念层面以及标准实践领域。<br> 从规范协同角度审视，人工智能标识治理体系呈现“规则+技术”双轮驱动特征，覆盖从内容生产到传播的全链条治理。《标识办法》侧重构建“责任链闭环”，通过主体资质审查、过程性义务设定等形成行为约束。《标识标准》聚焦“技术锚点”建设，针对关键技术要件确立具备可验证性的实施基准。我国《中华人民共和国标准化法》规定，对保障人身健康和生命财产安全、国家安全、生态环境安全以及满足经济社会管理基本需要的技术要求，应当制定强制性国家标准。将生成合成内容标识的最低要求上升为国家强制性标准，不仅是对《标识办法》的具体落地，更是表明在社会应用全过程中，人工智能标识及活动已与人身健康和生命财产安全、国家安全等紧密相连。<br> 从技术治理效能角度审视，人工智能标识制度并非颠覆人工智能既有的生产环境，而是致力于在现有生产基础之上，提升人类对相关内容的辨识度以及机械处理的准确性。《标识办法》和《标识标准》不仅及时响应了将人工智能的“海量、逼真”输出纳入监管视野的紧迫需求，标准化且有所区分的显式、隐式技术要求也为权利记载、算法备案、数据溯源、执法协助、安全评估等工作，提供具有普适性的、可量化度量与评价的操作方法及实用工具，同时通过建立“生成即标识”的技术规范推动产业内生合规，实现安全和发展之间的动态平衡。这一制度体系也切实回应在人机互动、人机融合的新一轮技术跨越式发展中，人类对真实与虚拟进行辨别，从而形成行为、决策依据的基本需求。<br> 四、《标识办法》和《标识标准》的未来展望<br> 可以预见，我国人工智能安全执法将延续重点事项监管、促进产业有序发展的方向。伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规有望成为相关部门开展人工智能监督检查、专项行动的重点关注领域。在此进程中，一系列深层次问题亟待审慎思考与妥善解决——如何平衡发展与安全、创新与责任、公益与私益等多元目标的内在张力，怎样达成不同执法部门、不同层级、不同地域执法的一致性、协调性，又该通过何种路径提升执法的专业化、精细化、智慧化水平，从而培育出安全、开放、公平、符合国情的人工智能产业生态环境。这些都是标识管理中需要深入探究的重要课题。<br> 此外，“人的因素”应融入人工智能标识管理的全过程，着重提升公众对于信息内容真实性、来源可追溯性的批判性评估能力，无疑是重中之重。积极培育公众人工智能素养，确保人工智能技术成果普惠共享，这也是应有之义。（作者：金波，公安部第三研究所副所长）