Full text · 原文
2,676 字
近年来，在人工智能技术的赋能下，数字虚拟人进入飞跃发展阶段并引起广泛关注，为经济社会发展带来活力和机遇。与此同时，仿冒社会名人欺骗网民牟利、侵害他人名誉、从事商品虚假宣传等数字虚拟人服务有关问题，也引起各方关切。近日，国家互联网信息办公室就《数字虚拟人信息服务管理办法（征求意见稿）》（以下简称《办法》）公开征求意见，系统强化数字虚拟人服务全流程管理，是推动网络空间法治化的又一实际举措。<br>
一、坚持发展与安全并重，引导数字虚拟人服务健康发展<br>
数字虚拟人作为真实与虚拟交融的载体，在40余年的发展历程中，与图形学、数字图像处理、人工智能等技术的突破紧密相连，呈现类人性、虚拟性、可定制性等特点，并以超写实、强交互为趋势，走向制作工厂化、服务平台化、应用多元化。上游技术支持者、中游服务提供者、下游服务使用者以及传播平台共同构建了数字虚拟人产业生态，呈现出蓬勃发展的态势。数字虚拟人服务在人工智能拟人化互动服务、公共服务、经营销售等领域受众广泛，与此同时，多重网络乱象和权益侵害问题时有发生。我国网民对数字虚拟人的知晓度和接受度较高，出台《办法》既是促进数字虚拟人信息服务健康发展的重要要求，也是治理数字虚拟人服务突出问题的现实需求。<br>
一是积极维护国家安全和社会公共利益。数字虚拟人迷惑性强、真实度高，存在被用于生成有害内容、散布谣言、教唆犯罪、恶意诱导消费等风险。在医疗、金融等专业领域使用数字虚拟人出诊看病、智能荐股，极易对网民产生误导，甚至危害民众生命财产安全。出台《办法》划定数字虚拟人服务安全底线，明确各类主体的责任义务，对维护国家安全和社会稳定具有积极意义。<br>
二是切实指导尊重社会公德和伦理道德。数字虚拟人物和场景带来的沉浸式体验，可能使网民特别是未成年人群体，不自觉地沉迷并产生依赖，对未成年人身心健康产生不良影响，引发或者诱导未成年人实施违反社会公德行为等。同时，使用数字虚拟人传播血腥、惊悚等致人身心不适的内容，或者煽动人群歧视和地区歧视的内容等，会对网络生态造成负面影响。出台《办法》切实指导数字虚拟人服务在保护未成年人、防范不良现象等方面的具体行动，有助于营造社会道德发展的良好生态。<br>
三是有力支撑权益保护。使用他人未授权的肖像、声音等个人信息生成的数字虚拟人真假难辨，对他人名誉权等产生较大伤害，也加剧个人信息泄露风险。未经授权使用他人作品或者制品制作数字虚拟人并用于商业目的，会严重影响市场秩序。同时，真人驱动型数字人与真人驱动方存在身份同一性争议，可能侵害真人驱动方的个人信息、自主择业等合法权益。出台《办法》强化个人信息、人格权、知识产权等权益保护，是保障数字虚拟人服务规范健康发展的有力支撑。<br>
二、坚持靶向施策，全流程规范数字虚拟人服务<br>
一是建立全流程管理框架，明确各类主体责任义务。《办法》以内在使用技术和外在呈现效果相结合的方式定义数字虚拟人，将通过数字虚拟人面向境内公众提供互联网信息服务纳入管理范畴。同时，厘清在数字人形象建立、运作管理、实际使用和网络传播各阶段所涉及的技术特点和产业模式，区分了数字虚拟人信息服务技术支持者、服务提供者、服务使用者、传播平台四类责任主体，首次提出了在数字虚拟人服务内容生产和运作管理中发挥重要作用的服务使用者的概念，强调服务使用者需要在数字虚拟人身份告知、数据处理、内容审核、应急响应等方面承担与服务提供者相同的责任义务。这种分阶段、全流程的管理框架，有助于督促各类主体切实履行社会责任，筑牢可问责安全防线。<br>
二是强化乱象治理和权益保护，鼓励创新并规范应用。《办法》贯彻“技术向善”宗旨，支持数字虚拟人技术的研发创新和产学研协同，针对数字虚拟人应用环节出现的各类网络乱象，明确不得利用数字虚拟人服务实施的若干违法行为，以及应当积极防范抵制的各类不良现象。以安全、可靠、可控为前提，推动人工智能拟人化互动服务、政务服务、公共管理等领域示范应用。同时，《办法》强化权益保护，要求提供、使用数字虚拟人服务应当尊重知识产权和商业道德，未经同意不得使用他人肖像、声音等个人信息用于数字虚拟人建模、形象生成、场景构建等活动，不得提供足以识别特定自然人身份的数字虚拟人服务、禁止诱导未成年人沉迷数字虚拟人服务。这种“立规矩、明导向”的治理模式，既为产业发展留足空间，又能够有效防范技术滥用风险。<br>
三是延续发展当前治理逻辑，承接我国现有法律体系。《办法》吸收融合了我国在人工智能、算法管理等方面的治理经验，并专门针对数字虚拟人服务的特点，进行了相应的制度设计。针对数字虚拟人“以假乱真”模糊真实与虚拟边界的问题，明确提出全程显著显示“数字人”标识的身份告知要求，充分适配现有标识技术路径，确保企业能落地操作。同时，有机衔接国家网信办等部门已出台的部门规章、规范性文件中对算法备案、新技术新应用安全评估的相应规定，深化贯通协同，形成有效合力。《办法》的提出增强了治理制度供给，体现了管网治网制度设计的一致性和连贯性，巩固了安全评估、标识管理等机制，有利于提升网络治理的系统性和协同性。<br>
三、坚持多元共治，推动数字虚拟人服务治理走深走实<br>
一是加强协同监管，有力保障实施落地。作为回应网民关切的具体举措，《办法》坚持问题导向，在后续实施落地过程中，需要面向数字虚拟人服务所呈现的产业差异性、场景复杂性、技术多元性等特点进行针对性监督管理，网信部门统筹协调、各有关部门依据各自职责完善与创新发展相适应的科学管理方式，充分考虑数字虚拟人产业不同环节、不同类型主体的技术合规能力，细化与其相称的责任和义务，平衡数字虚拟人领域安全治理和企业创新激励。<br>
二是强化行业自律，层层压实主体责任。《办法》鼓励数字人相关行业组织加强行业自律，在数字虚拟人信息服务涉及的多方主体严格履行责任义务的基础上，逐步形成广泛的行业共识，建立健全团体标准、行业准则和自律管理制度，规范相关技术研发和产品推广，营造良好的数字虚拟人应用生态体系，推动数字人及其上下游技术服务的合法合规发展，积极健康向上向善使用并接受社会监督。<br>
三是统筹发展治理，规范促进应用落地。《办法》鼓励数字虚拟人服务在各领域规范应用与落地，支持数字虚拟人技术的研发创新和产学研协同，建立健全数字虚拟人技术标准体系，积极参与国际规则制定与交流合作。将发展诉求嵌入治理体系，既保障技术应用的安全有序，也为数字虚拟人服务生态的繁荣成熟注入持久动力，最终实现技术创新、产业发展与网络生态治理的深度融合，以负责任的科技筑牢发展根基。（作者：杜翠兰，国家互联网应急中心副主任）