随着新一代信息技术的快速发展，深度合成技术作为人工智能领域的新应用、新实践，已在多个行业场景中被推广应用，并催生了“元宇宙”等新的应用场景。当前，网络传播环境日趋复杂，新型合成方法层出不穷，技术滥用的风险也在不断加剧。为加强互联网信息服务深度合成管理，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》构建了互联网信息服务深度合成治理制度规范，迈出我国新技术新应用立法的重要一步。

一、《规定》出台必要及时，意义深远

技术发展与风险挑战相伴而生，新技术新应用发展日新月异，技术治理是一场永恒的攻防对抗博弈，也是技术从创新应用到规范发展的必经阶段。当前，换脸、换声、三维重建、智能对话等深度合成服务已经在国外互联网社交媒体中广泛应用，催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等一系列形式新颖丰富、功能便捷智能的应用形态，丰富了互联网信息内容生态，推动了互联网相关产业发展，为人民生活带来了便利便捷和多样化体验。然而，深度合成技术也正在被恶意利用制作虚假信息内容，进而可能带来政策干扰、谣言泛滥、低俗内容肆意传播等影响国家安全、社会稳定的风险问题。

出台《规定》，是进一步提升网络综合治理能力的应时应势之举，具有针对性和前瞻性。《规定》是目前我国针对深度合成服务出台的第一部专门性部门规章，作出了一系列明确合规指引，对加强互联网信息服务深度合成管理、促进互联网信息服务健康发展、推进网络空间治理意义重大，影响深远。

二、《规定》为深度合成技术安全应用和健康发展奠定制度基础

（一）明确了深度合成技术定义和服务范围。深度合成技术由来已久，随着深度学习技术，特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低，2017年11月Reddit网站的用户“deepfakes”发布伪造视频令这项技术引起关注。近年来，深度伪造技术在国内外反响强烈，其以制作足以“以假乱真”的信息内容严重威胁国家安全、干扰传播秩序，让人们广泛关注和深切担忧，给相关技术和产业发展带来一定影响。从技术进步的角度来说，深度合成技术应用的初衷是让生成合成内容更逼真，但深度合成技术在愈趋“智能”的同时，也不可避免地带来更多的安全风险，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

《规定》在深度伪造基础上对深度合成技术作出了更全面的规范，从利用算法角度提出包括利用深度学习、虚拟现实等生成合成类算法，从制作内容形态角度提出包括文本、图像、音频、视频、虚拟场景等多种类型，从具体应用形态上分类列举了多种典型场景，明确了深度合成技术的定义和范围。

（二）从内容管理深化到行为管理。有别于信息内容发布与传播，互联网信息服务深度合成活动是一项涉及算法技术、应用功能、产品业务，覆盖数据采集、分析、编辑、加工等多环节的数据处理过程，产生的安全风险也是由参与多方、不同环节共同作用形成的，因此对互联网信息服务深度合成的规范和引导，需要覆盖各主体、各环节。

《规定》明确了相关主体的责任和义务。在监管主体上，将深度合成服务技术支持者纳入管理。服务技术支持者为上游主体，为服务提供者提供技术支撑；服务提供者为中游主体，为服务使用者提供深度合成服务；服务使用者为下游主体，是使用深度合成服务的组织、个人。《规定》从信息呈现和传播两个维度开展治理，通过显式标识和隐式标识两种管理手段，实现对内容和行为双重规范。在信息呈现方面，提出深度合成服务提供者应当在可能导致公众混淆或者误认的深度合成信息内容中加入显式标识，以提示公众该内容的生成合成特性，保障公众知情权，降低虚假信息传播的风险，实现内容治理。在信息传播方面，通过有效技术保障措施在深度合成信息内容中添加隐式标识，实现深度合成内容安全溯源和技术应用安全可控，确保内容传播链条明确清晰，事后追责准确无误，实现行为治理，为参与深度合成信息内容制作传播的各方主体厘清责任边界。

（三）突出全过程安全评估管理。2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》（以下简称《算法规定》），对包括生成合成类在内的五类算法推荐服务进行规范。《规定》在《算法规定》基础上，一是加强对深度合成服务全过程管理。深入深度合成服务的数据处理环节、算法运行阶段、使用者行为全过程，提出更明确细化和更具有操作性的管理要求和合规指引。二是深化备案与评估标本兼治。《规定》要求具有舆论属性或者社会动员能力的深度合成服务提供者和技术支持者依法履行算法备案手续，并公示备案编号，有助于引导互联网信息服务深度合成合规运营、提升产品口碑、增强企业互信、促进行业健康发展。《规定》明确了对深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能应当开展安全评估管理，有助于帮助企业防范和应对深度合成内容安全风险、数据安全风险和技术滥用风险，有助于促进管理部门备案摸底、风险监测和监督检查等工作依法开展、落地成效。

三、健全深度合成治理技术支撑体系，促进服务健康有序发展

《规定》的出台，是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。但是，深度合成技术与应用管理目前仍处于起步阶段，在技术支撑和能力建设方面有待进一步加强。加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。建议从以下方面加强工作：

（一）促进多方共治深入细化安全标准。《规定》充分结合深度合成技术特点与发展趋势，提出了针对深度合成服务和技术的普适性的规范思路，但在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议行业内推进产业联盟建立，研制相关标准规范，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

（二）用以技术管技术思维促进深度合成服务治理。深度合成技术是一项非常前沿的智能技术，治理其带来的安全问题不能仅靠传统的结果导向治标方法。建议从深度合成信息内容源头上解决其衍生的内容安全风险，利用技术创新、技术对抗等方式，持续提升和迭代检测技术的能力。互联网信息服务深度合成综合治理，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，同时，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

（三）推进深度合成服务治理技术能力建设。构建互联网信息服务深度合成安全监管体系需要在技术支撑和能力建设方面进一步加强。国家科研机构应加大深度合成安全方面的科技攻关，建设深度合成安全评估和风险监测的科研创新平台，探索共建新型研发机构，形成引领深度合成安全基础研究的战略力量。组织建立专业技术评估队伍，研究深度合成安全内生机理、安全风险评估、全生命周期安全监测等关键技术。加强基础科研设施建设，完善算法安全治理人才队伍培养体系，提升深度合成自主创新和安全可控能力。

作者：孟丹 中国科学院信息工程研究所所长