兼谈《互联网信息服务深度合成管理规定（征求意见稿）》

规范深度合成 引导科技向善

——兼谈《互联网信息服务深度合成管理规定（征求意见稿）》

　　1月28日，国家互联网信息办公室发布《互联网信息服务深度合成管理规定（征求意见稿）》（以下简称《规定》），向社会公开征求意见。该《规定》依据我国网络安全法、数据安全法、个人信息保护法以及《互联网信息服务管理办法》等法律法规制定，并将之前已经体现在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等规范中涉及深度合成的要求系统化，作出了更细致的规定。

　　术语选择体现去“伪”存真，引导科技向善

　　深度合成，是利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，过去更多被称为“深度伪造”。《规定》选择“深度合成”而非“深度伪造”作为该技术的通称，体现了去“伪”存真，引导科技向善的立法目的。

　　深度合成技术具有诸多应用场景：在医学领域，该技术能够用于合成真实的医学影像，辅助诊断治疗；在影视制作领域，该技术能够突破时空限制，高度还原历史场景；在教育领域，该技术可形成虚拟教师与学生开展互动，实现优质教育资源均衡配置；在消费领域，基于该技术的数字试衣系统可以免除人们在实体服装店购买中顾客试衣烦、品牌展示累的烦恼。当然，对深度合成技术的不当使用，甚至恶意应用，也会给国家安全、社会秩序和公民合法权益带来诸多挑战。例如，通过深度合成技术恶意伪造公众人物言行等。因此，有必要对深度合成技术可能带来的负面效果进行规制，引导其发挥积极作用。

　　构建深度合成服务提供者的信息安全主体责任

　　深度合成服务提供者，是指提供深度合成服务以及为深度合成服务提供技术支持的组织。构建并落实深度合成服务提供者的信息安全主体责任是《规定》的核心内容，总体来看，有六方面特点：

　　第一，完善内控制度。如建立健全算法机制审核、用户注册、信息内容管理、数据安全和个人信息保护、未成年人保护、从业人员教育培训等管理制度。

　　第二，加强内容管理。如采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，建立健全用于识别违法和不良深度合成信息内容的特征库，完善入库标准、规则和程序，对违法和不良信息依法采取相应处置措施，并对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。

　　第三，进行安全评估。如定期审核、评估、验证算法机制机理，提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当自行开展安全评估等。

　　第四，添加适当识别。如通过有效技术措施在信息内容中添加不影响用户使用的标识，提供显著改变个人身份特征编辑服务的，应当在指定位置进行显著标示等。

　　第五，建立辟谣机制。如深度合成服务提供者发现深度合成信息服务使用者，利用深度合成技术制作、复制、发布、传播虚假信息的，应当及时采取相应的辟谣措施，并将相关信息报网信等部门备案。

　　第六，履行备案手续。由于深度合成技术与算法推荐技术密不可分，所以深度合成服务提供者应当按照《互联网信息服务算法推荐管理规定》的有关规定履行相关备案手续，并在其对外提供服务的网站、应用程序等显著位置标明其备案编号，提供公示信息链接。

　　上述规定为深度合成服务提供者构建了由平台内部到平台外部，由实体到程序，融合网络安全、数据安全和个人信息保护的多层次、多维度合规体系，确保深度合成技术应用过程中的信息安全。

　　深度合成服务使用者应遵守法律和社会公德

　　深度合成服务使用者，是指使用深度合成服务制作、复制、发布、传播信息的组织或个人。根据《规定》，作为深度合成技术应用成果的直接生产者，深度合成服务使用者应当遵守一系列义务。例如，深度合成服务使用者应当遵守法律法规，尊重社会公德和伦理，坚持正确政治方向、舆论导向、价值取向；不得利用深度合成服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，不得制作、复制、发布、传播含有煽动颠覆国家政权、危害国家安全和社会稳定等法律法规禁止的信息。

　　在划定“底线”“红线”的同时为发展预留一定空间

　　深度合成技术具有广阔的应用场景和巨大的发展潜力，《规定》在划定“底线”“红线”的同时，为其发展预留了一定空间。例如，该规定鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导深度合成服务提供者制定完善服务规范、加强信息内容安全管理、依法提供服务并接受社会监督。

　　对深度合成技术的规制是一个需要不断探索的过程。《规定》从立法技术角度明确了深度合成服务提供者的主体责任、深度合成信息内容标识管理制度、监督管理相关要求等，但随着科学技术的发展，有些问题还需要在该规定后续修改及未来监管实践过程中进一步完善。例如，深度合成服务提供者的责任边界如何划定？当前，行业内还没有通用的、高准确率的深度合成内容鉴别技术，且合成技术也会随着鉴别技术的发展而不断发展。国家互联网信息办公室和公安部2018年联合发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》将“具有舆论属性或社会动员能力的互联网信息服务”界定为“开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务”，上述定义几乎涵盖所有可能的互联网信息服务，能否直接适用于深度合成服务，值得探讨。

　　（作者单位：广州大学粤港澳大湾区法制研究中心）