聚焦信息安全，推动元宇宙产业高质量发展

　　习近平总书记在2023年12月12日中央经济工作会议上指出，“必须把坚持高质量发展作为新时代的硬道理，完整、准确、全面贯彻新发展理念，推动经济实现质的有效提升和量的合理增长。”“要以科技创新推动产业创新，特别是以颠覆性技术和前沿技术催生新产业、新模式、新动能，发展新质生产力。”习近平总书记的重要论述为发展新质生产力指明了方向，提供了根本性指引。

　　元宇宙科技是推进新型工业化，发展数字经济最重要的新动能之一。推动元宇宙产业高质量发展，是新科技革命时代基础设施建设的重要内容，也是发展新质生产力的重要举措。元宇宙产业的发展对于加速制造业的高端化、智能化、绿色化进程，推动数字经济发展具有十分重要的意义。但是，元宇宙产业的发展对于国家信息安全也带来新的风险。因此，推动元宇宙产业的发展，必须加强元宇宙信息安全法治工作，确保元宇宙产业有效赋能新型工业化。

　　

　　元宇宙是人为创造的、通过沉浸式技术实现虚实融合的、允许用户进行内容生产和编辑的、与现实世界平行的世界。大语言模型的出现，进一步丰富了元宇宙内容生态，加速了元宇宙社交、VR游戏与购物、元宇宙会议、智慧城市与孪生工厂等应用场景的落地实现，元宇宙产业应用将不断拓展。

　　（一）元宇宙产业应用的特征

　　相比于传统的网络空间，元宇宙具有身份虚拟性、时空拓展性、行为算法驱动性、内容全员创造性以及治理结构去中心化的新特征。

　　一是主体身份虚拟性。用户在元宇宙中使用数字身份进行活动，这让现实世界中的人拥有了“第二身份”。现实世界中的人借助“第二身份”将现实活动映射进元宇宙，在虚拟空间建构虚拟社群，塑造元宇宙的“虚拟文明”。元宇宙的虚拟身份属性实现了现实世界中的“自然真身”、虚拟世界中的“虚拟化身”以及仿真应用的“机械假身”三身合一。一个自然人在不同类型的元宇宙应用中可能有不同形象与性格，同时可以通过机械假身进行其能力范围以外的活动。

　　二是时空拓展性。数字孪生技术将拓展空间感，打通现实空间和虚拟空间，促使客观物理世界、人类精神世界和数字知识世界在元宇宙内自由延展。人工智能技术和数据处理能力的提升使时间得到延伸，提升人们对于时间的想象与感知，打通过去、现在和未来。人们不仅可以在元宇宙中实现历史场景的再造，还可以预先见证未来目标的实现状态。

　　三是行为算法驱动性。元宇宙场景下，算法可能发展成为利维坦。人们的思想和行为看似是“自由”的，但已在不知不觉中被平台所支配了。因为支撑元宇宙运行的算法本身便体现了开发者的价值取向。正如马斯克不惜高价收购推特，其目的也是希望通过控制舆论场从而达到其他目的。算法在一定程度上决定了人们想看什么、能看什么、看的多少以及先后，从而塑造了人们对外部世界的认识。

　　四是内容全员创造性。元宇宙内的海量内容在传统平台内容生成机制的基础上，向用户内容生成机制（UGC）和人工智能内容生成机制（AIGC）转型。事实上，我们对UGC和AIGC的开发模式并不陌生，抖音和ChatGPT就是其中典型的例子。任何用户都可以利用平台工具创建、开发、修改、变更、衍生创作元宇宙应用中的数字化身、数字服装、软件、脚本、图形、图像、游戏设计等平台内容。

　　五是治理结构去中心化。传统治理体系以主管机关与被监管对象为中心建立，元宇宙应用以区块链为底层技术对空间规则加以改造，从而建立了去中心化的数据存储、身份认证、信用、货币与管理系统。任何地区的任何人都可能成为数据存储者，也可能成为秩序决定者。这将改变传统基于主权领土管辖与服务器控制的法律规则，形成一种无结构、无中介、弥散式的公共治理体系。

　　（二）元宇宙应用的潜在信息安全风险

　　在元宇宙空间，传统由金字塔型行政组织主导的治理，变成了基于代码和区块链技术展开的分布式治理。这样的治理架构天然地具有逃逸监管的属性，信息安全风险亟需有效预判和系统规范。元宇宙应用的潜在信息安全风险主要包括：

　　一是身份虚拟导致违法主体“看不见”。虚拟身份或叫数字身份，它使得每个人在元宇宙里边都有一个或者若干个数字身份。用户在元宇宙平台上通过虚拟身份活动，而该虚拟身份的获取与现实世界的真实身份往往并不具有直接关联关系，用户通过非实名的邮箱也可注册元宇宙应用。同时，虚拟身份还存在被劫持、被盗用或者深度伪造的风险。虚拟身份和深度伪造技术为用户穿上了“隐身衣”，使得元宇宙空间的违法主体更难被识别。

　　二是时空拓展性导致违法行为“管不着”。元宇宙作为新一代网络空间，其时空拓展性将突破传统以防火墙构筑的网络空间边界，从而产生境外行为管不了、境内行为管不好的风险。在外部风险方面，元宇宙的时空拓展性既有助于提升各国用户的信息共享和处理能力，但与此同时又为恐怖主义、极端主义和暴力活动的组织提供了沟通渠道。元宇宙应用的时空拓展性，延展了网络活动的时间和空间边界，这极大挑战了以物理国界为标准的管辖权规则。

　　三是内容自治性导致违法行为“管不住”。元宇宙内容主要由全体用户或者人工智能技术创造，呈现来源分散、实时生成的特点，具有违法行为管不住的风险。用户内容生成机制场景下，不同用户基于各自不同的价值偏好与立场，可能创造虚假、夸大、诽谤性的内容。人工智能内容生成机制场景下，如果有人不怀好意，在算法中预置极端化、虚假化和暴力化的价值思想，长期向用户推送历史虚无主义的内容，这将一点点侵蚀用户认知并操控其意识。

　　四是链上运行导致违法内容“删不掉”。元宇宙以区块链技术作为数据存储与运算平台，存在内容不可篡改的特征，将导致虚假网络言论“删不掉”的风险。区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链的每个节点都按照块链式结构存储完整的数据，这就使得区块链上的信息具有不可篡改性。信息一旦经过验证并添加至区块链后，就会得到永久存储，这可能被违法分子用于侵权内容和不良信息的传播。

　　五是内容多样导致传统监管手段失灵。元宇宙社交中，视频、图片和音频等形式将取代文字作为信息的主要形态，这对互联网初期以文字为核心建立的内容审查技术和监管方式带来了巨大挑战。同时，元宇宙中广泛运用的点对点传输和数字加密技术，使得除了信息的收发方以外，主管机关也无法对不良信息进行监管和筛查，这为元宇宙网络和信息化安全工作提出了新挑战。

　　

　　科技既可以造福社会、造福人民，也可以被一些人用来损害公共利益和民众利益。面对元宇宙产业发展带来的信息安全问题，我们必须系统塑造元宇宙发展应遵循的伦理规则和法律规则，构建科学监管体系，保障元宇宙产业健康发展。

　　（一）推动构建元宇宙伦理规则

　　习近平总书记强调，要加强对前沿科技的伦理和法律研究，提高道德约束和法律应对的能力。元宇宙的“自治”属性将在一定程度上削弱法律的适用空间和实施效果。面对科技发展带来的新问题，伦理规则可以在不突破既有法律底线的情况下，率先提出技术发展应当遵循的基本原则和行为指南。特别是在元宇宙算法设计中植入科技向善的伦理价值观，通过自律规范自内而外地预防元宇宙应用可能产生的内容风险。

　　第一，确立元宇宙发展五项基本原则。明确将增进人类福祉、尊重基本人权、风险合理可控、规则公开透明、提升科技素养作为元宇宙产业发展的五项基本原则。元宇宙技术的发展应当以人类社会的稳定和福祉为前提，技术的创新应最大限度尊重元宇宙参与者的基本人格权和财产权，技术开发者应客观评估和审慎对待创新可能引发的风险，算法开发者应确保算法公平透明，广大用户也应提高科技素养、理性看待元宇宙应用的伦理风险。

　　第二，坚持以人为本、人类福祉优先的基本伦理规范。元宇宙应用通过外穿设备或者脑机接口、视网膜成像等技术促使人机融合，我们需要事先明确生物人与人工智能、机器人的关系，强调任何国家不可以发展超越人类利益的智能机器，防止高阶人工智能的失控并控制人类的风险，避免走入“人为物役”的歧途。

　　第三，强调算法伦理，推动正面引导与反面防范相结合的算法治理路径。一方面，算法开发和应用应树立正确舆论导向和价值取向，引导算法应用向上向善，推动企业借助算法加强正能量传播。另一方面，企业应建立算法安全责任制度和科技伦理审查制度，健全算法安全管理组织机构，防范算法偏见和算法歧视。

　　第四，提高全民科技素养，加强科技人员考核和用户培育。国家应当加强科技从业者岗前伦理培训和在岗期间的持续伦理考核，引导科技从业者开展负责任的研究与创新。此外，还应培育用户对元宇宙应用的了解和认知，帮助用户有效辨别虚假信息、有害信息和诈骗信息，防范信息犯罪的危害。

　　（二）健全规范元宇宙平台运营的法律规则体系

　　平台运营者作为元宇宙生态治理中的核心和枢纽，负有保障元宇宙应用的价值导向“向上”和“向善”的义务。健全平台运营者管理体系，对于构建信息内容文明生态具有举足轻重的意义。

　　第一，构建元宇宙运营平台准入机制。一方面，网络信息服务提供平台需要履行主体备案审批手续，获得主管机关的经营许可。对于具有舆论属性或者社会动员能力的算法推荐服务提供者和区块链信息服务提供者，除了履行主体备案手续外，还需要在合理时间内履行服务备案手续。另一方面，元宇宙平台运营者需要在身份验证、隐私保护、金融监管、内容审查等方面建立安全防控机制，确保平台服务合法、安全、可靠。

　　第二，确立元宇宙运营平台的安全评估和不良信息识别义务。对于受众广泛、影响深远的新技术服务提供者，应当在新服务上线前开展安全评估工作，事前预防不良信息引起的群体性事件。同时，网络服务提供者应当加强对用户生成内容和人工智能生成内容的审查力度，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现违法行为的，立即停止向该用户提供服务，停止违法信息的传输，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。

　　第三，强化元宇宙运营平台责任机制。元宇宙信息服务平台制作、复制、发布、传播不良信息构成犯罪的，依法追究刑事责任。尚不构成犯罪的，由公安机关、国家安全机关依据法律的规定予以行政处罚，并采取吊销经营许可证或者责令暂时关闭网站直至关闭网站的方式，防止侵害的进一步发生。在民事责任方面，网络服务提供者应当根据《民法典》第1194至1197条的规定承担直接侵权责任，或者依据“通知——删除”规则处理违法信息。

　　第四，加强个人隐私、国家安全和知识产权政策法规的完善与实施。鉴于元宇宙生态的发展建立在用户深度参与、海量数据分析、信息广泛交换的基础上，对用户隐私和数据安全的关注将成为规则制定中的重要关切。一要尊重他人隐私，避免信息“裸奔”现象出现，二要强调元宇宙内容不得损害公共安全和他人人格利益，三要保障全民内容创作行为不得侵害他人知识产权。

　　（三）完善元宇宙信息安全监管体系

　　完善宇宙信息安全监管体系，要建立信息安全工作责任机制，明确“谁来管”和“管什么”，同时强调事后监管向事前监管转变，推进内容监管向行为监管转变。

　　第一，构建监管主体分工协调机制。根据现行部门规章的规定，对于元宇宙信息平台的监管，存在工信、网信、新闻、教育和公安等部门监管竞合的问题。若不明确各主体之间的工作协调机制，将出现监管竞争或者监管空白的局面。建立元宇宙信息安全工作责任制，首先需要明确“谁来管”和“管什么”。以作为元宇宙经济体系关键技术的NFT（Non-Fungible Token，非同质化通证）监管为例，应当明确NFT自身的技术安全问题由工信部门监管，对于其中的信息合规与安全问题由网信部门主管，由此产生的业务类型与市场交易由市场监管部门主管，其中的金融风险和资产化进程由人民银行等金融管理部门监管。

　　第二，推动事后监管向事前监管转变。对作为元宇宙基础设施的区块链技术的监管，可以分为事前监管（上链监管）、事中监管（链上合约执行）和事后审计与应急响应处理。由于区块链难以篡改的特性，使得事后应急响应远比传统互联网系统更困难，对元宇宙中区块链技术的应用更强调事前监管以预防风险。事前监管更多是为了防范非法的不良信息进入区块链，可以将事前监管的理念和措施内嵌在应用平台的处理逻辑。

　　第三，推进内容监管向行为监管转变。随着网络活动从传统的文字、图片、视频，向语音视频互动、沉浸式体验以及阅后即焚功能转换，我们应当转变监管思路，由内容监管转向行为监管。在算法设计时，用户的行为设定不能违反人类社会的法律及伦理规范。对于行为违法的，应同时屏蔽同一账号的多个化身。此外，还要特别关注虚拟人的社交互动行为，利用人工智能技术监控异常行为信号。通过元宇宙应用的全流程监管，打好防范和抵御信息风险的有准备之战。

　　习近平总书记指出，新兴媒体不能为恶意攻击党的领导、攻击社会主义制度、歪曲党史国史、造谣生事的言论提供方便，要防范境外势力向新媒体领域渗透，防范资本控制舆论的风险。作为新质生产力，元宇宙产业发展将为数字经济发展提供新动能，也为信息安全监管提供了新挑战，这是包括中国在内的国际社会需要共同关注和共同应对的新问题。

　　（作者系北京理工大学法学院院长、特聘教授）

　　● 责任编辑：高波