良法善治 深入推进算法综合治理

　　近年来，新一轮科技革命和产业变革快速兴起，人工智能、云计算、大数据等新技术、新应用、新业态方兴未艾。算法作为网络平台的底层运行架构，被广泛应用于新闻传媒、电子商务、生活出行等千行百业，为经济社会发展注入了新动能，深刻改变了人们的生产生活方式。同时，算法也引发了群体歧视、算法合谋、算法霸权、信息茧房等一系列问题，为公众利益、社会稳定和国家安全带来巨大挑战。2021年12月31日，国家网信办、工信部、公安部、市场监管总局联合出台《互联网信息服务算法推荐管理规定》（以下简称《规定》），全面搭建了算法治理机制，强化信息服务领域算法推荐活动治理，成为我国乃至全球第一部对算法进行全面、系统规范的立法。

　　

　　近年来，我国《电子商务法》《网络信息内容生态治理规定》《个人信息保护法》《反垄断法（修正草案）》等相关立法对算法问题已作出相关规定。从规制范围来看，《规定》首次对算法进行全面系统规范，覆盖对象颇为广泛。《规定》第二条第二款列举了五类典型算法，不仅包括用于社交媒体、电商场景、搜索平台的个性化推送类算法、排序精选类算法、检索过滤类算法，也包括适用于网约车、外卖场景下的调度决策类算法，还包括用于游戏和虚拟环境中生成内容的生成合成类算法。同时，不仅限于当前讨论热烈的具有典型算法黑箱性、数据依赖性和通用目的性的人工智能算法，同时也包含了当前应用广泛，仅基于数学、逻辑学，用以实现辅助人类功能的非人工智能算法。

　　一方面，《规定》的出台顺应国际算法治理趋势，体现算法公平正义、安全可信等共同价值，有助于我国参与国际算法治理合作，在全球范围内发挥算法治理引领作用。另一方面，《规定》聚焦我国本土实践，回应较为突出的信息茧房、干预信息呈现、网络沉迷、大数据杀熟、劳动保障等热点问题，重点关注商业领域算法应用场景，高度体现我国本土需求。作为目前全球范围内对算法规范最为全面的立法，《规定》承袭《网络安全法》《数据安全法》《个人信息保护法》等我国网络立法的基本精神，是对网络治理、平台监管、新技术风险规制内容的进一步细化落地，对全球新技术新应用治理具有重要示范作用。

　　

　　算法人工干预和自主选择权利是重塑人类在算法应用中的自主性，避免算法操控的重要手段。欧盟《通用数据保护条例》第22条确立免于自动化决策权，其初衷即是避免人类受到未经人工干预的算法控制，以免造成人类自主性丧失、人类责任缺失等有损人类尊严的问题。随着算法应用的普及，自主选择权的实现需求更为迫切。在工信部开展的侵害用户权益专项整治行动中，“刚刚聊到某个话题，很快就能在某个App中收到相关广告”“App没有关闭推荐算法的选项，有关闭选项的也隐藏在很难找到的地方”“用苹果手机叫车，打车费用更高”等侵害用户权益问题突出。

　　对此，《规定》重点从三方面强化用户权利保障，重塑个人自主理念。首先，《规定》强化算法透明度，明确向用户的告知机制。要求网络平台以适当方式，公示算法推荐服务的基本原理、目的意图和主要运行机制，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性。算法透明是实施算法监督、自主选择的重要前提，也是在损害发生后用户进行权利救济的必要保障。其次，《规定》落实《个人信息保护法》《电子商务法》有关退出算法推荐的权利内容，要求平台应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。第三，《规定》首次提出对用户标签进行选择管理的权利，确保对输入数据的干预。用户标签作为一种输入数据，直接影响算法模型训练和结果的生成。赋予用户对针对个人特征用户标签的选择、删除权利，有助于用户在一定程度主导个人兴趣、避免歧视等。此外，《规定》重点强化对未成年人、老年人、劳动者、消费者等特定群体的权益保护。

　　

　　数字经济背景下，平台借助算法技术，成为数据生产要素的提炼加工者和资源配置方，同时扮演市场参与者和组织者双重身份，具备了一定的社会权力。近年，国外网络平台责任改革趋势显著。2021年10月，美国众议院提出《对抗恶意算法的正义法案》，指出为获取利润，平台主动设计个性化算法宣扬极端主义、传播虚假信息和有害内容，应当改革美国《通信规范法》第230条对平台责任的豁免规则。2020年年底，欧盟也发布《数字服务法（提案）》，拟对2000年《电子商务指令》中的平台责任进行改革。强化网络平台在算法运行中事前、事中、事后全流程主体责任，成为《规定》的重要内容。

　　在我国平台责任设置上，《规定》注重遵循主客观相一致、权责一致的原则，并遵循《数据安全法》《个人信息保护法》等立法精神，细化网络平台责任内容。一方面，《规定》划清算法推荐服务的红线，规定了不得设置诱导用户沉迷或过度消费、不得利用算法虚假注册账号等十项“不得”要求。另一方面，《规定》提出应当定期进行算法审核、评估，完善网络日志留存，配合安全评估和监督检查等十六项“应当”要求。同时，《规定》以基于风险的规制为基本理念，确立了算法评估的要求，重点强调对算法技术的数据、模型等进行评估审查，规定平台应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等内容，应当建立健全安全评估监测、安全事件应急处置等管理制度。

　　

　　当前，算法等新技术新应用已经成为推动企业数字化转型和国家治理能力现代化的重要力量，推动算法技术应用中的良法善治意义重大。《规定》在借鉴国外经验基础上，针对算法技术特点，创新监管理念和监管手段，提出协同监管、事前监管、多方共治的思路，贡献了新技术新应用监管的中国智慧和中国方案。

　　一是协同监管，强化统筹协同治理。《规定》由国家网信办、工信部、公安部、市场监管总局四部门联合出台。其中，国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。这进一步要求强化协同治理，建立部门协同联动长效机制，各部门履行监管职责，共同开展算法安全治理工作。二是事前监管，确立算法备案制度。针对具有舆论属性或者社会动员能力的算法推荐服务提供者，《规定》设定了算法备案的义务，要求通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。算法备案是对监管部门实现算法透明度的要求，有助于在损害发生时明确算法责任。三是多方共治，形成多元治理格局。《规定》建立由监管部门、网络平台、行业组织、社会公众共同参与的多元治理体系。鼓励相关行业组织加强行业自律，建立健全自律制度、行业准则及行业标准。同时推进公众监督，畅通社会监督和申诉渠道，推动算法健康有序发展。

　　当前，数字经济发展不断提速，算法作为数字社会新型生产力的地位和作用日趋明显。《规定》是在数字化变革时代对算法治理的有效回应，在立法目的上，旨在实现算法技术创新与用户权益保障之间的良性动态平衡。在监管机制上，逐步由行业分散监管转向整体统筹协调。在治理理念上，体现了综合治理和精细治理并进的思路。下一步，以《规定》为重要法律依据，必将促进形成治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局，推动数字经济发展行稳致远。

　　● 责任编辑：刘瑜