运用法治开展算法综合治理

　　算法由人设计，难免受设计者的价值偏好，甚至利益影响。因此，算法应该承载社会的“价值观”。算法综合治理，应依法赋权，并为其划定“底线”“红线”。

　　9月17日，国家网信办等9部委印发《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《算法意见》）。这是继8月27日国家网信办就《互联网信息服务算法推荐管理规定（征求意见稿）》（以下简称 《算法规定》）公开征求意见后，加强互联网信息服务算法综合治理的又一重要举措。同时，《中华人民共和国个人信息保护法》也将于今年11月1日起正式实施。多个部门密集加强算法管理与引导，一方面说明了算法推荐十分重要，另一方面也体现了运用法治规制算法技术的趋势。

　　“算法黑箱”不应成为“法治盲盒”

　　算法与人工智能紧密相连。算法与数据、计算能力并称为“人工智能三大要素”，是人工智能技术的核心基础，具有至关重要的作用。算法一诞生，就具有明确的“问题导向”——是为有效解决问题而输入机器的一系列指令、步骤。算法的基本流程为输入数据与指令、运算处理和结果输出。具体到算法推荐，就是在用户使用习惯和个人信息等大数据的“喂养”下，对用户进行更精准的“画像”，综合各项参数变量，以模型函数形式，通过计算、分析、预测，开展信息内容的个性化筛选和推送。

　　目前，算法已经被广泛应用于多个社会场景之中，渗入人们日常生活的方方面面。现有应用较成熟的领域包括广告营销、金融、公共安全、家居、零售、交通、医疗、新闻推送、短视频、电子商务等，在加速互联网信息传播、繁荣数字经济、促进社会发展等方面发挥了重要作用。但现有算法在便利数字时代生活、提升社会运转效率的同时，也存在“黑箱”——算法具有超越人工的解决复杂问题的能力，其基于技术本身的高度复杂性、自我学习能力，以及技术公司的排他性商业政策，用户无从获悉算法设计者、实际控制者等信息，更谈不上评判与监督。在消费端，“大数据杀熟”、用算法监督员工甚至开除员工、算法可能存在性别和人群的社会偏见、算法推荐引发的“信息茧房”问题等备受关注。算法不合理应用影响了正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来挑战。

　　过去，诸多应用算法推荐的责任主体（平台/企业）以“技术中立”为抗辩理由规避履行平台主体责任。算法作为技术类型的一种应用，虽然自身具有“技术中性”，但算法本身不具备人类所拥有的“经验性常识”，也不具备足够的自主决策能力。技术不能独立于对它的使用。因此，投入运用的算法技术可能侵害公民知情权、选择权时，就必须受到法律规制。否则，算法的“黑箱”就会演变成为法治的“盲盒”——“算法黑箱”的核心问题在于信息不对称和不公开，在某种程度上，只有法律才具有增加算法透明度和可解释性的能力。基于此，《算法意见》明确将“坚持依法治理，加强法律法规建设，创新技术监管模式，打击违法违规行为，建立健全多方参与的算法安全治理机制”作为算法综合治理的基本原则之一。

　　“价值观入法”是算法综合治理的关键

　　技术一旦被利益裹挟，就很难保持真正的“中立性”。究其本源，现阶段的算法是由人设计的，难免受设计者的价值偏好，甚至利益影响。实践表明，当前算法推荐的底层逻辑是提取信息特征，然后匹配用户偏好（标签），再进行推送。当前，有的平台为了实现最大推送量，获得最高点击率，追求利益的最大化，过多追求算法推荐的“流量最大化”与“利益最大化”。比如一些新媒体平台频繁调整改变算法，动机在于跟踪或者深度探究个人的相关特征、特点和隐私，然后进行引诱性消费。在这种情况下，用户的隐私权、选择权以及对于法律和社会核心价值观公德的遵守，势必沦为次要标准。因此，算法应该承载社会的“价值观”。

　　“技术中性”不等于“价值中性”，算法背后隐藏着更深层次的价值构建。算法推荐带来的是认知范式的改变，社交媒体上的算法操纵、算法歧视、非理性的言论和思潮、片面化绝对化的价值判断等，直接影响社会主义核心价值观的构建、培育和延续，应引起重视。将算法纳入法律规制的轨道，赋予其正确的价值观，已成为国际通行的做法。如欧盟的人工智能准则明确“可信赖的人工智能”应保证“人的能动性和监督能力”，英国数据伦理框架明确算法“应维护现实中的法律和伦理规范，应有清楚的公共福祉的意识”。

　　“价值观”是《算法规定》中的重要关键词，其第一条将“弘扬社会主义核心价值观”纳入立法目的之一；第六条又进一步明确规定，“算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善”；第十一条要求算法推荐服务提供者在“首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容”。《算法意见》也明确提出，“弘扬社会主义核心价值观，在算法应用中坚持正确政治方向、舆论导向、价值取向。提高正能量传播的精准性和有效性，规范信息分发行为和秩序，推动企业借助算法加强正能量传播，引导算法应用向上向善。”在算法综合治理中，将明确的价值取向上升为法律规范，可谓抓住了算法综合治理的“关键要害”。推动把社会主义核心价值观融入算法推荐，是注重把符合社会主义核心价值观要求的基本道德规范转化为法律规范的有益尝试，将有效增强人们培育和践行社会主义核心价值观的自觉性。

　　在算法综合治理中，法律不仅应该发挥事中规制和事后救济的作用，还应该对算法的价值判定和伦理设计进行事前干涉。应对设计者在算法设计阶段恪守人类社会基本伦理规则和社会主流价值导向提出要求，从一开始就将算法透明、算法可解释、算法问责、算法审计等价值需求嵌入算法的设计当中，通过自然语言将法律语言嵌入到算法的全生命运行周期，促使社会主流价值观成为每一种算法的“基因”。

　　算法综合治理的主要框架：

　　依法赋权、明责、设禁

　　法治是算法这辆新车的“方向盘”，依法对算法进行治理，渐渐成为趋势。《算法意见》提出，利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。其中，制定完善互联网信息服务算法安全治理政策法规是主要目标之一。至此，我国以《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》为主体，以《互联网信息服务管理办法》《互联网信息服务算法推荐管理规定》等为有益补充的算法治理法律规制体系正在形成。在算法综合治理过程中，依法赋权、明责与设禁，是其主要框架。 

　　依法赋权是算法综合治理的前提。即使我们现在仍然处于一个“弱人工智能时代”，但个体用户的力量已经显得相对弱小。避免算法带来的“马太效应”，平衡二者力量是法律法规的出发点和落脚点。将决定信息推荐的按钮重新交还给用户，实现信息分发接收权限的“回归”与“复位”十分重要。《算法规定》在赋权方面做了细化：一是要求算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。二是用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。三是算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。同时，为保障用户的知情权，明确要求算法推荐应坚持“公开透明”原则，并进一步强调“算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等”。同时，根据我国电子商务法、个人信息保护法的精神，平台行使算法权力应当对技术原理作出事先披露，保障用户知情权。

　　设立禁止性规定为算法综合治理划定“底线”“红线”。《算法规定》通过设定禁止性规定，如算法推荐服务提供者“不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签”“不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，不得利用算法推荐服务诱导未成年人沉迷网络”“不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为”等，这为算法推荐开具了一张比较明晰的“负面清单”，有利于算法推荐服务提供者明确知晓和遵循，更好保护用户权利。

　　明晰法律责任是算法综合治理的基础。《算法规定》明确，算法推荐服务提供者应当落实算法安全主体责任，包括应当建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，覆盖算法设计、部署和运行各个环节，并通过法律责任条款明晰相应法律后果，将算法推荐服务者的主体责任压紧落实。这既以法律责任形式彰显了违背算法综合治理法律规制的不利后果，又明确了违法的处罚措施，如警告、通报批评、责令限期改正、责令暂停信息更新、罚款直至追究刑事责任。