数字平台的“算法操纵”行为及其治理

　　近年来，随着互联网信息技术的快速发展，算法已经逐渐渗透到人们工作生活的方方面面，深刻影响着我们在互联网世界中的决策和行为，例如数字平台中的排名、社交媒体页面展示内容等，皆由平台算法所决定。随着算法对平台用户的影响日益加深，“算法操纵”这一概念也逐渐引起人们的关注和讨论。本文谈及的数字平台的“算法操纵”，是指数字平台在分析个人信息、判断用户特征的基础上，利用信息推荐、定向广告、方案拟定、决策调度等形式，通过定向内容推送影响用户认知、借助情感计算技术调控用户欲念、使用决策系统进行内容或方案调度，以此控制或影响用户行为，借此实现平台自身利益的行为。本文重点探讨数字平台算法“操纵行为”的定义、认定要件及其治理策略。

　　数字平台“算法操纵”引发的问题及规范难题

　　数字平台的算法推荐是用户接受平台服务的重要类型之一，但也潜藏“算法操纵”风险。“算法操纵”造成了诸多社会风险，例如，其引发针对用户的数字化歧视，即数字平台依据用户信息推断其特征和倾向，差别化进行算法决策和信息推送，并以信息推送和选择控制的形式实现对终端用户行为的操纵。同时，平台算法还会利用用户的认知缺陷、情感状态等影响用户决策，诱导用户行为。此外，平台还可能借助“算法操纵”锁定用户行为，形成垄断或构成不正当竞争。

　　当前，相关法律法规的不完善使得难以有效应对平台的“算法操纵”行为。首先，现有法律法规没有明确规定“算法操纵”的概念，对于“算法操纵”行为的构成要件没有明确规定。对平台实施操纵行为时的主观状态、操纵程度和损害认定存在争议。其次，目前，信息保护规范框架、反不正当竞争规范框架和算法规范体系难以实现对“算法操纵”行为的完全规制。例如，就信息保护规范框架而言，聚类分析和群组化分析使得平台绕过个人信息的匿名化规制；反不正当竞争法主要是规范经营者之间竞争关系的法律规范，而非平台与用户之间的服务关系，也难以期待其可以就算法操纵行为进行全面规制；《互联网信息服务算法推荐管理规定》虽然是针对平台算法的专门规定，但是有的规定不够详尽，例如，规定的用户标签制度，由于并没有详细规定标签告知的内容与类型，使其落地较为困难。

　　数字平台“算法操纵”的机理及其认定

　　平台的“算法操纵”实际上产生于平台算法对平台内社会关系的数字化塑形，其源自平台利益导向的驱使。这使得平台的获利逻辑支配平台算法关系的基本样态。总体来看，这种平台内算法关系样态具体可以分为算法纵向关系和算法横向关系。纵向关系产生于平台运营者的算法设计，数字平台根据用户信息、数据特征等设置关键参数并基于此设计算法结构，其决定了算法关系的基本类型和功能；横向关系，指用户与用户之间的关系。通过算法关系，塑造用户认知和行为、操纵个体、集体的行为方式和价值取向。由此，平台借助于算法引导平台内主体建立以平台利益为导向的社交关系、商客关系、互动关系、合作关系等，这为平台经营者编织了巨大的利益网，帮助平台在平台市场中争取更多的竞争优势。

　　认定平台“算法操纵”行为时，首先，应当以用户和平台之间存在算法支配关系为前提，这是认定“算法操纵”行为的前置性要件。平台算法将用户与内容、产品、服务之间的交互纳入其算法逻辑之中，用户的搜索、浏览、点击、互动等行为均被平台算法捕捉、分析和解读，从而生成用户画像，进一步精准预测和引导用户的兴趣和需求。其通过纵向关系寻找价值挖掘的规则和方法，通过横向关系对用户进行聚类分析，并基于此进一步挖掘潜在客户群体并加以控制或影响。其次，平台需要借助算法支配关系影响用户的决策。这种影响包括两种类型：一种是有针对性地塑造用户的决策环境，限制其可选择的内容范围，以间接方式影响用户意志；另一种是直接改变他们理解自己决策的能力，直接影响用户的意志。最后，认定构成“算法操纵”要造成损害结果。即侵害用户隐私利益、造成用户机会损失、损害竞争秩序，甚至危害信息安全、造成经济损失等。

　　数字平台“算法操纵”行为的治理路径

　　首先，应建立针对平台算法的独立责任体系。一旦被认定存在“算法操纵”行为，平台需要视情形承担三种算法责任类型：针对风险算法采取临时性措施的算法封锁责任，针对认定成立“算法操纵”时以算法修改或优化为内容的算法修改责任，针对认定成立“算法操纵”且难以通过修改进行匡正的算法删除责任。

　　其次，在匡正机制方面，应对不同算法关系样态建立不同的匡正机制。针对纵向算法关系，可以分别采取针对特殊人群（老年人、未成年人）的“区隔式保护”、基于用户标签告知与调节的“调节式保护”和由网信等监管机构针对数字平台自上而下的监管。其中，“区隔式保护”旨在保护脆弱性群体免受恶意操纵，通过将用户与算法系统进行必要隔离来防止特殊群体用户受到平台算法的持续性诱导或操纵。而“调节式保护”则借助标签告知保障用户的决策隐私，防止算法的不良诱导。用户可以通过调节“用户标签”主动介入决策环境。除此之外，还需强调网信等监管机构对数字平台的审查，以预防用户在算法支配下可能产生的风险，包括利用“用户标签”进行内容审查和减少算法默认选项设置等。针对平台内的横向算法关系匡正，可以通过成立标签管理部门，审查标签内容的合法性、完整性，管理群组内的用户兴趣标签及其关联模式，及时阻止不适当或非法内容开发。或者建立数据表单制度，间接实现横向算法关系评估，预测合并后平台算法功能的增强程度，实现对经营者集中的反竞争效果的事前综合性评估。

　　最后，辅之以技术方法防范算法支配关系产生。平台权力中心化是造成“算法操纵”问题的根源，去中心化技术可以有效削弱平台算法的有意识、有倾向的支配能力。完全的去中心化平台治理模式可以打破平台算法的绝对支配，保障用户自由决策环境，避免诱导型操纵，保障公平竞争的环境，避免垄断型操纵。多中心平台治理或可以对抗“算法操纵”行为，建议保留平台所有者的中心权力，并通过多中心节点的开拓运营实现对中心平台权力的制约，以应用场景划分平台社区，实现平台内分场景治理，遏制歧视性操纵行为。建议通过标签的社区自愿加入或者退出，实现对隐私决策的保护与自由意志的保障，防范诱导型操纵；通过塑造经营者之间的良性竞争关系，实现公平竞争环境塑造，防范垄断型操纵。

　　在信息爆炸的时代，算法推荐及平台的其他算法应用在降低信息获取成本、进行供需关系匹配等方面发挥着重要作用，但也容易产生歧视与垄断等问题。通过对数字平台内算法支配关系的识别与匡正，平衡自动化算法的效率价值与公平价值，在发挥算法正向功能的同时，可以抑制其负面效应，从而助力形成开放、公平、健康的平台生态系统。 

（作者单位：湖州师范学院）