平台算法侵权的过错认定

以金某诉北京某科技有限公司网络侵权责任纠纷案为例

　　当前，新一轮科技革命和产业变革深入推进，正在重构全球创新版图、重塑全球经济结构。云计算、大数据、物联网、移动互联网、人工智能、区块链等数字技术，不断催生新产品、新模式、新业态，加速与其他产业深度融合，使得数字产业化和产业数字化快速推进。随着大数据、人工智能等新技术的普遍应用，作为平台“大脑”的算法，在为用户提供个性化服务、带来便利的同时，一些问题也逐渐浮出水面，如同质化推送导致“信息茧房”、违规操纵榜单、大数据“杀熟”等，不仅损害用户权益，破坏网络环境，也违背科技发展初衷。因此，平台需要严加整顿，算法应遵循“科技向善”原则。审判实践中，在平台已为算法设置风控行为的前提下如何认定算法侵权问题？笔者认为，对于平台算法风控行为是否存在过错，应结合案涉算法风控行为的目的是否正当、算法风控设置是否合理和算法风控系统管理者是否尽到了相应的风险控制义务进行综合考量评判。本文以北京互联网法院判决的金某诉北京某科技有限公司网络侵权责任纠纷案为例，试对此进行探析。

　　某金融公司员工金某，注册了北京某科技有限公司运营的某征婚交友平台，提交了其真实照片作为头像并用手机号码进行了实名认证。金某在正常使用平台期间，北京某科技有限公司对其账户进行了封号处理，并向其他网友提示称“账号可能存在异常”“不要与之发生金钱来往”等。该情况导致金某多位朋友误认为金某是骗子，造成金某名誉受损。金某认为，北京某科技有限公司运营的平台实施算法技术造成误判并侵犯了其名誉权，遂将该公司诉至法院，要求其在运营的平台进行公开道歉予以澄清，并赔偿损失2万元。

　　北京互联网法院经审理后认为，被告在诉讼中提交了《关于“伊对”风控审核系统的情况说明》及相关证据，向法庭阐释其“预防性风控系统”算法逻辑机理，即该系统对用户异常行为进行初筛，进行事前防御。同时，在系统误判的情况下，设置了第二道人工审核机制。该算法逻辑机理与庭审已查明的事实相符。被告基于法律监管要求和公共利益保护的目的，设置“预防性风控系统”算法应用，对用户行为进行中立、无差别的风险筛查，虽因技术水平所限造成系统误判，但尽到了与涉案算法风险相匹配的注意义务，并采取了合理的预防侵权措施，并无主观过错，不构成侵权。原告提出的赔偿经济损失、合理支出及赔礼道歉的诉请，缺乏事实和法律依据，应不予支持。遂判决，驳回金某的诉讼请求。一审宣判后，双方均未上诉，该案判决已生效。

　　算法体现了设计者、应用者的价值设定，过错原则仍然适用于平台算法侵权案件。本案的争议焦点即在于北京某科技有限公司实施的案涉算法风控行为是否存在过错。

　　案涉算法风控行为是否具有正当性。根据《中华人民共和国网络安全法》《互联网信息服务算法推荐管理规定》的有关规定，互联网服务提供者和算法推荐服务提供者，应该依法对网络平台用户的行为进行监管，并履行涉电信网络诈骗信息监测、识别和处置的义务。该案中，案涉算法风控系统通过对平台用户聊天中可能涉及的诈骗高频词汇自动检测，并据此对相关用户的账号进行审核处置，其根本目的在于预防“杀猪盘”等网络诈骗行为。被告作为互联网服务提供者和算法推荐服务提供者，借助技术手段设置风控系统，强化对高危风险账户的监测、识别和处置，既是履行法定的监管义务，也是为了有效预防网络诈骗，维护网络公共安全，因此，该行为在主观上具有正当性。

　　案涉算法风控设置是否具有合理性。合理性要求算法设置在现有技术条件下应该合乎常理，符合比例原则，不得存在算法歧视、算法滥用等侵害他人合法权益的非法行为。在上述案件中，算法使用者使用了何种算法，应以易于理解的信息就涉案算法进行解释说明，以证明算法设计和决策的合理性。考虑到技术秘密、知识产权、算法安全等因素，对算法的解释说明不一定是对算法的复杂解释或将算法的全部过程予以披露，而是一种满足个案裁判需要的算法适度透明。从该案被告披露的算法逻辑过程来看，其算法设置是基于特定词汇（如股票、基金等常用“杀猪盘”词汇）和用户行为的自动化反应机制，不存在对某类用户的不当歧视。因此，被告在其管理的交友平台采用案涉算法风控设置具有合理性。

　　案涉算法风控系统管理者是否尽到了相应的风险控制义务。基于算法技术特点和现有行业发展水平，对于关键词和用户行为的命中，可实现对海量信息的自动化筛查，提高监测和采取措施的效率，但同时也不可避免产生系统误判，选中有类似特点的合法行为。由于算法技术尚处于发展阶段，相关行业规范尚未成熟，应鼓励算法技术创新和正向发展，合理确定注意义务。当算法决策内容涉及伦理或其他道德价值方面的定性判断时，不应单一使用算法机器去完成该决策，而应予以附加必要的人工复核。具体到该案中，算法应用的风险因素和利益冲突一方面体现为受网络诈骗威胁的不可逆的大额人身财产损失，另一方面体现为被误判用户短期内账号被禁用以及交往好友收到针对性提示而可能对用户产生的负面影响。对于后者，如确有系统误判之嫌，应该通过第二道人工审核的方式，及时消除误判带来的影响。该案中，被告在系统产生误判后，按照其承诺的人工审核方式，在声明的期限内核查误判并解除了账户封禁和风险提示。面对算法可能产生的风险，被告采取了合理的防范侵权措施，尽到了与其服务身份和技术水平相适应的风险控制义务。

　　（本文为最高人民法院2022—2023年度司法案例研究课题“涉人工智能新型案例司法裁判比较研究”的阶段性研究成果）

　　（作者单位：北京互联网法院）