自动化行政风险的法律规制

　　规制自动化行政风险，要加强决策前与决策后审核，建立应对风险和解决问题的长效机制；完善问责机制，实现责任划分清晰化；将决策反馈与公众参与相结合，增加行政互动“共情感”。

　　《法治政府建设实施纲要（2021-2025年）》提出，“坚持运用互联网、大数据、人工智能等技术手段促进依法行政，着力实现政府治理信息化与法治化深度融合，优化革新政府治理流程和方式，大力提升法治政府建设数字化水平。”大数据、人工智能的发展与实际应用加快了数字政府建设进程。同时，数字政府建设引起的行政组织变革、行政活动方式变革也给行政法发展带来了诸多挑战。其中，自动化行政便属于这种变革之一。自动化行政并非规范意义上的概念范畴，而是一种描述性用语，是一种由人工智能参与，以大数据为基础，以信息网络为传播媒介，部分或者完全取代行政主体参与，并对行政程序进行变动的行政行为。

　　作为政府新兴行政方式的自动化行政在一定程度上提升了行政效率，为社会公众提供了便利，但受算法不透明等因素影响仍存在一定风险。本文拟通过剖析自动化行政的风险，探寻其规制路径，实现政府治理、算法治理现代化、法治化。

　　自动化行政存在的主要风险

　　首先，主观性价值偏离风险。自动化行政是人工智能时代的产物，由系统做出的决定具有一定的客观性，或者说存在工具理性，但由于行政机关工作人员的参与，它并不能掩盖主观性的存在。在自动化行政过程中，无论是数据收集，还是决策因素选择，都由人类完成。因此，收集什么样的信息、收集到的信息如何分类、哪些因素应当纳入到决策系统中，除可以遵循客观规范外，仍有主观性因素存在。当然，自动化行政决策中主观性的存在并非皆是坏事。该主观性在法律允许的范围内会带来一定创新，但自动化行政在运行过程中，由于数据数量、模式选择、适用情形等因素的不同会出现结果歧视和偏差。这种主观价值偏离带来的结果偏差不仅会损害行政相对人的合法权益，还由于自动化行政决策系统具有裁量基准的性质，其所涉及的对象较多，容易对社会公共利益造成广泛影响，甚至降低行政机关的公信力，影响社会治理能力提升，应当予以重视。

　　其次，责任划分不清晰的风险。行政机关的职权由宪法、法律授予，代表国家和人民行使，为维护社会公共利益，行政机关应当依法行政，并对违法、不当实施的行政行为，承担行政责任。传统行政法中责任划分清晰，这使得行政机关对违法行为能够及时承担行政责任，并消解所产生的不良社会影响。自动化行政以算法为支撑，由于算法决策系统容易产生技术偏差，且现阶段自动化行政下的算法机器不具备责任主体资格，无法承担相应行政责任，由此引发了自动化行政结果偏差应当由谁承担责任的问题。此外，自动化行政在应用过程中会出现两类主体：一类主体是提供自动化行政技术的技术应用者，一类主体是应用自动化行政决策系统的行政机关及其工作人员。因为自动化行政所需的技术专业性较强，所以行政机关多将此项技术运作委托给专业公司，这使得对行政相对人而言，无法准确定位谁是承担责任的主体。

　　最后，交流沟通欠缺，易引发行政“共情感”降低。随着人工智能的发展，人类对机器的依赖愈发明显。起初，这种依赖性多发生在消费、旅游等社会生活方面，随着数字技术的进一步演化，政治、法律等对人工智能的依赖性也有所增加，这种依赖使得人类“共情感”降低。即人对物的过度追求，使其丧失主体性和创造性、对整个社会的理解力和批判力、对社会和人类前途的思考力。对自动化行政而言，人们对算法等技术的依赖会使政府与公众的互动减少，工具理性随着算法的应用逐渐占据上风，从而使得人们的行政“共情感”降低。

　　在法律规范完备的情形下，行政相对人对行政机关做出的行政决定具有一定的预测能力，且行政机关能够通过与行政相对人的有效沟通化解行政纠纷，但在自动化行政下，算法决策系统在行政过程中提高了行政效率，却使得行政相对人难以与行政机关进行沟通对话。因此，这有可能损害行政相对人的合法权益。比如在行政处罚案件中，行政相对人的陈述、申辩权无法得到有效行使将损害被处罚人的合法权益，甚至对公共利益造成影响，增加社会治理难度。

　　规制自动化行政风险的建议

　　首先，加强决策前与决策后审核，降低主观价值偏离风险。将自动化行政嵌入行政法理论中会发现其符合行政裁量基准的特征。行政裁量基准是行政机关实施行政行为的内部指南，有利于限制行政机关裁量权的自由行使，以法律、行政法规、行政规章为制定依据，以当地经济、文化、生活水平等为客观依据。行政裁量基准作为行政机关行政决定的“衡量尺”，做出的违法、不当行政行为必然对行政相对人的合法权益造成负面影响。虽然自动化行政与行政裁量基准具有一定的相似性，但传统裁量权的行使具有一定的灵活性和个案公正性，一般不会产生主观价值偏离的风险。数字时代下的自动化行政决定交由算法系统做出，这使得自动化行政适用对象广泛，一旦决策因素设定者主观价值偏离便会对社会公共利益和当事人利益的影响进一步加深。

　　目前，人工智能应用主要集中在安防、医疗、无人驾驶领域，法律人工智能的应用主要集中在司法领域。行政领域的自动化决策应用依然处于初级阶段，在人机交互情形下，应当对行政机关适用自动化行政进行条件限制，并提出合理要求，这将有效避免算法不透明所产生的系列风险。

　　建立应对风险和解决问题的长效体制机制。通过建立决策前审核与决策后反馈机制，可以降低自动化行政主观性价值偏离风险，促使其在提升行政效率的同时，实现公平正义。无论是行政处罚，还是行政许可，行政决定的做出都离不开行政机关与行政相对人的参与，合法合理的行政决定同样需要对符合法律要件的行政事实进行调查和审核。根据影响行政相对人权益的不同，自动化行政可分为给付行政与负担行政。因此，自动化行政决策前审核机制应当有所不同，以确保自动化行政决策科学、公正、合法，降低系统设定时所产生的主观价值偏离风险，实现社会的公平正义。

　　其次，完善问责机制，实现责任划分清晰化。现阶段，“智能秒批”等自动化行政的责任依旧由决策系统的使用者行政机关承担，但自动化行政决策系统建构错误所产生的相关责任该由谁来承担？是否需要服务提供者第三方担责，值得思考。另外，数据收集方、决策方，该如何担责？因此，提升算法治理应用能力，应当继续完善算法问责机制，明确划分各主体之间的责任。收集数据、训练数据、决策全程留痕，可以实现算法决策各阶段责任全程追踪。第三方参与到自动化行政决策中是否需要承担相应的责任，需要进行综合考量。

　　最后，决策反馈与公众参与相结合，增加行政互动“共情感”。行政机关作为执行机关，理应接受人民监督，监督最好的方式就是参与。为了弥补工具理性造成的公众参与不足、政府与公众互动减少所导致的“共情感”缺乏风险，应当建立自动化行政决策反馈与公众参与机制，吸纳公众对自动化行政的相关意见，必要时建立系统外个性化标准，实现政府与公众的良性互动。一是，决策反馈与公众参与相结合，实现自动化行政效果及时反馈。决策反馈与公众参与是行政机关发现行政执法中存在问题的重要举措，通过决策反馈，行政机关能够及时了解决策系统运行的好坏与决策结果对行政相对人所造成的具体影响，从而及时对系统代码进行修改完善，实现算法行政动态调整、动态治理、动态反馈。二是，适当建立系统决策外个性化标准服务，实现政府与公众良性互动，增加自动化行政下的互动“共情感”。随着自动化行政决策应用在各行政领域的深入，行政机关与相对人之间的互动将减少，为增强社会公众对行政机关专业性和公平性的笃信，行政机关应当在必要时提供个性化标准服务。个性化标准的例外规定还可以降低自动化行政决策的不确定性风险。因此，应当灵活运用算法决策，做好工具理性与交往理性之间的过渡工作，对算法决策在行政领域的应用进行严格区分，合理界定算法决策下个性化标准的适用范围，在提高行政效率的同时，增加政府与公众之间的互动，强化行政机关在算法决策下的民主责任。

　　先后实施的数据安全法、个人信息保护法积极对网络治理、算法治理进行规制，这有利于实现公共行政现代化、法治化。鉴于算法技术进一步发展，为回应社会需求，行政法需要认真对待算法决策以及算法决策下的其他衍生品，用制度规范回应快速变化的社会实践，完善规章制度，确保自动化行政合法合理运行，实现技术变革和行政法律秩序良性互动。

　　（作者单位：西南政法大学公法研究中心）