以法治推动人工智能拟人化互动服务规范化发展

　　7月15日，《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行。作为我国首部专门规范人工智能拟人化互动服务的部门规章，《办法》围绕身份标识、行为规范、风险防控、未成年人保护等方面作出规定，为这一新兴领域提供更加明确的管理框架。

　　近年来，生成式人工智能技术快速发展，人工智能正从信息生成工具向互动服务载体延伸，可以与用户进行更自然、更持续的交流。人机互动方式的升级，在提升服务体验的同时，也带来了身份边界模糊、用户依赖、个人信息保护等新的治理难题。《办法》将治理重点延伸至拟人化互动服务领域，既回应了新技术发展中的现实问题，也体现了我国人工智能治理从一般性规范向更精准、更细化的领域治理深化。

　　情感联结背景下的人机交互新命题

　　人机从“工具关系”向“情感联结”的交互形态迭变。长期以来，机器主要承担信息处理、内容生成和决策辅助等功能，人机互动建立在任务完成和效率提升基础之上，人与机器之间形成的是相对明确的工具关系。随着生成式人工智能的发展，人工智能开始具备持续对话、情绪回应和角色塑造等拟人化互动能力，人机互动关系逐渐从“机器辅助”到“人机交互”再走向“人机共协”，技术发展的重心由提升任务处理能力延伸至满足情感互动需求，人机关系也由功能性交互逐渐走向情感性交互。因此，人与机器之间开始形成一种区别于传统工具使用关系的新型互动关系，其影响对象不再只是用户获取的信息内容，而是进一步延伸至情绪体验、价值判断乃至行为选择。在情感联结不断增强的背景下，人工智能治理面对的已不仅是技术系统本身，更是技术参与塑造的人机关系。如何看待、规范和引导这种以情感互动为特征的新型关系形态，成为人工智能发展过程中提出的全新治理课题。

　　人机边界的消融与法律边界的坚守，正在成为AI治理中突出的矛盾。人工智能追求更自然、更无缝的交互体验，越成功的拟人化设计，越容易让用户感受不到机器的存在。从语音表达、情绪反馈到人格设定、长期记忆，人工智能正在不断缩小人与机器在互动体验上的距离，其目标正是在交流过程中弱化技术痕迹，增强真实陪伴感和情感沉浸感。然而，拟人化程度越高，人机边界越容易变得模糊，用户对于互动对象技术属性的认知也可能逐渐弱化。特别是在长期、高频的互动场景中，人工智能所产生的影响已经不再局限于信息传递，而可能进一步延伸至情绪认同、价值判断,甚至行为选择。但法律治理恰恰需要一个清晰可辨的区分前提：谁是机器、谁是主体、什么行为属于合规、什么影响需要干预。无论是责任认定、权益保护,还是风险防控，都建立在人机边界明确的基础之上。在此意义上，《办法》的出台不仅是监管工具的补充，更是一次治理范式的转型——从静态的内容合规审查转向对互动全过程的动态介入，从对输出结果的把控转向对交互关系本身的规范。这种转型能否取得实效，关键在于制度设计能否真正穿透互动的日常过程，使法律保护从输出端延伸到每一次交流中人的真实感受。

　　以制度规则明确人机边界的目标与理念框架

　　明确人机边界的治理目标。人工智能拟人化互动虽能模拟情感与角色，但其本质仍是算法工具，不具备法律主体资格和独立人格。人工智能治理的首要目标，是防止拟人化设计逐步消解用户对技术本质的理性判断。在这一过程中，技术越是接近人的表达方式，越需要厘清人与机器之间的界限。推动拟人化互动服务健康发展，既要发挥技术优势，也要避免因过度拟人化而削弱公众对技术本质的认知。要通过建立清晰、稳定的人机关系秩序，使用户在享受便利服务的同时始终保持理性认知。这也是《办法》所追求的重要目标。

　　坚持以人为本的价值理念。人工智能发展的最终目的不是让技术取代人，而是更好地服务于人的发展需要。拟人化互动服务能够满足信息获取、学习辅导、生活服务及情感交流等多样化需求，其价值最终体现在增进人的福祉、提升社会运行效率上。在推动技术创新和产业发展的过程中，需要始终把人的感受、人的需求和人的权益放在重要位置，确保技术应用始终服务于人而非主导人，使人工智能的发展方向与社会公共利益保持一致。

　　聚焦特殊群体的现实需求。当前，拟人化互动服务已经广泛进入教育、养老、健康陪伴等领域，未成年人和老年人成为重要使用群体。对于未成年人而言，其认知能力和价值观念仍处于发展阶段。对于老年人而言，情感陪伴和生活辅助需求更加突出。不同群体在接受和使用人工智能服务时面临着不同情况，也具有不同层面的现实需求。因此，拟人化互动服务的治理规则不能一概而论，而应根据群体的认知特征与风险敞口设置差异化的保护标准，使制度保护可以精准触达最需要关注的群体，让技术进步成果惠及更多社会成员。

　　在多元协同中推动人工智能拟人化互动服务规范化发展

　　明确适用范围与互动主体。《办法》第二条对拟人化互动服务的范围进行了界定，将持续性情感互动纳入规制对象，从制度源头界定了该规章的调整范畴。同时，《办法》第一条从立法目的角度强调维护国家安全与公共利益，使人机互动不再局限于技术应用层面，而被纳入整体公共治理体系之中。在具体规范层面，《办法》第十八条要求服务提供者履行人工智能生成合成内容标识义务，并以显著方式提示用户正在与人工智能服务进行互动，同时对过度依赖风险进行动态提醒。《办法》使互动的技术属性在过程中可被持续识别，从而降低拟人化表达对用户认知判断的干扰，确保互动主体的性质在制度层面始终有据可依。

　　强化全过程互动行为约束。当人工智能从单纯的信息工具转向长期陪伴与持续互动的服务载体时，其对用户行为选择与情绪状态的影响开始不断加深，治理逻辑也由此发生调整。在这一背景下，“以人为本”不再只是价值原则，而是转化为贯穿于制度运行的具体约束机制。《办法》第八条以负面清单方式明确禁止情感操纵、诱导依赖及损害用户心理健康等行为，将治理重点从内容合法性延伸至互动方式的适当性与长期影响；第九条与第十条进一步要求建立算法审核、风险预警与全生命周期安全管理机制，使风险控制前移至系统设计与运行全过程；第十三条针对用户可能出现的极端情绪或危险情境，规定应当及时识别并采取干预与援助措施。这表明治理逻辑已经从“内容是否合规”转向“互动是否影响人的自主性与安全状态”，从而使以人为本原则具备可操作的制度支撑。

　　落实特殊群体分层保障。在拟人化互动服务不断扩展应用场景的过程中，不同用户群体在认知能力、风险识别与使用需求上的差异逐渐显现，使得分层治理的必要性进一步突出。《办法》第十四条对此作出专门规定，明确禁止向未成年人提供虚拟亲密关系服务，并要求建立未成年人模式、使用时长限制及监护人参与机制，从制度层面防止未成年人在长期互动中形成情感依赖或价值偏差；第十五条则针对老年人群体，强调加强健康使用指导与风险提示，以回应其在情感陪伴与生活辅助场景中的现实需求；第十七条进一步强化未成年人个人信息处理的合规要求，将保护范围延伸至数据处理环节，使安全保护从使用过程扩展至信息生命周期管理。

　　构建多方主体协同治理的格局。拟人化互动服务治理涉及技术创新、产业发展与安全保障等多个维度，需构建多方参与的协同治理格局。《办法》第四条建立中央与地方两级监管体系，国家网信部门负责统筹协调，发展改革、工业和信息化、公安、市场监管、新闻出版等部门依职责分工协作，地方同步建立相应机制；第五条强化行业组织自律，要求建立健全行业准则与自律管理制度；第二十九条确立多部门联合约谈制度，网信、发展改革、工业和信息化、公安等部门对存在较大安全风险或发生安全事件的服务提供者，可对法定代表人或者主要负责人进行约谈，要求其整改消除隐患，服务提供者应当配合监督检查并提供必要支持；第三十条构建梯度化法律责任体系，依据违法情节轻重处以警告、通报批评、责令限期改正、暂停服务直至罚款等处罚，涉及危害公民生命健康安全的加重处罚。由此，《办法》形成了纵向央地分级监管、横向多部门协同联动、行业自律与沙箱技术支撑相结合，并配以梯度化责任约束的多元协同治理格局。

　　本文为陕西省教育厅科学研究计划“人工智能赋能陕西丝路文化资源数字叙事及传播研究”（项目编号：25JK0249）的阶段性研究成果。

　　（作者单位：西北政法大学）