《人工智能拟人化互动服务管理暂行办法》7月15日起施行

为人类与AI情感互动划定健康、安全红线


  本报讯(记者任文岱) 日前,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起施行。

  国家网信办有关负责人表示,近年来,拟人化互动服务快速发展,在文化传播、适幼照护、适老陪伴等领域的创新应用不断涌现。与此同时,危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等问题日益显现。制定《办法》旨在促进人工智能拟人化互动服务(以下简称拟人化互动服务)健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

  《办法》提出,提供拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得从事以下活动:生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一等的内容;生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的内容;通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益及其他违反法律、行政法规和国家有关规定的活动。

  《办法》将适用范围界定为:利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务。同时,明确提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用《办法》。