三部门印发《智能体规范应用与创新发展实施意见》

将智能体安全、可靠、可信作为产业发展的底线要求


  本报讯(记者任文岱) 近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》)。《实施意见》旨在落实国务院《关于深入实施“人工智能+”行动的意见》,促进智能体规范应用与创新发展。

  《实施意见》提出,智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。随着大模型等新一代人工智能技术迅猛发展,智能体正加速与网络空间、物理世界深度融合,深刻改变人类生产生活方式和社会治理模式。

  《实施意见》明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则,并提出如下举措:要夯实发展基础,完善技术底座,构建标准协议。要守牢安全底线,明确产品准则,防范安全风险,完善治理体系,强化行业自律。要强化应用牵引,围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向,提出19个典型应用场景。要建设创新生态,促进产业合作,强化应用推广。

  国家网信办相关负责人表示,《实施意见》将智能体安全、可靠、可信作为产业发展的底线要求,规范有序推动智能体落地应用。

  具体而言,在明确产品准则方面,要进一步完善政策法规和伦理规范,做好智能体权限管理、行为管控等工作,为智能体相关产品研发提供指引。在防范安全风险方面,要发挥技术手段作用,提升在智能体内生安全、供应链安全、应用衍生风险等方面的风险防范能力,实现智能体开发、部署、应用、维护全周期安全管理,有效防范系统性风险。在完善治理体系方面,要适应智能体技术演进规律,根据应用场景和潜在影响,构建审慎稳妥的分类分级治理框架,推动建设智能体合规服务体系,做到既“放得活”又“管得好”。在强化行业自律方面,要鼓励智能体相关企业、行业组织、研究机构加强责任意识,共同制定行业自律规则。引导智能体开发者、开发平台、分发平台、服务提供者参与信用评价,共同营造良好发展环境。

  《实施意见》提出,国家网信办、国家发展改革委、工业和信息化部会同有关方面加强统筹谋划,完善配套政策,形成工作合力,推动重点任务落实落地。