生成式人工智能的风险挑战与监管框架

生成式人工智能的风险挑战与监管框架

——兼谈《生成式人工智能服务管理办法（征求意见稿）》

　　4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）向社会公开征求意见，拟进一步促进生成式人工智能技术健康发展和规范应用，对类似ChatGPT、Midjourney、文心一言等生成式人工智能服务提出明确合规要求。

　　生成式人工智能的风险挑战与监管回应

　　生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，它可以凭借自主学习和自我优选的技术能力，实现较好的内容生成效果，在传媒、零售、法律、医疗、金融等领域提供专业化、个性化内容生成服务。从ChatGPT到百度的文心一言，再到OpenAI公司发布的最新版本GPT-4等各类生成式人工智能，一场生成式人工智能技术热与淘金热正愈演愈烈。

　　然而，由于生成式人工智能所生成的内容直接与其输入数据源密切相关，且输入数据类型和输出内容携带的价值判断往往多种多样且参差不齐，这使得在技术开发与使用过程中面临全新的法律规制风险与科技伦理挑战，如数据源违规收集、算法失控风险、内容真假难辨、虚假信息泛滥、隐私保护缺位、侵害知识产权以及不正当竞争等问题。这将不可避免地打破技术创新与安全管控的平衡，给监管提出前所未有的挑战。

　　对此，共21条的《征求意见稿》从不同角度对开发和利用生成式人工智能的行为作了监管回应，对生成式人工智能服务提供者提出遵守法律法规尊重社会公德公序良俗的基础原则性要求，明确人工智能服务提供者的准入手续、产品责任、训练数据来源合法性责任、个人信息保护义务、内容管控义务、标识义务等以及违反规定后将面临的责任追究等问题。

　　生成式人工智能应用的全过程监管框架

　　《征求意见稿》形成了关于生成式人工智能应用的全过程监管框架。从准入门槛到技术研发、算法设计、数据训练，再到产品使用和事后反馈，均被纳入监管。

　　首先，准入环节严格，《征求意见稿》规定了生成式人工智能的安全评估与算法备案制度，如第六条明确，生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案等手续。这成为人工智能服务提供者开展生成式人工智能服务的前置性要求。该规定承继了《互联网信息服务深度合成管理规定》第十九条、第二十条的管理原则，有助于国家监管机构借助外部监督对生成式人工智能产品的潜在风险进行事前评估，增强人工智能产品的安全性、可解释性及可问责性。

　　其次，《征求意见稿》针对生成式人工智能产品的技术开发和服务提供过程，明确了内容治理方面的要求。生成式人工智能的发展，进一步强化了深度合成技术治理场景下各类虚假信息的制造和传播风险。对此，《征求意见稿》第四条对内容治理的基本原则作了具体规定，明确生成式人工智能的生成内容应当避免出现法律法规禁止或限制的行为和内容，应当尊重社会公德、公序良俗，体现社会主义核心价值观。该条还特别指出，利用生成式人工智能生成的内容应当真实准确，并要求人工智能服务提供者采取措施防止生成虚假信息。此外，《征求意见稿》还具体明确了人工智能服务提供者的内容生产者责任、内容管控义务及举报义务、违法信息的及时处置义务以及生成内容的审核标识义务，并就不得生成歧视性信息的问题作了明确规定。这有助于防止利用生成式人工智能开展社会舆论操纵、认知对抗等扰乱网络社会秩序的行为发生。

　　最后，《征求意见稿》针对生成式人工智能产品的算法设计、数据训练、产品使用与事后反馈过程，明确规定了数据合规、算法安全、知识产权保护以及用户权益保护等方面的要求。除对知识产权侵权、个人信息安全、数据泄露风险、不正当竞争等传统数字治理领域风险的规制外，《征求意见稿》还明确规定了人工智能服务提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责，并强化了数据训练过程中的算法合规要求，这有助于避免算法歧视和信息茧房等问题。此外，《征求意见稿》还特别回应了用户权益保护的监管要求，在第四条原则性规定的基础上，要求生成式人工智能产品服务提供者履行防沉迷义务、个人信息保护义务、用户教育义务，确保服务安全稳健透明，并建立了投诉处理机制。

　　全球人工智能科技竞争背景下的监管框架完善

　　评判当前生成式人工智能的监管框架是否合理，除考量其是否能有效应对当前技术变革带来的风险挑战外，还需立足于全球人工智能服务科技竞争的大背景，判断其是否有助于引领我国相关行业创新。值得肯定的是，《征求意见稿》提出的关于数据标注以及生成内容真实准确性问题，有助于倒逼科技创新者进行技术迭代和创新；在处罚措施方面的规定相对克制，给出了鼓励发展、强化沟通的监管信号。结合《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等既有法律法规，我国在人工智能领域的法律治理体系已初步形成，这将引领人工智能产业朝着合规方向稳健发展。

　　仍待完善的是，《征求意见稿》对于人工智能服务提供者的合规要求可能标准过高，很难落地，也容易抑制技术创新。例如，《征求意见稿》明确了人工智能服务提供者对不法内容进行过滤、防止再次生成的内容管控义务。然而在实践中，为有效过滤不法信息，要求在内容生成阶段就必须同步进行监测与审核，这对相关技术开发提出了较高要求。对新技术的治理，需要在创新发展与风险规避之间寻求平衡，阻碍技术创新带来的风险可能远远大于技术应用的风险。因此，在生成式人工智能技术早期探索阶段，应当适度降低内容审查方面的要求，只要求人工智能服务提供者在现有技术可及的监测能力之合理范围内对人工智能生成内容承担管控义务。又如，由于当前相关技术尚处于发展初期，人工智能生成内容很难保证完全真实准确，因此《征求意见稿》所提出的防止生成虚假信息、从数据源头确保数据标注真实准确等要求，应当被理解为一种监管政策的引导，不宜在实践中被机械地运用，否则将可能极大削弱相关企业的创新积极性。

　　（作者单位：大连海事大学法学院）