AI工具应用于科研活动的风险、限度与规制

　　科学技术人员使用AI工具超出合理限度造成不利后果，应承担道德和法律的双重责任。道德责任方面，其行为将面临在一定范围内被通报和被记入科研诚信严重失信行为数据库。法律责任方面，须承担相应民事和行政法律责任。

　　2月11日，科学技术部正式公布《科学技术活动违规行为调查处理规定》（以下简称《规定》），于2026年3月20日正式实施，同时废止《科学技术活动违规行为处理暂行规定》。《规定》将“滥用人工智能等手段编造科学技术活动相关资料、成果”列入科学技术人员的违规行为。

　　人工智能（AI）作为第四次工业革命的核心驱动力，正以颠覆性力量重塑社会运行模式。从2023年ChatGPT引爆全球，到2025年我国DeepSeek团队主动打破技术垄断、开放模型架构，推动全球AI技术普惠化，再到2026年初字节跳动豆包大模型团队推出的视频生成基础模型Seedance2.0，在全球刮起15秒短视频创作风。AI技术已从实验室走向千行百业。

　　目前，许多科研活动中也存在不少使用AI工具的现象。在此背景下，科技部印发《规定》严禁科研人员等滥用AI。总体来看，AI工具应用于科研活动可能产生技术、职业道德与法律三大风险，有必要深刻揭示潜在风险、讨论其合理使用的限度并进行有效规制。

　　AI工具应用于科研活动可能产生三大风险

　　尚难突破“天花板”的技术风险。目前，AI工具应用到科研领域的技术风险有两点：一是大语言模型鉴别语法框架下的词语要素真实性能力欠缺可能导致的风险。AI工具的核心技术是大语言模型，即使用大量文本数据训练的深度学习模型，能够生成自然语言文本或理解语言文本的含义。大语言模型着重解决生成内容的语法合理性问题，但很难准确鉴别语法框架下词语要素的真实性。比如，大语言模型回复“关羽用原子弹与颜良对打”，这句话从语法上看没有什么问题，但从历史常识角度看，这是不可能的。二是编造资料的风险。大语言模型重点解决的不是严肃的考据问题，相反，为了仿造人的自然讲话及有限的算力消耗的限制，大语言模型往往主动去编造资料作为论据以快速完成问答指令，甚至会给编造的资料链接。科学技术人员若不进行严格查证，直接使用这些资料将会受到误导。

　　触犯职业“底线”的道德风险。科研活动的本质是创新。它要求从事科研活动的科学技术人员遵守“学术诚信”，不可将他人已有的智力成果占为己有。这是因为“学术不诚信”行为会严重削弱作为科研活动本质的“创新”基础。如果科学技术人员在科研活动中大量使用AI工具会存在“学术不诚信”嫌疑，使得科学技术人员对AI工具越来越产生依附感，甚至可能导致其在自身研究领域创新能力减弱，影响我国经济社会高质量发展，最终可能妨碍国家竞争力、综合国力与国际影响力提高。

　　触碰法律“红线”的风险。科学技术人员如果过分依赖AI工具进行科研活动，直接使用由AI工具生成的他人已经公开发表的文章资料，该行为涉嫌侵犯他人著作权，可能会被认定为符合《中华人民共和国著作权法》第五十二条规定的“未经著作权人许可，发表其作品”或《中华人民共和国著作权法》第五十三条规定的“未经著作权人许可，通过信息网络向公众传播其作品”的情形。

　　综上所述，AI工具应用于科研活动可能产生技术、职业道德与法律风险，这会对使用AI工具进行科研活动的科学技术人员造成严重不利的潜在影响。

　　科研活动合理使用AI工具的限度

　　鉴于AI工具应用于科研活动对科学技术人员产生技术、职业道德与法律三大风险，有必要进一步讨论其合理使用的限度。总体来看，科研活动合理使用AI工具必须注意三个问题。

　　提倡学习AI技术。AI技术是时代的潮流，富有学习能力的科学技术人员应主动学习AI技术，拥抱AI技术。在日常科研管理工作中，科研单位应提倡科学技术人员学习AI技术。

　　不可将AI工具置于科研活动的主导地位。科学技术人员错误地将AI工具置于科研活动的主导地位，直接使用不经严格考证鉴别AI工具生成的科学技术活动相关资料、成果，可能导致AI工具滥用问题。即科学技术人员使用AI工具进行科研活动时，直接使用不经严格考证鉴别AI工具生成的科学技术活动相关资料、成果，可能涉嫌侵犯他人著作权及违反“学术诚信”的职业道德规范。

　　只能将AI工具置于科研活动的辅助地位。鉴于AI工具应用于科研活动会产生一定的风险，在科研活动中，科学技术人员只能将AI工具置于辅助地位。平时，可以通过AI工具查阅资料、拓展学术视野，但在学术论文写作、验证实验数据时要注意鉴别AI工具生成资料的真实性与可靠性，不可直接采用。

　　超出合理限度使用AI工具的规制

　　科学技术人员因使用AI工具超出合理限度而造成不利后果，如何进行规制？可以从道德与法律两个方面入手。

　　首先，科学技术人员使用AI工具进行科研活动本身属于个人行为，如果科学技术人员因使用AI工具超出合理限度而造成不利后果，应由其本人负责，承担道德和法律的双重责任。

　　其次，在现有法律框架下，科学技术人员超出合理限度使用AI工具，可能违反《中华人民共和国科学技术进步法》第一百一十二条、第一百一十三条，以及《规定》第十七条、第十八条的规定。依照《规定》，科学技术人员存在违规行为的，有关单位视情形轻重，可以单独或合并采取包括“警告、约谈、责令改正、一定范围内通报、中止相关科学技术活动、暂停有关财政资金的拨付与使用、终止或撤销相关科学技术活动、追回有关财政资金、禁止在一定期限内承担或参与财政资金支持的科学技术活动”等处理措施。

　　最后，科学技术人员直接使用由AI工具生成的他人已经公开发表的文章资料，可能被认定构成侵犯他人著作权的违法行为。根据《中华人民共和国著作权法》第五十二条的规定，侵犯他人著作权的，需承担停止侵害、消除影响、赔礼道歉、赔偿损失等民事责任；若该侵权行为同时损害公共利益的，根据《中华人民共和国著作权法》第五十三条的规定，还须承担由主管著作权的部门作出的责令停止侵权行为、予以警告、没收违法所得等行政法律责任。

　　综上所述，如果科学技术人员因使用AI工具超出合理限度而造成不利后果，其应承担道德和法律的双重责任。在道德责任方面，其行为将面临在一定范围内被通报和被记入科研诚信严重失信行为数据库。在法律责任方面，须承担民事和行政法律责任，其中，民事责任包括停止侵害、消除影响、赔礼道歉、赔偿损失等，行政责任包括予以警告、责令改正、终止或撤销相关科学技术活动、追回有关财政资金等。

　　（作者单位：盐城师范学院法学院）