多位专家建议先形成行业共识再沉淀为法律规则
责任归属、知识产权权属等问题引发争议
具身智能热潮下法治如何护航产业落地
目前,生成式人工智能正以多模态内容生成为基础,进一步探索世界模型,以增强对环境的理解与预测能力,并为AI系统的规划与决策提供支撑。
在具身智能产业中,“世界模型”尤为火热。今年8月,在世界人形机器人运动会上,中国人形机器人在多项赛事中打破人类比赛纪录;在世界机器人大会上,世界模型不仅成为多个论坛的热门话题,也是多家机器人厂商集中展示的技术方向。
当前,机器人产业正处于技术突破、资本集聚与全球布局的关键窗口期,但问题也随之凸显:机器不再只是生成内容,而是走进家庭、工厂和公共场所,依据自我预测采取行动。在此背景下,它如何才能安全可控地服务人类?其进入真实物理世界的训练数据从哪来、归谁管?这成为产业落地过程中绕不开的法治议题。
当机器人开始“临场决策”,责任归属如何划分
世界模型带来的第一个法治挑战,来自机器自主性的跃升。
在世界机器人大会主论坛上,大晓机器人董事长、商汤科技联合创始人王晓刚描述的理想形态是“理解、生成、预测一体化”:模型一边执行动作,一边对现实空间里未来可能产生的后果进行推理和演绎,并据此作出判断。这意味着机器人具备临场应变、自主决策的能力。
责任归属的追问随之而来。这一议题也成为由北京仲裁委员会、北京国际仲裁院等单位联合主办的“法治护航:机器人产业全球合规发展论坛”关注的议题之一。
国新国证创投总经理彭民提出,机器人基于自我预测或持续学习(比如大模型的智能涌现)产生研发者事先无法预想的行为后造成人身、财产损害,责任该由算法研发方、硬件制造商、运营使用者还是机器本身承担?传统侵权责任中“行为、过错、因果关系、损害结果”的法律认定规则难以对此进行有效规制,其损害后果关系研发、制造、运维、部署等多方主体,因果链条复杂。
“传统民法将人和物进行划分,边界清晰、泾渭分明,机器设备是客体,属于物。但是,当具身智能有了自主意识,并在物理世界产生行为,它是法律上的‘物’还是按照公司法人的逻辑给它一个拟制的法律人格?这些问题眼下都不宜仓促作答。”彭民说。
符合行业需要的高质量数据获取、治理面临挑战
之江实验室主任、阿里云创始人王坚表示,人工智能变革极大地依赖于数据,世界模型尤其如此。对于具身智能产业而言,机器人在物理世界的训练数据同样面临很大挑战。真正符合行业需要的高质量数据,应该怎样获取、如何治理?这是产业和法律共同关注的问题。
“具身智能要想真正服务好人类社会,就应在开放环境中理解人的意图,可自主决策、安全行动。但这些都依赖于模型的多模态理解、常识推理、实时控制能力等。当前,模型在这些方面还存在明显的短板。”极佳视界联合创始人朱政说,模型能力的提升第一要解决的问题是训练数据的来源问题。具身智能产业的世界模型训练需要大量使用无标注的视频数据,而视频数据的知识密度与文本数据悬殊,对训练数据规模的需求自然也不同。
今年论坛期间,许多专家表示,训练数据的权属是第一道坎:影视作品等合成内容作为训练数据,版权许可怎么签?合理使用边界在哪?这直接关系世界模型训练成果的知识产权合法性与技术可靠性。
而在真实物理空间,同样存在一道“坎”。彭民表示,具身智能在实际场景中,机器人在家庭、商场、工厂等物理空间内游走,实时采集图像、声音、生物特征等海量数据。与线上AI最大的区别在于,它活动于真实物理空间,很多信息产生于公共场所,被采集对象往往没有机会作出知情同意。穿行于街头、工厂、家庭的机器人在持续采集过程中涉及图像、声音乃至生物特征等信息,路人通常无从表示同意,“告知—同意”原则的落地存在困难。此外,跨境流动的训练数据,还会触发数据出境的合规要求。
在彭民看来,在数据安全方面,数据训练、本地存储、云端回传、模型迭代的全链条可能带来数据泄露和滥用风险。哪些数据可以采用、哪些数据必须禁止采集?采集的数据存储之后,谁有权调取?发生侵权之后,传感器的记录、算法、决策日志能否作为证据,调取程序是什么?现有规则仍处于相对空白和模糊地带,一旦发生纠纷,数据的留存和证据固定都可能存在较大的难点。
技术逻辑改变传统行业惯例
机器人产业的技术逻辑,已经跑到传统合同框架之前。在“法治护航:机器人产业全球合规发展论坛”上,北京仲裁委发布了机器人产业投资与知识产权保护典型纠纷案例,覆盖产业核心的合同风险。
智驾技术开发纠纷中,A公司委托B公司协助开发自动驾驶感知项目,B公司要按进度完成研发工作,包括配合开发算法并提交代码及在公开道路上实车测试开发的算法等。B公司的技术交付方式是全部将工作成果上传到某指定服务器。
某头部汽车公司法务总监、北京仲裁委仲裁员亓琳表示,委托技术开发和共同开发属于比较传统的合同纠纷,但在新技术条件下,标准、要求、验收和交付等会出现新的情况。随着自动驾驶技术的发展,其研发的特殊性实际上已经颠覆了传统技术开发工作交付成果的固有形态。由于自动驾驶技术研发过程需要不断开展实车道路测试、验证或修正阶段性研究成果,所以研发过程多表现为实时上传至指定服务器或第三方存储平台等形式。“实时上传服务器”的交付方式,颠覆了传统图纸、光盘的交付形态,而这一做法在行业实践中早已成为常态。最终仲裁结果认定符合行业惯例、不构成根本违约,但验收标准约定不明,双方均担责。
在机器人产业技术研发领域,常采用“先NRE(一次性工程费用)研发、后定制量产”的合作模式。但实践中,行业对NRE费用的性质认识模糊,容易把研发投入和硬件成本混在一起。中国行为法学会副秘书长付少军介绍了一起无人车研发纠纷案,该案属于典型的机器人产业“NRE研发+定制整车量产”一体化合作模式纠纷案。合作双方对NRE研发费用产生了分歧。
“研发过程中产生的技术秘密、专利、设计方案、定制化知识产权等,才是NRE费用所对应的价值。”付少军介绍,此案中,仲裁庭厘清了机器人产业NRE研发知识产权对价的边界,明确NRE费用是技术秘密和定制化知识产权的对价,独立于量产实物的价款,从而修正了混淆研发知识产权投入与硬件成本的行业常见误区,保护了机器人研发企业前期技术投入的收益。
此外,有专家表示,知识产权的权属边界同样待解。机器人“大脑、小脑、本体”深度耦合,模型自主产生的新成果归开发者、运营方还是使用者?持续迭代的系统也给传统著作权、专利制度提出了新课题。
可将行业共识沉淀为法律规则
北京仲裁委员会委员兼秘书长姜丽丽表示,中国机器人产业正以前所未有的速度和力度走向世界舞台中央。繁荣之下孕育着风险与挑战,企业出海面临跨境数据流动的限制,且日趋严格。各国数字知识产权保护规则复杂多样,面临现实挑战和不同议题。人才流动带来的商业秘密泄露风险、专利侵权诉讼等知识产权争议也是企业家、投资者和专家、科学家共同关注的问题。机器人产业的全球化发展既需要技术专家的创新突破,更需要法律专家的前置护航。
多位专家表示,应先形成行业共识,再沉淀为法律规则。彭民建议,技术高速迭代期,应优先发挥技术规范、行业惯例、科技伦理的作用,大力发展商事仲裁,待产业沉淀、案例积累后,再把共识上升为正式法律规则。
实践层面,今年3月20日,工业和信息化部等十部门发布《人工智能科技伦理审查与服务办法(试行)》,明确围绕人类福祉、公平公正、可信可控、透明度、责任可追溯、隐私保护六个方面开展伦理审查;在第二章设立“服务与促进”章节,提出标准建设、服务体系机制、鼓励创新、宣传教育、人才培养等支持性举措,释放出更包容和积极的管理模式。

