AI技术广泛应用，法律和道德边界不可忽视

　　近年来，人工智能（AI）技术快速发展，我们在网络上的每一次社交行为背后，可能都有AI的影子。但是，随着AI技术在社交软件领域的应用越来越广泛、越来越智能化，也衍生出一系列涉及道德和法律的问题。

　　近日，浙江省一名14岁的女孩因沉迷于一款聊天软件，在家长不知道的情况下多次充值，共花2万余元购买陪聊服务并打赏主播。该聊天软件利用AI聊天角色，设计好精妙的话题讨好和取悦用户，这是让涉世未深的未成年人沉迷其中的重要元素。当家长向App客服申请退款时，对方则以各种理由推卸责任，最终仅退款4000余元。接受本社记者采访的多位业内人士和专家学者表示，人工智能在推动社会各领域进步方面存在巨大潜力。但是，高度拟人化的人工智能是一把双刃剑，用得好可以改善社会生活质量，用得不好则影响人们正常的社会生活。因此需要进一步加强AI技术的应用管理，将之纳入法律和道德伦理的轨道上运行。

　　AI技术广泛用于各行各业

　　李东（化名）是一名资深的游戏玩家，一次，他和游戏平台一名昵称为“小天”的客服聊天时，发现“小天”几乎无所不知，不仅回答准确，而且在与他互动时，面对他的提问，还能把问题又抛回给他。

　　李东觉得“小天”应该是一个高手玩家，几乎知道所有游戏常识，能很好地表达自己的情绪和观点，并且无论何时上线，“小天”也总能与他互动，似乎时时刻刻都在等着他。这让李东对“小天”心生好感和崇拜，于是询问“小天”的性别，“小天”却很婉转地告诉李东，自己很喜欢自己的男朋友。李东认为“小天”是一个智商和情商都很高的女孩，因此对“小天”愈发痴迷。有一天，李东联系到这家游戏平台的一个内部工作人员询问“小天”的个人信息，才得知“小天”是这家游戏平台开发的一款高度拟人化的AI聊天机器人，因为还在测试中，所以没有对外公开。

　　李东向记者表示，“小天”知识渊博，拥有迷人的声音，并且温柔体贴、幽默风趣，有自主情感，已经具备了“人格”，如果给“小天”开通一个社交账号，“小天”能如普通用户一样表达自己的情感和需求，真是让人真假难辨。

　　周峰（化名）是一家人工智能公司的技术总监，他向记者表示，现在许多公司陆续开始利用AI技术打造个性化用户体验，从而提高客户的满意度、参与度和转化率。如利用AI聊天机器人按需为客户提供帮助或客户服务，不但有助于公司改善客户服务水平，还能降低客户服务成本，从而实现较高的投资回报率。

　　记者注意到，AI技术有诸多不同用途，例如消息传递应用、移动应用、网站、电话线路和支持语音的应用。它们可以针对不同目的而开发，无论是仅处理一些简单的命令，还是充当复杂的数字助理和交互式代理。AI可以是大型应用程序的一部分，也可以完全独立存在。

　　武汉大学网络治理研究院副院长袁康向记者表示，近年来随着人工智能的发展，AI被开发者拟制为接近人格化的形象，并根据人类的一般喜好被设定诸多具有独立性、吸引力、亲和力的特质，使AI不但具备更为丰满的人格形象，能够越来越满足使用者的情感需求，为使用者提供情绪价值，还能够像人类一样进行独立的推理思考。

　　AI人格权的赋予应持谨慎态度

　　近年来，国家加快智能制造产品研发和产业化，国家和地方为此纷纷出台一系列政策，支持人工智能产业发展，为经济社会高质量发展赋能。今年7月，科技部等六部门印发的《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》明确，推动城市和行业的人工智能“数据底座”建设和开放，采用区块链、隐私计算等新技术，在确保数据安全的前提下，为人工智能典型应用场景提供数据开放服务。加强“数据底座”的安全保护，对个人信息、商业秘密、行业重要数据等依法予以保护。

　　中国科学院院士、清华大学人工智能研究院名誉院长张钹认为，以深度学习为代表的算法爆发拉开了人工智能浪潮的序幕，在计算机视觉、智能语音、自然语言处理等众多领域取得了长足发展。但以数据驱动的第二代人工智能在可解释性、稳健性方面的缺陷也逐渐暴露出来，导致安全事件频发。如何实现高质量发展和高水平安全良性互动，是当前人工智能产业面临的最为重要命题之一。

　　人工智能时代的来临，在改变人类生产和生活方式的同时，也给传统的伦理、哲学观念和法律适用带来了冲击。尤其是虚拟现实等新技术的不断发展，自然人人格要素被虚拟化呈现的应用日益增多，因此而产生的法律和道德冲突也越来越多。

　　安徽师范大学法学院副教授陈鹏认为，伴随人工智能时代的到来，人工智能的人格权如何确认已成为法学界无法回避的现实问题。目前，学界对人工智能人格权的研究集中于伦理、哲学和法律三重维度，而伦理视角和哲学维度的探讨终归还是要落实到法律层面的实践，并要考虑可能引发的道德风险。现阶段人工智能人格权的确认面临一定的法理困境和诸多法律适用难题。人工是智能的前提，人工智能人格权确认面临的法律困境及其可能带来的巨大道德风险，使得我们在人工智能人格权的赋予上应持谨慎态度。

　　科技应秉持向善原则

　　百度首席技术官王海峰曾公开表示，目前，人工智能发展呈现出“融合创新”和“降低门槛”的特点：一方面，AI技术及产业的融合创新越来越多；另一方面，虽然AI技术越来越复杂，但AI开发与应用的门槛却越来越低。

　　科技是发展的利器，也可能成为风险的源头。随着AI使用门槛降低，被不法者利用后，在社交网络上带来了一系列新的安全挑战。例如利用“AI换脸”视频聊天进行电信网络诈骗，利用伪造人脸识别认证、制造虚假新闻等。

　　AI技术在给互联网带来便利的同时，如何协调其发展与法律、道德伦理治理之间的关系？袁康表示，AI技术作为新兴科技本身并无“原罪”，具有技术中立性，在法律层面并非被一刀切地禁止使用，而是有条件地支持和鼓励。虽然技术是中立的，但使用技术的人却有立场，对于AI技术等具有一定创新性、变革性和风险性的科学技术，要秉持科技向善的原则，不管是经营者还是使用者，都应避免利用技术从事违法犯罪行为。另外，对待纷繁复杂的网络信息和日新月异的数字化技术，除了需要有关部门加强引导和监管，也需要广大网民提高风险意识，共同营造健康有序、风清气正的网络环境。