如何规制人脸识别技术滥用

专家学者建议根据不同应用场景匹配不同法律

□本社记者 任文岱

近日，南都个人信息保护研究中心人工智能伦理课题组发布《人脸识别落地场景观察报告（2019）》（下称报告）称，通过对同场景人脸识别应用线上线下调研发现，人脸识别应用落地还存在诸多问题，“技术先行，法律滞后，带来了监管的灰色地带。”

有专家在报告发布当天举办的“2019啄木鸟数据治理论坛”上表示，未来人脸识别等人工智能技术的应用场景将更复杂，应对当前人脸识别应用落地场景进行限制，并根据不同应用场景匹配不同法律框架予以规制。

人脸识别挑战法律伦理

今年7月开始，北京市市级公租房开始陆续启用人脸识别设备，经人脸系统识别确认为本小区住户后，才放行。但实际上部分小区的人脸识别设备形同虚设，管理和技术漏洞频显。报告指出，有的小区设备损坏后仍可通过小区安保人员刷卡进入，而有的小区则可以用照片成功“刷脸”破解门禁。

人脸识别技术大致分为2D、3D识别技术。一般情况下，3D技术安全性高但成本也高。在商业推广中，采购双方都会考虑成本，因此有时会牺牲部分安全利益。有专家表示，用照片能够刷开的基本上都是2D人脸识别设备和普通摄像头，可通过更换红外双目摄像头、加入改良算法等方法避免用照片攻击。

南都课题组对公租房场景调研时发现，对残障人士及坐轮椅的人而言，人脸识别闸机的摄像头高度并不友好，他们很难达到摄像头高度，因此并不能很好地使用刷脸设备。

“这虽然不是人脸识别技术本身的问题，但却是人脸识别应用部署时应考量的问题。有的学者担心，在招聘、放贷等应用上，人工智能技术可能会歧视弱势群体，加深既有的社会不公。”南都个人信息保护研究中心研究员冯群星说。

除上述问题外，报告还指出，担心人脸识别泄露的受访者超过四成，其担心的理由包括人脸信息公开无法加密、人脸信息绑定了一系列与金钱有关的账户、不确定数据管理者是否能合法收集使用信息、系统技术不完善被黑客盗用等。

用户“知情-同意”权应充分保障

报告对人脸识别应用透明度观察结果显示，许多场景下的人脸识别设备没有提供隐私政策或用户协议，公众无法在充分知情同意前提下使用相关设备。比如有的商场在入口处安装摄像头通过人脸识别统计客流量，但并未征得顾客同意。

报告称，人脸识别产品或服务厂商在宣传时常主打“无感”，即用户没有感知。对数据收集者和使用者来说，“无感”也许是件好事，但对于用户来说，这不公平。但用户的“知情-同意”权利远不止涉及单一场景。在中国电子技术标准化研究院信息安全研究中心数据安全部主任胡影看来，对包括人脸识别技术在内的人工智能来说，虽然目前在专业领域、单一领域找到了解决问题的办法，但如何解决复杂场景下的问题，仍面临诸多挑战。比如自动驾驶，为了判断周围是不是一个行人，可能要采集周围环境所有数据才能便于做出相应判断。这需要大量数据帮助算法模型做判断，其涉及数据过度采集问题、采集范围问题等。

胡影介绍称，对人工智能来说，数据、算法模型、算力计算是其主要需要保护的对象。APP在使用时，很多场景会部署在云端做训练、预测。在训练阶段，很多模型数据采集互联网上公开的数据，但一般情况下这只能用于科学研究。“而数据安全的隐患，主要在模型训练数据。但其对应的数据生命周期，需要采集大量数据样本，远比现在的APP采集场景更复杂。”胡影说，这就存在数据采集与用户授权不一致问题，国外就曾有案例，将从互联网上采集的数据训练出的模型投用到商业产品中去。其时，它改变了这些数据的授权范围，出现了数据采集和用户授权不一致的问题。

胡影还提到，人脸属于典型的敏感个人信息，人脸采集合规问题涉及采集的数据质量，用户选择退出权如何保障等问题。“在模型训练阶段，用户不想自己的数据被采集，要怎样退出？数据使用过程中，如脱敏后的数据、匿名化的数据，因大量数据在一起会有再识别、数据标注等，这又牵扯到大量机构等。因此，也有很多安全隐患和合规问题。”

南都个人信息保护研究中心呼吁，要为商业场景下的人脸识别应用，提供隐私保护政策，为用户设置有效的“勾选同意”方式，要求商家对首次使用人脸识别应用的用户做充分说明，并征得用户知情、同意。此外，应在人脸识别摄像头旁贴上明显告示，让用户清楚知道自己正在或可能被拍摄。

不同应用场景匹配不同法律

校园、公厕等场景下，人脸识别有必要吗？人脸识别在多大程度上节约了成本，效果如何衡量？是否必须使用人脸识别才能达到预期效果，还有别的替代性方式吗？报告认为，人脸识别应用需要充分采纳公众意见，论证其正当性、必要性。

由全国信息安全标准化技术委员会等成立的APP专项治理工作组副组长洪延青指出，使用人脸识别进行计数，只是为了区分不同的人，比如在刷脸领厕纸的场景中，人脸识别只是为了让用户在特定时间内不重复免费领厕纸。但商家用人脸识别计算人流，这时不知道被识别的人是谁，只知道谁来过。“但这种情况下要考虑是否有必要通过人脸识别才能达到技术目的。从法律比例原则考量，这可能存在价值比例失衡问题。对计数使用场景而言，我建议摒弃人脸识别技术运用。”

洪延青认为，人脸识别应用场景可分为6类，除上述技术层面，还包括认证、识别、监控、伪造、窥探。认证是在预先已录入信息数据库情况下，人脸出现在镜头前，人脸信息将映射到数据库的某个记录，证明你是谁。识别则是在认证基础上，识别分析你行为的数据。对于认证、识别场景，可以适用个人信息保护中“知情-同意”和个人敏感信息的法律框架予以规制。监控场景，本质上是“识别+追踪”。在新零售等企业监控场景中，也可以适用“知情-同意”来拒绝或对抗。伪造场景中的人脸识别技术，可以适用肖像权法律保护。窥探场景中，可使用民法上既有的人格权、隐私权等来解决问题。洪延青表示，不同场景可以找到不同法律框架去规范。未来人脸识别应用可能还有很多新场景，但其往往是这6个基础性目的的组合和叠加，因此，可以据此适用有关法律。

报告也建议，对不同人脸识别应用场景进行不同考量，确定人脸识别应用的使用必要性和使用范围，明确准入场景，准入条件并设置“黑名单”“白名单”等。