登录×
电子邮件/用户名
密码
记住我
人工智能

人工智能发展面临的法律挑战

王新锐:监管部门和司法机关对透明性和举证责任的要求,与机器学习结果的不确定性和算法保密要求之间,存在着一种结构性的紧张关系。

【编者按】人工智能(AI)的发展影响着每个人的日常生活,经历了过去一年中对AI的忧虑和伦理讨论之后,新的一年大家越来越关注AI领域的创业机会,人工智能随之成为今年创投圈的新风口。那么,国外的机器人产业的发展对中国有什么样的启示?以及中国人工智能创业中需要注意什么问题等,FT中文网近期组织人工智能专题,编辑事宜,联系闫曼 man.yan@ftchinese.com。

观察一个概念是不是在公众视野中“红了”,有一个判断标准,就是看看在各大机场的书店里有多少本关于这个主题的畅销书。以这个标准来看,人工智能现在无疑“红的发紫”,也还会继续红下去。

然而,科技领域的每一个新概念,从产生到具体在各行业中落地,都需要面对很多挑战,既有技术和商业层面的,也有法律和公共政策层面的。

在过去的一年之间,人工智能的发展已经引起了很多国家、国际组织的重视,联合国、美国、欧洲议会、英国、法国、电气和电子工程师协会(IEEE)先后发布多份关于人工智能的报告,讨论人工智能的影响和需要考虑的风险。这其中也包含了对于法律问题的讨论。

笔者作为多家科技公司的顾问,也在业务实践中遇到了很多和人工智能技术应用相关的法律问题,本文会结合实例讨论人工智能发展在法律问题上可能会遇到哪些挑战。

数据的收集、使用和安全

尽管人工智能从法律上很难准确定义,但从技术上来说,目前人工智能基本都会涉及机器学习技术 (Machine Learning),这意味着需要收集、分析和使用大量数据,其中很多信息由于具有身份的识别性(包括结合其他信息识别身份),属于个人信息。按照个人信息保护方面的法律规定,这些行为应当取得用户明确、充分且完备的授权,并应当明确告知用户收集信息的目的、方式手段、内容、留存时限还有使用的范围等。

早在2011年,Facebook就曾因其人脸识别和标记功能未按伊利诺伊州《生物信息隐私法案》(BIPA)要求告知用户收集面部识别信息的期限和方式被诉,随后又因采集面部特征前未能明确提醒用户并征得用户同意而遭到爱尔兰和德国有关部门的调查。尽管Facebook辩称默认开启该功能是因为用户通常不会拒绝进行人脸识别,并且用户有权随时取消这一功能,但德国汉堡市数据保护与信息安全局坚持Facebook的面部识别技术违反了欧洲和德国的数据保护法,Facebook应删除相关数据。最终,Facebook被迫在欧洲地区关闭了人脸识别功能,并删除了针对欧洲用户建立的人脸数据库。

当然也有对企业有利的案例。著名篮球游戏NBA2K提供了使用用户面部识别信息建立角色模型的功能,部分用户以游戏制造者未征得其同意提起集体诉讼,法官认为被告收集信息最多是抽象的违反了BIPA,而没有给原告造成具体而特定的损害,因此原告主体身份不适格,驳回了原告的诉请。

除了需要按告知的方式和范围使用用户数据,人工智能应用的开发者还可能面临需要配合政府部门提供数据的情况。2016年阿肯色州发生的一起谋杀案中,警方希望获取Alexa语音助手收集的语音数据,该请求遭到了亚马逊公司的拒绝,理由是警方没有出具有效的法律文件。但这种例子以后还会层出不穷。公权和私权的冲突,也许会因为人工智能技术的引入,出现新的形式。

FT中文网客户端
点击或扫描下载
FT中文网微信
扫描关注
FT中文网全球财经精粹,中英对照
设置字号×
最小
较小
默认
较大
最大
分享×