登录×
电子邮件/用户名
密码
记住我
自动驾驶

当自动驾驶遭遇伦理争议

何姗姗:如果我们愿意在交通拥堵时把驾驶任务交给系统,那么我们是否愿意把驾驶中出现的概率极低的两难局面也交付给系统?

【编者按】人工智能热潮仍在延续,大众对人工智能的关注也顺势延伸到各个细分领域。其中,被广泛认为“最有可能被实现的人工智能”的自动驾驶技术引起了投资者们和业内人士的广泛兴趣。那么,中国的自动驾驶发展面临什么样的独特机遇或挑战?国外自动驾驶在立法、技术和市场方面对中国有什么样的启示? FT中文网近期组织“聚焦自动驾驶”专题,编辑事宜,联系闫曼 man.yan@ftchinese.com

作为自动驾驶立法的先行者,德国除了发布《道路交通法》(第八修正案)为自动驾驶的量产和落地铺平道路以外,其运输和数字基础设施部下属道德委员会又发布了“自动化和互联化车辆交通伦理准则”(简称“自动驾驶伦理准则”),该规则对于各国立法者理解和监管自动驾驶这一新兴事物提供了良好的思路。

道德委员会在考量伦理准则时,主要集中考量了高度自动化汽车,即L3、L4和L5级别的自动驾驶汽车。道德委员会认为,自动驾驶预计将会在很大程度上降低发生交通事故的可能性。对于用户而言,自动驾驶技术会带来更多的便利,更少的身心压力,并节省更多的时间。就使用的公平性而言,在现有的条件下,移动能力相对差的弱势群体(如老人或者残疾人),可以更好地享受到新的移动出行方式所带来的成果,并且也能借此融合到社会生活中去。

与此同时,伴随着自动化驾驶系统的快速发展,未来可能会出现五个等级混合运营的局面,因此有关自动驾驶的责任和监管问题以及在现实交通场景中的矛盾冲突等问题都亟待解决。

自动驾驶二十项伦理准则概要

该伦理准则共有二十项,由面及点,涵盖了发展自动驾驶的方方面面,提出了立法和监管思路。本文概括如下:

1.在宏观发展目标和价值取向上,利用自动驾驶技术增强道路安全优先于便利出行等其他好处,技术应遵循个人自治原则(the principle of personal autonomy),个人也应对自身享有的行动自由负责。

2.对个人的保护优先于所有其他功利主义考量,只有自动化驾驶系统可以比人工驾驶带来更低的损害,允许其发展才是公平合法的。

3.自动驾驶需要官方的批准和监督。政府部门应对用于公共领域的自动化驾驶系统的安全性进行监管,其指导原则是避免事故。尽管技术存在不可避免的残余风险,但只要自动驾驶相比于人类驾驶能降低更多的风险,那么就不应阻碍自动驾驶的引入。

4.在以个人为中心、促进自由发展的同时,关于技术的立法策略应该是在个人选择权最大化,以及保护他人的选择、安全之间获得平衡。

5.自动和互联技术应尽量避免事故的发生。对于两难局面(Dilemmatic Conflict),即必须在人的生命之间做出损害甚至牺牲一方以拯救其他当事方的选择的极端情况,发展自动化驾驶技术的策略应该是防止这样的危险情况出现。从车辆的设计和编程开始,就应考虑以一种具备防御性和可预期的方式驾驶,并全面应用和完善技术,从而给易受损害的道路使用者施加尽可能小的风险。

6.具备防撞功能的高度自动化系统能降低风险、增强安全性,这是社会和伦理层面需要鼓励的,但如果以法律命令要求必须使用和普及这种技术,则会引发“人受制于技术、人的主体地位受到贬损”等道德争议。

FT中文网客户端
点击或扫描下载
FT中文网微信
扫描关注
FT中文网全球财经精粹,中英对照
设置字号×
最小
较小
默认
较大
最大
分享×