登录×
电子邮件/用户名
密码
记住我
2016达沃斯

无人驾驶汽车的伦理问题

一个孩子在街上跑动,无人驾驶汽车只有两个选项:撞死这名儿童,或者使车上的老年癌症患者丧生。怎么设计软件,才能既合法又合理(伦理)?

斯坦福大学(Standford University)教授克里斯•格迪斯(Chris Gerdes)表示,开车的时候会发生许多“奇奇怪怪的事”。他的说法触及了与无人驾驶汽车有关的一个问题的核心。我们怎么能够期望机器人处理人类在路上会遭遇的所有突发事件——无论是无法预测的行人、胡乱摆放的交通锥,还是随风乱舞的枯死树枝?

还有就是所谓的“死亡算法”:面临不可避免的碰撞,我们能信任机器人选择最不坏的结果么?

自动汽车不仅把一个百年历史的产业推上了创新的前沿。它们还迫使我们面对至关重要的问题:我们愿意把多大的控制权交给机器?

能够自动驾驶的汽车,也许会从根本上改变我们对设备的看法——从要么工作要么坏掉的东西,变成一种更细腻的情景:能推理也会犯错的机器。

格迪斯教授是斯坦福大学汽车研究实验室的主任,他说:“我认为我们还没有见过类似这样的技术,重现人类在这种开放式任务中的所作所为。真的是让机器人做某种目前完全由人类做的事。”就自动化交通运输而言,伦理问题既事关重大,也极为复杂。

戴姆勒(Daimler)和宝马(BMW)等老牌制造商,以及特斯拉(Tesla)和谷歌(Google)等高科技新贵,据悉都已请了格迪斯教授这样的专家探讨伦理问题。而菲亚特-克莱斯勒(Fiat Chrysler)等其他厂商表示,他们的工程技术人员在“探索”自动驾驶的潜在影响。

通用汽车(General Motors)表示:“当今生产的自动系统远远不足以掌握这些问题的答案,甚至还不了解所有问题。”不过,日产(Nissan)——与它的合作伙伴雷诺(Renault)合起来是全球第四大汽车制造商——走得比较远,这家日资企业在其硅谷分公司任命了一名专职研究这些伦理问题的研究人员。人类学家梅利莎•赛夫金(Melissa Cefkin)正在研究自动驾驶汽车与行人和骑自行车的人之间的互动。

无人驾驶汽车伦理问题的一个层面涉及不同情景和思想实验。博安咨询(PA Consulting)汽车专家丹尼尔•赫希(Daniel Hirsch)提出了一个情景:“一个孩子在街上跑动,汽车只有两个选项:撞死这名儿童,或者使车上的老年癌症患者丧生。”对这个情景,某一国家或文化的“正确”回答在另一个国家或文化也许会不同。这个问题本身可能是非法的——德国和瑞士的法律都规定,不能比较人命孰轻孰重。

那么,保险公司等大企业的立场又如何?赫希表示:“在许多此类案例中,保险公司会做出不同决定——比如,由于剩余的生命期不同,对它们来说残障儿童比残障的老年人更昂贵。”

尽管完全无人驾驶的汽车仍是多年以后的事,但是具备先进防撞技术的高度自动化汽车如今已上路行驶。丰田(Toyota)希望打造不可能为车祸负责的汽车,然而多数现代汽车都有某种主动安全功能。这方面的考虑令汽车制造商认真考虑伦理问题。

咨询公司麦肯锡(McKinsey)高级合伙人汉斯-维尔纳•卡斯(Hans-Werner Kaas)表示:“在所有汽车制造商中,越来越多的制造商认识到,它们必须处理与这些汽车有关的心理问题。它们正在充实各自的技能。”

这些举措凸显出,在涉及数百万辆汽车的一系列备受关注的召回后——这些事件意味着必须谨慎处理对新技术的竞相采用——汽车业对安全问题极为敏感。

FT中文网客户端
点击或扫描下载
FT中文网微信
扫描关注
FT中文网全球财经精粹,中英对照
设置字号×
最小
较小
默认
较大
最大
分享×