自动驾驶在突发事故前如何做道德选择？

[ChaosPark]

突发危机状况，直接撞过去可能死一车人，转弯躲过车会撞死一个路人，自动驾驶怎么选？

开发自动驾驶的公司会不会因为选择了撞死谁而承担法律责任？

不是要问你救女友还是救妈妈，强制要求你面对道德困境的问题。这可能是自动驾驶发展过程中必须面对的问题，当然也可能自动驾驶开发公司会通过提前让用户选择，免责声明等来规避这个问题。

可能我说的不清楚有人以为死一车人是自己的车完蛋。

我的本意和电车难题差不多，就是在不可避免的撞死 5 个人和撞死 1 个人，自动驾驶怎么做选择？

和电车难题不同在于这个问题有可能是自动驾驶或者人工智能发展过程中不可避免的。

[ho121]

不会刹车吗？

[debiann]

选择对车主伤害最小的方案

[imlonghao]

电车司机问题？

[ChaosPark]

@ho121 已经不可避免的情况了。

@debiann 因为自动驾驶选择的，开发自动驾驶的公司会被受害者要求赔偿吗？

[zakokun]

你这不废话么?要是选择牺牲车里的人,这种车卖得出去?

再说,如果完全是自动驾驶的话,那么车本身违规的可能性为 0,那么撞死违反交通规则的人道义上也说得过去

[ChaosPark]

@imlonghao 差不多，只不过这个是自动驾驶发展中不可避免的。

[xss]

还有一种情况, 就是自动驾驶的汽车自动解体, 这样那一车人和另外一个人都不会死. 我觉得这才是最好的方案...嗯....^o^

[DT27]

@xss 为毛不直接飞起来越过去

[fangxing204]

如果在隧道不能飞呢

[Perry]

上个自动驾驶险就行了 管那么多干嘛

[md5]

网易公开课 正义 有讲这个东西，人类自己都不好下判断

[hpeng]

不加特殊代码。不加特殊处理。这个就是原则

[sensui7]

AI: 当然我自己损失小的选择.

[xzem]

转弯躲过车会撞死一个路人 这种情况肯定是你全责

[shimanooo]

转个 joke https://www.zhihu.com/question/46216901/answer/125628925

[macleek]

http://moralmachine.mit.edu/

[JJaicmkmy]

当然是选择让双方都死，这样就平等了。

[echo1937]

这是道德困境，换人来决断都没法选择，你把它交给程序逻辑是强行找牛角尖钻。

正确答案只能是：停车。

[yimity]

撞死违反交通规则的。
假如不可避免，
是人的话，是不是也会撞死人？
为什么自动驾驶就这么多伦理？

[mactaew]

这个问题就像是“制作刀具的工房会不会因为有人被砍死而承担法律责任？”是一样的。

[fengxueshangu]

@shimanooo 你发的这个比较有意思

[sharkli]

自动驾驶又没有 AI ，肯定第一是刹车躲正前方的障碍，然后可能会变道。变道如果遇到人或其他障碍就继续躲呗，躲不及那就是撞上了。

[nodeath]

这个问题不应该问 人

[boter]

@xss 为什么解体就不会死，车内的人没有车的保护直接就变肉酱了吧

[quericy]

@shimanooo 看完整个人都电车了

[greatghoul]

AI 选择不出来了可以自爆，互相伤害呀。

[daolin998]

总之反正不能死自己

[sutra]

如果是人类驾驶，会选择牺牲自己，而不撞路人吗？

[nodin]

哪个对车主有利选哪个，前面一车人违反交通规则，那就是他们的责任。

[hekunhotmail]

保护司机第一， 买车你不看车辆安全指数嘛

[kslr]

首先你这个题目有点问题，如果可以控制装谁，那还叫车祸吗？

最后当然是保护驾驶员了，至于赔偿自然也是驾驶员了。

[lifesimple]

@debiann 正解

[ipconfiger]

人工智能选择死机, 去尼玛的, 老子不管了, 你们人类玩蛋去....... 哈哈

[julyclyde]

1 选择保护车内
2 选择干涉最小

[xzpjerry731]

这个时候不应该是方向盘弹出来，自动驾驶提示让司机选择吗？

[v9ox]

楼主没开过车吧

让速不让道 突发情况打方向是开车大忌

[rashawn]

这种事情要看第一个案子咋判，现在操心也没用……

[sammo]

所谓的 “自动驾驶” 就是一个营销噱头，
用一个营销噱头
用它来拷问人性是玷污了人性、用它来拷问哲学是玷污了哲学

飞机、油轮的自动驾驶 / 航行功能，在汽车上无法实现。理由并不是飞机与汽车的不同，而是航空航道与机动车车道的不同。

研究自动驾驶的汽车，必须先设计出 “适配于自动行驶的航道” ，显然，目前的机动车车道并不适用于自动驾驶。 —— 当然，营销噱头让你花钱买车而已。航路的开拓和研发涉及到规划：航空规划和城市道路规划。这完全不是 一个商业公司能做到的。

它能做到的，只是经商而已。

[gky99]

@sammo 你这么说是不对的。假设你可以通过同一套系统控制所有行驶在路上的车，并且你有足够的计算机和合适的控制软件，以现有的道路条件也可以完成自动驾驶。（我们不考虑有人违反交规之类的，或者我们直接撞死 2333 ）

[gky99]

@sammo 而且虽然在现在的技术条件下，这种道德选择的重要性在自动驾驶还不被凸显出来，但是这个问题在十年，或者几十年后是不可避免一定会存在的。

[paulagent]

直到问题出现了再去想也来得及，何苦为难现在的自己。 人生苦短。及时行乐才是王道。 再说我觉得大学里的教授肯定都在想了，只是这种问题目前还没法应用。大家不知道罢了，如果真的有一天，所谓的真 自动驾驶汽车上路了，那么立法者肯定会制定相关的法律，尤其是采用大陆法系的，比如大陆，欧洲，这种车能上路，必定已经有了法律。 比如车被黑掉怎么办。

[ncdx2009]

提供开机必须设置选项 0 ～ 100 ， 0 ：只顾乘客安全， 100 ：只顾路人安全，然后责任或者至少部分的责任就归使用者了。

[Panic]

为什么我看到这种问题就反感

[Ixizi]

我 tm 怎么知道自动驾驶怎么做，你应该去问 Elon Musk

[ahtsiu]

AI 表示根据人类至高无上的经验，没有重启不能解决的问题，于是当即决定重启……

[harry890829]

其实正常情况下，刹车都是一个合理的情况，大多数极端情况都是错过了最佳刹车实际导致的必须转向避免。大家在考驾照的时候，应该都听过一条，不得在高速的情况下急打方向，会翻车的，先减速，再变向

[everhythm]

参考电车飘逸。。。

[micate]

刹车，应该是最合法的选择了吧。

不过这人是怎么出现的 ...
如果是自动驾驶（工作正常），应该不会出现你说的这个问题。
万一出现了，应该是故障，厂商的责任了。

所以这个是个伪命题。

[zhangfanfan]

N 年已有定论的东西，讨论来讨论去的。有啥意义。


原则：
1 、程序正义。无论是电车问题，还是现在当中的自动驾驶。
2 、优先保护用户，其次保护路人。
3 、当程序非法时，选择不作为。

[joyqi]

这个问题最终只会这么解决，请相信我，因为自动驾驶出事厂商是要负责的，所以它会倾向于在发生你所说的情况时选择损失最小的，比如检测到车上就一个人，而对面有一堆人。。。你知道它会怎么选了吧。

这对他们来说只是一个经济问题。

[fetich]

@DT27 然後伸出手臂，將司機接住，越過去再變形爲車。 @Tesla

[evlos]

首先把违反交通规则的撞了，躲都不需要躲，要是躲还容易伤到乘客。
然后能刹车就刹车，撞谁对车主的伤害小就撞谁。

[timestamp]

应该会选择一个小目标撞过去吧，因为这样对司机伤害最小，人的下意识也是先保护自己吧。