无人驾驶汽车如何做出关于谁被杀的道德决定？

郑南宁

2022-06-01 14:42

这是众所周知的台车问题。正如Ben N所说，人们对于手推车问题场景的正确做法持不同意见，但应该指出的是，对于无人驾驶汽车，可靠性是如此之高，以至于这些场景的可能性很小。因此，至少在短期内，您不会花太多精力在描述的问题上。

松金洋子

2022-06-01 14:42

不能说AI只会驾驶得如此之快，以至于他们无法从看到的东西中停下来，这是错误的，因为即使防御性驾驶人类也是如此。原因是必须做出假设。当在山顶上攀登时，可以认为大障碍物并非视线之外[Source DARPA Grand Challenge]。这些假设基于确定哪些行动正确的道路规则。因此，如果发生事故，只要您遵守道路规则，就可以减少责任。因此，汽车必须能够做出这些决定，但可能以有限的方式做出（保护消费者）。

粘婉柔

2022-06-01 14:42

我个人认为这可能是一个过分夸大的问题。仅在优化情况以防止出现“第三个选项”时，才会出现台车问题。

汽车有刹车，不是吗？“但是，如果刹车不起作用怎么办？” 好吧，那就根本不允许开车。即使在有规律的交通中，操作员也会被告知必须限制您的速度，以便您可以在可见区域内停车。诸如此类的解决方案将减少手推车出现问题的可能性。

至于动物……如果在旅途中没有明确的努力与人类打交道，我认为动物也会受到同样的对待。这听起来难以置信-道路交通事故经常发生，而人类的“道路交通事故”是不希望的，但动物比人类小得多，更难以看见，因此我认为发现人类会更加容易，从而避免了很多事故的发生。

在其他情况下（错误，行驶中的故障，彼此堆叠的多个故障），可能会发生事故，将对其进行分析，并对车辆进行更新以避免引起类似情况。

夏目理绪

2022-06-01 14:42

这些问题的答案取决于设备的编程方式。能够绕行并识别道路走向的计算机很可能具有从轮廓，图像或大小的角度上将人与动物区分开的能力。通过足够清晰的图像识别，它可能能够计算另一辆车中的人数和种类。它甚至可以使用有关不同类型车辆对人造成伤害的可能性的现有数据。

最终，人们不同意所涉及的道德选择。也许可以为用户/所有者配置“道德设置”，例如“仅考虑生命计数”与“年轻人的生命更有价值”。我个人认为，机器在伤害人类之前先损坏自己并不是非常有争议的事情，但是人们对宠物的生命重要性并不认同。如果明确的“先于先杀”设置使人们感到不安，则可以从提供给用户的调查表中确定答案。

古濑绘理

2022-06-01 14:41

在大多数情况下，潜在死亡的人比汽车/乘员更容易受到伤害-踩刹车似乎是唯一合理的反应，因为乘员也无法避免事故的发生。正如您所指出的那样，很有可能使用一种表现为（可能）杀死乘员而不是行人的算法来实际杀死乘员，甚至可能将责任归咎于乘员，汽车或制造商。

王幼贞

2022-06-01 14:41

不应该这样 自动驾驶汽车不是道德行为者。汽车以可预见的方式失败。马以可预见的方式失败。

汽车正朝着10人横过马路的方向行驶，因此无法及时停车，但可以避免撞墙撞死10人（杀死乘客），

在这种情况下，汽车应猛踩刹车。如果十个人死了，那真是不幸。我们根本无法相信我们对车外发生的一切信念。如果那十个人是真正看起来像人的机器人怎么办？如果他们有什么想要杀你？

考虑到汽车乘客的生存可能性更大，因此避免杀死摩托车骑手，

再次，将这些类型的情感硬编码到车辆中，会使车辆的驾驶员受到各种攻击，包括“假”摩托车手。如果有的话，人类几乎没有能力自行做出这些决定。如果有疑问，请猛踩刹车。

为了人类而在大街上杀死动物，

同样，只是踩刹车。如果是婴儿怎么办？如果是炸弹怎么办？

改变车道撞向另一辆车以避免杀死狗，

不。狗在错误的时间放错了地方。另一辆车不是。尽可能安全地猛踩刹车。

该算法是否可以识别人与动物之间的差异？

是人类吗？不总是。如果人类有枪怎么办？如果动物有大牙齿怎么办？没有背景吗？

人或动物的大小重要吗？

它算不算前排有多少乘客？

婴儿/儿童在船上时是否“知道”？

是否考虑了年龄（例如先杀死年长的人）？

人类在这些事情上无法达成共识。如果您问警察在任何一种情况下该怎么办，答案不会是：“您应该向左转弯，称重所有相关方的脑袋，评估各方之间的相关年龄，然后稍微偏右，这样您就可以挽救8％的生命。” 不，警察只会说：“您应该尽快，安全地将车辆停下来。” 为什么？因为警察知道人们通常不具备应对高速坠机事故的能力。

我们“自动驾驶汽车”的目标不应是“与人类同等的道德行为者”。它应该是具有蟑螂反应性复杂性的药物，可预见的是它会失败。

粘婉柔

2022-06-01 14:41

实用主义。如果汽车有可能做出不同的选择，那么在他们心中没有人愿意购买。第二个问题是，如果在汽车的计算机中内置了“杀死所有人”功能，则意味着恶意黑客已经可以使用它来查找和滥用。权衡某人在对抗性输入中找出一种合理的手推车问题情况的纯粹虚拟构想来触发这种触发的方式的真正机会，而且只有一个可能的答案在道德上并不荒唐和可憎。

李忠盛

2022-06-01 14:41

所谓的“台车问题”是一个棘手的问题。将其称为思想实验而非案例研究是有原因的：这从未发生过。它甚至还不接近真实，主要是因为汽车从根本上来说并不是手推车。在任何遥不可及的情况下，正确的答案几乎总是“踩刹车”，如果有例外，则只能以一种方式解决：通过不惜一切代价保护汽车居民，甚至不考虑其他任何事情。 ，有两个原因。

洛蔓希

2022-06-01 14:41

我不会乘坐任何设定为不让ME成为乘客头等大事的车辆。我并不孤单。如果有人计划迫使自动驾驶汽车制造商对汽车进行编程，以使其除了优先考虑乘客安全以外的其他工作，那么整个行业现在都可能关门大吉。乘客由于某种可恶的道德决定而死亡的前两次，将是绝大多数人最后一次购买另一辆自动驾驶汽车。谁想乘死刑陷阱？