除了感知层以外，与安全有重大关系的就是决策层，目前的AI水平显然是有明显不足的，训练算法的程度不够，不能完全覆盖所有场景和突发意外。自动驾驶汽车需要海量的测试，2016年美国智库兰德公司曾给出一个数字：路测里程需达到110亿英里。大量的路测试验以及后期分类标定、数据处理等方面尚存许多不确定因素。

当前，人与AI的区别在于人有很强的迁移学习能力，对未遇到过的交通场景也能自如应对，这也是AI需要着重研究的方向。但AI还有个问题在于神经网络的黑盒，给其输入数据得出输出结果的过程并不能被解释，也就是说AI给出决策的过程并不透明，无法debug（排除故障）也导致了自动驾驶汽车的不可控性。不过，这一方面也有了一些突破，英伟达曾声称打开了黑盒。

当埃航的事故发生时，外界普遍关心的是自动驾驶空难是否会在自动驾驶汽车上重演。这其实涉及的是自动驾驶系统的仲裁逻辑问题，在传感器失效后出现了人和电脑争夺机器控制权的矛盾。

禾多科技创始人兼CEO倪凯认为这种安全事故并不会在自动驾驶汽车上发生，在汽车行业，无论是辅助驾驶还是自动驾驶的普遍逻辑都是，一旦人工接管后，人类基本就拥有了对汽车的绝对控制权（车辆底盘的底层执行器仍然有部分ECU起作用，但不涉及到驾驶行为层面）。换句话说，汽车的自动驾驶领域中，人类司机的控制权是优先于系统的，因此不会出现埃航事故中人类驾驶员和电脑竞争控制权的情况。虽然说L4和L5具备不需要人干预的能力，但不是说人没有干预权。

● 没有绝对的安全，只有相对的安全

安全始终是自动驾驶汽车走向商业化之前必须迈过的门槛，于用户而言最关心的问题可能是，当前自动驾驶汽车事故频频发生，安全究竟何时才能得到解决呢？

『麦肯锡2018年自动驾驶调研报告』