我觉得核心问题在于车厂和驾驶员的责任分配。这可以分为两点来讲:
1. 自动驾驶汽车计算出错的时候驾驶员是否具有及时人工介入的义务。换个角度说,现阶段我们学车只学习车的驾驶方法,以后对于“自动驾驶汽车安全员”(应该不能叫驾驶员了吧)这一特殊工种,他们是否应当具备“识别自动驾驶汽车是否在合理范围内工作,并在必要情况下人工介入”的职业技能?(需要注意的是,盯着车自己开比开车要累很多……)
2. 车厂对该款自动驾驶汽车设计的自动化程度是多高,即在何种路况和驾驶状态下可以完全依赖其自动驾驶功能,以及该款车能否在其自动驾驶功能无法被完全依赖时停止自动驾驶并通知安全员人工介入。
@
openbsd 然而现在很多车都不能强制手动模式了,即使不具备自动驾驶功能
( ref:
https://www.wired.com/2015/07/hackers-remotely-kill-jeep-highway/ )
@
nullcoder 传统工业上嵌入式程序都是要做形式化证明的,现在机器学习稀里哗拉一跑,完全不知道里面到底是啥……