何毅
3小时前
昨天坠毁的这架波音737max8，和去年底印尼坠毁的那架波音737max8一样，都是刚服役不到半年的新机。真实的原因可能是，飞机的自动驾驶系统做出了错误的判断和操作。
实际上，波音早已经说了其自动驾驶系统存在致命缺陷，需要驾驶员注意，但估计飞行员们不是都认真领会了波音的警告。
这是个隐藏很深的bug，隐藏很深的功能（bug），全名是“AOA传感器数据错误导致的自动驾驶断开后飞行员手动飞行情况下为了防止飞机失速自动触发的飞机水平尾翼配平子程序”
飞行员往往要自己发现飞机在俯冲，才发现机翼被A程序动过了；更加坑爹的是，根据设定，A程序只有在飞行员手动驾驶的时候才会启动。也就是说，在飞行员已经关闭自动驾驶仪，认为自己在完全控制飞机的时候，A程序还是会偷偷的操纵飞机，并让飞机俯冲....
作为人工智能系统，A程序认为做事一定要负责，不达目的誓不罢休。
所以它不仅自说自话让飞机俯冲，还会在飞行员命令飞机停止俯冲后，每隔5秒钟，再次自动让飞机进入俯冲.... 如果飞行员再把机头抬起来，5秒钟后，A程序就把再机头按下去，让飞机俯冲，这样拉起来，按下去，拉起来，按下去......如此反复，开展一场“人机大战”。
致命a程序可以关闭，但是操作指南太庞大，一时半会找不到怎么关闭，并且飞行员往往不知道是a程序在暗中捣鬼。
这是一场让飞行员莫名其妙而又无可奈何的人机大战，自动驾驶要俯冲，人要上拉。
实际上这是波音737max第三次故障，去年12月，挪威采购的波音737max8回国途中出故障，但紧急迫降成功，降落在伊朗，那次没载乘客。
波音公司仅仅在11月6日修改了飞行手册，并没有做进一步处理，而这个事故罪魁祸首-机动增强系统，还原样保留，并未做任何设计修改，从狮航事故看来，这个系统存在严重的设计缺陷，飞机有2套攻角传感器，其中任何一套出故障，这套系统完全不能排除故障设备，而系统倾向于使用最恶劣的往往是最不可靠的数据做指引，按照最大的攻角来触发，触发之后自动推杆10秒钟，然后改平，这个系统导致了JT610飞机反复进入死亡俯冲，导致机毁人亡！
所以，在我们追捧人工智能技术的时候，这场决策主导权的变更，可能为人类带来的负面影响，也正在慢慢体现。
