(STEAM專欄)相信人,還是相信機器?(張瑞雄)

張瑞雄 / 國立台北商業大學校長 2018/10/24 17:54 點閱 4677 次

普悠瑪出軌的悲劇震驚全台灣,ATP(Automatic Train Protection)系統的失效與關閉,再加上司機的疏忽,造成了難以挽回的後果。在科技愈來愈先進的狀況下,很多系統都是被軟硬體系統自動控制,人類反而變成旁觀者,一旦緊急情況時,人反而反應不及,造成災難。

自動化矛盾

這即是所謂的自動化矛盾(Paradox of Automation),想像你在一個暴風雨的夜晚坐在飛機上要下降,天氣狀況非常惡劣,這時你是要飛機駕駛來人工下降,還是飛機的自動駕駛系統來操控下降呢?亦即你是相信人、還是相信飛機的自動化系統?

很多無人的自動化系統,都有可能在有意無意間變成傷人的工具,例如凸槌的無人機,設計時是否有預防控制失靈的概念的納入?當所有的系統都愈來愈自動化時,如何保證所有的環節都安全無慮?

釐清「錯蟲」

自動化系統包括硬體、軟體和網路通訊,硬體在設計時就已決定其優劣,軟體基本上可以修改更新,網路則是和外界聯絡之用。通常硬體故障比較容易知道且排除,網路要避免駭客入侵,但軟體就是最難搞的。雖然已盡其所能,沒有人可以保證軟體出廠時是百分之百沒有「錯蟲」(bug)的。

以普悠瑪這次的出軌而言,據司機說儀表板的控制顯示是在82或83公里/小時而已,但實際已經到將近140,到底是儀表板故障或司機說謊必須調查清楚,而ATP的故障是軟體或是硬體出問體也必須釐清。

另外,調度員請司機到花蓮再來換火車機組的決定是如何做出來的,是否有經過更高層的同意,是否有符合SOP,這些都是造成失事的重要關鍵。

管理與工程的矛盾

其實這些問題都是牽涉到管理和工程的衝突,管理希望所有的事情都如期完成(火車不要誤點、計畫執行不要拖延),因為管理有經費和時間的限制。工程則希望能將事情做好做對,不能有瑕疵。

美國挑戰者號太空梭在1986年升空時失事原因就是如此,工程師說零件尚未完全測試完備,不宜升空。管理者受到國會和預算時間的壓力,對工程師說了「你要脫下工程師的帽子,戴上管理者的帽子嗎」的名言,最後勉強升空造成了遺憾。同樣的普悠瑪的管理者是否因為要準時而誤事呢?

系統沒有完美的,重要的是人的訓練和標準作業程序的要求,不怕一萬、只怕萬一,寧可誤點而被顧(旅)客罵,也千萬不要為趕時間而出事,火車固然如此,其他萬事萬物亦然。