(STEAM專欄)倫理抉擇工程師與人類未來(張瑞雄)

張瑞雄 / 國立台北商業大學校長 2018/11/18 10:59 點閱 3266 次

人工智慧(AI)發展方興未艾,對人類的影響有好有壞,如何讓人工智慧的發展不要偏離軌道(例如軍事發展),將決定人類的未來。其中電腦專家和工程師負了很大的責任,最近很多資訊大廠就發生了員工反對公司去承接國防部的計畫。

倫理判斷準則

為了讓工程師們有更好的判斷準則,計算機協會(ACM)訂定了電腦工程師的「道德規範和職業行為準則」,因為電腦工程師的行為改變了世界,為了採取負責任的態度,他們應該隨時反思他們工作的廣泛影響,並要始終如一地支持公共利益。

徒法不足以自行,準則不是解決道德倫理問題的演算法,它只是工程師在考慮道德倫理因素時的參考。在思考特定問題時,電腦工程師可能會發現應該同時考慮多個原則,並且不同的原則會與問題具有不同的相關性。

通過深思熟慮地考慮基本道德倫理原則,理解公共利益是最重要的考慮因素,可以做出最好的決定。當每位電腦工程師都可以如此,整個電腦行業和社會都會受益。

不公開「蜻蜓計畫」

以谷歌為例,谷歌計畫重回中國大陸市場,儘管還在只聞樓梯響的階段,但谷歌內部的上千名員工聯名抗議,要求公司公開「蜻蜓計畫」的詳細內容,這個專為大陸所研發的搜尋引擎可能會過濾掉成千上萬的關鍵字,例如人權、諾貝爾獎、學生抗議、習近平等等。

儘管周遭一片罵聲,谷歌執行長卻沒有被動搖,仍然考慮要重回中國市場。

這一方面雖然堅持,但另一方面谷歌就順從員工意退出競標國防部100億美金的「雲端科技基礎建設計畫」,此計畫就是和人工智慧相關。谷歌員工憂心,軍方會用人工智慧來發展殺人武器,因此集體向公司抗議,谷歌也從善如流。

公司生存更重要

不過亞馬遜執行長貝佐斯卻另有想法:「我們將會繼續支持國防計畫,而且應該這麼做,我認為身為企業的領導人,其中一個工作就是做出對的決定,即使是不受歡迎的決定。如果一個大型的科技公司,不願意支持美國的國防,這個國家可就麻煩大了。」

可見在判斷一項電腦相關計畫是否符合公共利益時,要考慮到的因素非常多,而且角色不同考慮點也不同。

對大老闆來講,公共利益固然重要,公司賺錢恐怕更重要,所以工程師們就要更加注意,隨時考慮你做的系統的危險性。