《STEAM》製造軟體系統的道德責任

張瑞雄 2020/10/20 11:05 點閱 4356 次

讀此文前,請先考慮下面這些問題;
開發人員在道德上是否有義務來設計更具包容性和保護使用者的軟體系統?
社交媒體公司是否應該阻止假新聞在其平台上的傳播?
搜索引擎是否應該公開其搜尋結果是如何排名的?
我們應該認為電子和網路隱私是一種權利嗎?

二十幾年來,大家對數位時代的來臨一直懷著無比的樂觀主義,堅信每一項新技術的發展,無論是功能更強大的個人計算機、更快速的互聯網、更智慧的手機、還是更個性化的社交媒體,對生活都只有益無害,但事實是否如此呢?

科技侵入生活漸深

近年來隨著FAAMG(臉書、亞馬遜、蘋果、微軟、谷歌)等大公司和網路零售商收集並共享人們的數據,有心者透過社群媒體散布虛假信息或仇恨言論,以及使用不透明的演算法來偏好某些群體的消息陸續曝光,公眾的知的權利和隱私的保護都受到了侵犯。

隨著人工智慧和機器學習技術的發展,這種情況會變得更加嚴重。科技悄悄地開始取代人類的決定,管理著我們的經濟、交通、國防、醫療和個人生活的各個層面。

將倫理融入資訊課程

在科技公司遲遲沒有開始對政府和使用者的壓力做出回應並承諾做得更好之前,哈佛大學早就意識到了這一點。讓科技業更負責任地行動的最可靠方法就是讓下一代的技術領導者和從業人員做好準備,從道德上考慮他們將要從事的工作。

其結果就是Embedded EthiCS(嵌入式倫理,CS也代表資訊科學),這是一項具有開創性的新學程,它將資訊科學和哲學結合在一起,試圖從學生的內心內化。

這個想法是將哲學的概念和思維方式納入到現有的資訊科學課程中,以使學生學會問的不僅僅是「我能建造它嗎?」而是「我應該建造它嗎?」如果是,那麼「應該如何建造?」以便未來的軟體能夠維護人類所珍惜的一切。

以道德為前提設計系統

通過這個學程,學生們將學會識別和思考道德問題,解釋他們採取或不採取特定行動的理由,並理想地設計出更周到的系統,以反映人類的基本價值觀。該計劃是美國首個,是許多想要採取類似行動的大學的榜樣,其中包括麻省理工學院和史丹福大學。

當然大學不可能讓所有的科技課程都納入道理倫理,但從資訊科學的學生開始,讓他們學習在系統設計過程中運用道德思維來改變世界,並讓資訊公司的領導者、系統設計師和程式設計師會開始思考他們的設計對世界的影響。

道德就是在區分你有權做什麼和應該做什麼,做人如此,軟體設計亦然。