民主終結者:論科技是專制的溫床(20180926 大西洋月刊)

邱慕天 2018/09/27 14:08 點閱 12763 次

民主終結者:論科技是專制的溫床
Why Technology Favors Tyranny

「民主在實務上優點很少是民主制度不能取代的,但理想層面的自由和平等精神則否。如果我們不採取措施阻止它,權力將進一步收束少數精英。」在《大西洋月刊》10月號封面專題中,《人類大歷史》和《人類大命運》的作者哈拉瑞在為其新書貢獻的專文如此表示。

哈拉瑞指出,從文明長河觀之,民主的出現不慣是曇花一現,而其所扣連的自由平等理想在20世紀的成功,更可能只是時代短暫獨有的「技術條件」所致。首先是工業,讓一個1938年時的一個普通勞工可以驕傲地相信,這社會、這世界少不了每一個像他這樣的人。但在2018年,在政府智囊團以及高科技會議,提及全球化、區塊鏈、基因工程、人工智能、機器學習時,你可找到存在感?

人類無用論

存在感被剝奪的第一個原因,是生產力上的。過去自動化替代了人的活動力,但人還有智力。但現在人工智能要替代的是智力。而一般人在這之外能與機器競爭的能力又是什麼呢(感知力/創造力?)?

在很多事物上「機械互聯」會表現得比人類更優越。舉例而言,兩部車子在十字路口交會時,他們需要「紅綠燈」指揮通行順序,而且這還要他們「理解」、「當下能夠識別」、且「願意遵守」交通號誌,還最好保持安全距離。但未來物聯網與自動駕駛都不需要這些。車流的匯聚運輸將只是一個複雜神經元網絡中的一部份,省下巨大的時/空成本,免去車禍意外風險。

機器效率論

再想想生物信息識別與未來醫療的結合,是否可能以裝載在每個人身上的「個人家醫晶片」模式呈現,在新病毒、新藥出世時瞬間更新這套電子衛教系統?「失去經濟產值的人,下一步就是失去政治權力;使數十億人成為經濟魯蛇的相同技術,也可能使他們更容易監控」,這是哈拉瑞的論點。

民主與獨裁之間的衝突實際上是兩種不同數據處理系統之間的衝突。人工智能革命最大和最可怕的影響可能是民主國家和獨裁國家的相對效率,並將優勢轉向後者。在20世紀後期,民主國家通常勝過獨裁統治,因為沒有人能夠足夠快地處理所有可用信息並做出正確的決定,一個地方集中太多的信息和權力是低效的,直到大數據和機器學習出現,將資料庫的「數大便是美」詮釋得淋漓盡致。

A.I.:代替你決定、代替你活?

再更個人化地看,人生是由各種不確定複雜選擇構成。分組、選系、擇偶、謀職。但你可曾想過,今日為你安排隨選歌單和影劇推播的包月串流平台A.I.,明日將以更海量的社群資料,為你用更科學準確的方式抓出性向、安排職涯、媒合最適生命靈魂伴侶?你必須倚賴它,因為它比你更無遺漏。但人人倚賴了它之後,人生還剩下什麼?人類社會又會變成什麼?