《AI製造商沒說的祕密》

醒報編輯 2022/08/09 20:14 點閱 1415 次

自從一名因為脊椎問題終生無法再坐下的科學家傑弗瑞.辛頓,點燃了微軟、谷歌、臉書、百度等科技巨頭的搶才大戰。迄今,AI已與我們息息相關,除了日常應用,也正在與軍事武器搭上線。一旦發展成熟,軍事衝突的規模勢必遠大於過去,發動速度之快也將超乎人們的理解。然而,誰有權做這影響數十億人口的決策?又是誰在參與此一決策?

從隱私疑慮到軍事武器,科學家曾被蒙在鼓裡,摸不清發明作何用途,而參與其中的企業選擇對大眾保持沉默。一項強大的工具,可以使之為善,也可以使之為惡。當我們在為AI的進展感到讚歎,有些威脅也正在悄悄萌芽。

二○一七年秋天,克萊瑞菲位於曼哈頓下城辦公室角落的一間房間,窗戶全都用紙糊住,門上有一個牌子寫著「消失的密室」(The Chamber of Secret),引用的是「哈利波特」(Harry Potter)系列的第二集書名。這個牌子是用手寫的,掛得有些歪歪斜斜。

國防部的「監視」計畫

在門後有個八位工程師組成的團隊,正在進行一項他們被禁止對公司其他同事談起的計畫。其實,即使是他們自己也不太清楚所從事的計畫是什麼。他們知道是在訓練一套系統,使其能夠自動辨識在沙漠中某處所拍攝影片裡的人物、汽車與建築物,但是他們不知道要如何使用此一科技。當他們詢問時,公司的創辦人暨執行長塞勒會解釋,這是政府有關「監視」的計畫。他說此一計畫可以「拯救生命」。

後來克萊瑞菲搬到較大的辦公室,幾位工程師發掘儲存在公司內部電腦網路的數位檔案,發現有幾個檔案談到一筆政府合約,他們的工作才浮現檯面。他們是為國防部的專家計畫(Project Maven)研發相關科技。該計畫的構想是建造一套系統,可以為無人機辨識攻擊目標。

但是此一系統的確切用途仍不明朗。他們無法確定此一科技是用來殺戮,還是如塞勒所說的是為了避免殺戮。也無法確定這套系統是用來進行自主性的空襲行動,還是為人類操作員扣下扳機前提供資訊。

精準的科技技術

接著,在二○一七年末的一個午後,三名身著平民服裝的軍方人員走進克萊瑞菲的辦公室,與幾位工程師闢室密談。他們要知道此一科技的精確度有多高。他們先是詢問它能否辨識像清真寺這樣的特殊建築物。他們表示,恐怖分子與叛亂分子往往會利用清真寺做為軍事總部。他們然後又問道它能否區分男人與婦女。

「你是什麼意思?」一位工程師問道。軍方人員解釋,在曠野之中,它應該能夠根據男人兩腿間隙來分辨男人(都是穿著褲子)與婦女(都是穿著長及腳踝的裙子)。他們表示,他們只准許射殺男人,不能殺婦女。「有的時候男人會穿長裙來騙我們,

加速大數據與機器學習

馬提斯正在進行西海岸巡迴考察,參訪矽谷與西雅圖的多家大型科技業者,主要是代表五角大廈探詢專家計畫的採行選項。國防部是在四個月前發動專家計畫,旨在加速國防部「對大數據與機器學習的使用」。

該計畫又名「演算法作戰跨職能團隊」(Algorithmic Warfare Cross-Functional Team)。此一計畫的推動有賴像谷歌這類的企業支持,因為它們近幾年來已累積了建造深度學習系統所需的專業與基礎架構。這也是五角大廈建立新科技的典型方法─與民間企業合作─但是現在的情況與過去有所不同。

科技業的AI人才

谷歌與其他科技業者掌握了美國人工智慧的人才,然而它們都不是傳統的軍事承包商。它們是才開始涉足軍事相關領域的消費性科技業者。不僅如此,川普現在已入主白宮,使得這些公司的員工更加警惕政府的計畫。

谷歌對其中的緊張態勢尤其敏感,這是因為該公司特有的文化允許─甚至鼓勵─員工說出自己的看法、做他們喜歡做的事,而且通常在工作場所的行為表現就和在家裡一樣。

這樣的文化源自該公司的草創初期,布林與佩吉的成長歲月是在崇尚自由思想的蒙特梭利(Montessori)學校度過的,他們將這樣的思想帶入谷歌。

專家、業界意見不一

專家計畫所造成的緊張情勢尤其高亢。許多主持谷歌深度學習研發工作的科學家都反對自主性武器,包括辛頓與深度心智的創辦人。但是根據了解,谷歌的最高層卻希望能與國防部合作。

谷歌董事長施密特同時也是國防創新委員會(Defense Innovation Board)的主席,這是由歐巴馬政府成立的民間組織,旨在促進矽谷的新科技加速移轉至國防部。在該委員會最近一次會議中,施密特表示在矽谷與國防部之間有一道「顯著的鴻溝」,該委員會的任務就是弭平此一差距。

與國防部密切合作

谷歌高層同時也視與軍方合作為其發展雲端事業的另一契機。其實該公司暗中已和國防部建立合作關係。在五月的時候,也就是專家計畫發動一個月後,谷歌一支團隊與國防部官員會面,而在第二天谷歌就向政府申請在自家電腦伺服器儲存軍事數據的許可證。但是三個月後馬提斯來到谷歌總部商討相關科技時,他知道必須動用一些技巧才能引導其中的關係傾向他這一邊。

馬提斯表示他已深刻了解該公司科技在戰場上的威力。畢竟,美國的敵人都是使用谷歌地球─以衛星影像組合而成的互動式世界數位地圖,來辨識迫擊砲的目標。他強調美國應該加強作戰能力。現在,在專家計畫下,國防部不僅要發展人工智慧,能夠閱讀人造衛星的照片,同時還要能夠分析無人機在更接近戰場的位置所捕捉到的影片。

谷歌驚人的影響力

馬提斯盛讚谷歌「在科技業界的領先地位」與「企業責任上的崇高聲譽」。他表示,這就是他來這兒的一個主要原因。他十分關切人工智慧的道德倫理問題。他表示該公司應該讓國防部「感到如芒在背」─以此來反制其傳統的態度。他說道:「國防部歡迎你們的理念。」

在桌子另一側的皮采表示,谷歌經常在思考人工智慧的倫理問題。他指出,愈來愈多的壞人會使用AI這類科技,因此讓好人領先是重中之重。馬提斯問谷歌能否將一些道德與倫理下的規則予以編碼輸入系統之內─谷歌人員心知肚明這是一個不切實際的選項。

主持谷歌人工智慧研發工作的吉安南德雷亞強調,這些系統最終都需仰賴其訓練數據的品質。但是谷歌的法律總顧問華克採用不同的說詞。他表示,這些科技具有拯救生命的巨大潛能。

人工智慧武器化

人工智慧武器化就算不是人工智慧現今最敏感的議題,也是最敏感的之一。媒體界都等不及利用這個議題來打擊谷歌。你們大概聽過伊隆.馬斯克有關人工智慧會引發第三次世界大戰的言論。

媒體界現在都十分關注人工智慧武器、國際競爭,以及人工智慧可能造成的地緣政治緊張情勢。谷歌在人工智慧與數據方面已經有一些與隱私相關的議題需要處理,如果媒體界又找到谷歌正在發展人工智慧武器或是為國防產業提供可以武器化的人工智慧科技話題,我真不知道還會演變成什麼樣子。(瑩霏/輯)

《AI製造商沒說的祕密》
作者:凱德.梅茲(《紐約時報》科技記者)
出版社:時報出版

其他書訊:

《引爆趨勢8大巨頭未來策略》
作者:田中道昭 (立教大學商學院教授)
出版社:商周出版

除了解析這 8 家領航者的核心價值觀與商業模式,作者針對每家企業都會製作表格,呈現「現狀課題」以及「理想的世界觀」的對照。「現狀課題」即該公司目前的做法(以及傳統的產業實務)與困境,是從企業立場的 4P 來描述(產品、價格、通路、推廣),而「理想的世界觀」即該企業整體策略或願景,從顧客立場的 4C 來描述(顧客價值、顧客成本、方便性、溝通),極具參考價值。

本書最後,作者提供一章「熱血數位轉型教室」,內容來自於作者在「數位轉型學院」舉辦過的工作坊,這套方法已有 45 家日本指標型企業導入,能幫助讀者構思一套自己的數位轉型策略。

《真正有效的紓壓處方》
作者:黃素珍 (台灣護理學會個案報告審查委員)
出版社:布克文化

壓力,是影響現代人健康的殺手,適時紓解壓力已成為當今重要課題。但究竟該如何紓壓,卻未必人人都知道。

因此,擁有超過40年醫療體系服務經歷的作者,透過國內外專業研究理論以及個人成功經驗,提供現代人12堂容易實踐的紓壓良方;唯有適時釋放壓力、療癒心靈,才得以維繫、鞏固身心健康,進而提升生活品質與工作效率。當身心活絡運轉,心情才能隨之自由飛揚!跟著作者一起體驗易懂入門的12堂紓壓課,
讓你一學就會!

《禱告,是一帖止痛藥》
作者:施以諾 (教授)
出版社:主流出版社

施以諾教授的這本書分享禱告對各種痛的幫助,從他臨床實際的體驗,人生有很多種「痛」是靠有形的藥物無法撫平的,在歷史上,許多名人都有他們各自的痛與難題,而禱告往往成了他們的選擇。本書從精神職能治療醫學與聖經人物的疼痛經驗,整理出21篇藥引,幫助我們認識疼痛療程也可轉化 (transform) 我們,帶來全人健康新生命。

施以諾的《禱告,是一帖止痛藥》,適合邊品茗邊閱讀,絕對能止痛、抗壓並增能。