《血汗AI:為人工智慧提供動力的隱性人類勞工》

醒報編輯 2025/04/07 15:42 點閱 51 次

矽谷給我們灌輸了這樣的錯覺,即人工智慧是一種無摩擦科技,將為人類帶來財富與繁榮。但在這個光鮮亮麗的外表下,隱藏著一個殘酷的現實,全球數百萬勞動人口往往在惡劣條件下辛勤工作,人工智慧才得以實現。這個剝削性系統是由一個錯綜複雜的網絡維繫著,這本書對這個網絡進行了急需且精彩的調查,揭示了人工智慧不為人知的真相。

以十多年來數百次的訪談與數千小時的實地調查為基礎,《血汗AI》描繪了刻意被隱藏的工人生活,以及決定其未來的權力結構。這本書讓人工智慧剝削的對象表達他們的心聲,這些被剝削者包括出色的作家與藝術家,以及許許多多資料標註員、內容審核員與倉庫工人等,書中呈現出他們危險、低薪的勞動,如何與性別、種族與殖民剝削的悠久歷史產生關聯。

人工智慧是一台擷取機器,它倚靠人類的集體努力與智慧,持續不斷地處理著益形龐大的資料集,讓它的演算法得以運轉。這本書是戰鬥的號令,詳細說明我們需要做些什麼,才能爭取一個更公正的數位未來。

梅西伸長脖子,深吸了一口氣,然後在電腦上載入另一項任務,讓人焦慮的圖像與影片接二連三地出現在螢幕上。梅西是Meta公司在肯亞奈洛比一間委外辦公室的內容審核員,在她十小時的輪班工作中,每五十五秒便需處理一個「標籤」。這段影片記錄了一場致命的車禍。

有使用者將事故過程拍攝下來並上傳臉書,隨後因觸犯Meta針對暴力與寫實內容的準則而被檢舉。梅西的工作是確認這段影片是否違規。當鏡頭逐漸拉近事故現場,梅西仔細看了這段影片。在畫面突然對焦時,梅西認出其中一張臉:受害者是她的祖父。

螢幕上不斷出現

梅西猛地把椅子往後一推,邊哭邊跑向出口,路過一排排目光關切的同事。走出辦公室後,她開始打電話給親戚。接到電話的人都驚愕不已,因為這個令人悲痛的消息還沒傳出去。

她的主管試圖安慰她,卻也不忘提醒她,若想達成當天的工作目標,就必須回到辦公桌前。主管告知,由於這起事件,梅西明天可以請假休息,但主管也強調,既然她已經在上班,完成輪班仍是最佳選擇。

螢幕上出現了一些新的標籤:又是梅西的祖父,同一件事故一次又一次出現在螢幕上。這裡不僅有其他人分享同一段影片,還有不同角度拍攝的新版本。從事故車輛的照片,到死者的照片,再到事故場景的描述。

梅西開始辨認出所有的細節了—就在幾個小時前,日落時分,她所居住的社區,一條她走過無數次的熟悉街道。這一起意外造成了四人死亡。這次輪班似乎沒有盡頭。

審核員工作任務

某家公司在肯亞與烏干達經營三間資料標註與內容審核中心,我們前往採訪了數十名和梅西一樣的工作人員。內容審核員的主要任務是手動搜尋社群媒體的貼文,刪除惡意內容,並標記出違反公司政策的情形。

資料標註員負責給資料貼上相關標籤,以便讓電腦演算法使用。這兩類工作都是「資料工作」,它們涉及不同類型的幕後勞動,促成了我們的數位生活。儘管梅西的故事令人深感沮喪,卻絕非個案。

一名為了這份工作從奈及利亞移民過去的資料工作者表示,這類工作其實非常吃力,「你的身體勞累,精神疲乏,好比行屍走肉。」輪班時間長,員工在速度與準確性都必須達到嚴格的績效目標。

令人不適的內容

梅西工作時,需要高度集中注意力;內容審核員在工作時不能分心,因為他們必須根據嚴格的標準正確標記影片。審核員需要仔細檢查每一段影片,找出Meta政策所定義的嚴重違規行為。

舉例來說,相形於單純的霸凌與騷擾,暴力和煽動的違規程度更嚴重,因此,僅僅是辨別出單一違規行為並不夠,審核員還得觀察整件事情的發展,以避免事態惡化。

「最讓人焦慮的不只是暴力,」另一名審核員向我們透露:「還有那些露骨不雅且令人不適的內容。」這名審核員指出,他們「幾乎每天」都會目睹有關自殺、虐待與強姦的內容,「做這份工作,你會把不正常的事都正常化了。」

毀滅性的後遺症

在這些內容審核中心,工作人員不斷受到暴力寫實圖像與影片的轟炸,完全沒有時間去消化所目睹的一切。每位員工每天需要處理五百到一千個標籤。

許多人表示,這份工作徹底改變了他們的感受,在他們的生命中留下了難以磨滅的印記,其後果可能是毀滅性的。一位被公司解雇的前審核員表示:「我們大多數人都經歷了心理創傷,有些人甚至曾經試圖自殺──有些人與配偶分開,無法挽回婚姻。」

另一位審核員說:「公司政策比工作本身更讓人耗費心神。」在我們造訪的一間內容審核中心,工作人員在看完一段斬首影片之後,哭得全身發抖。然而,管理階層告訴他們,在週間某個時段,他們有三十分鐘的休息時間去見「健康顧問」,但所謂的健康顧問其實只是一位沒有接受過正規心理學訓練的同事。

請病假的正當性

由於觀看的內容難以忍受而離開座位的工作人員,被告知違反公司政策,因為他們忘了在電腦上輸入正確的代碼,表示自己處於「閒置」狀態或「去洗手間」,而這意味著他們的生產率分數可能因此降低。

類似的情況層出不窮:「我在辦公室裡崩潰了」、「我陷入了嚴重的憂鬱症」、「我不得不去醫院」、「他們不關心我們的健康」。工作人員告訴我,管理階層會監控員工的就醫紀錄,以驗證員工請病假的正當性,但這種監控並不代表他們希望員工康復,或是真心關切員工的心理健康。

保持沉默保住工作

在這家公司,工作保障微乎其微,我們採訪的大多數工作人員都是簽署為期一到三個月的滾續合約,一旦客戶的工作完成,合約就可能中止。工作人員在一棟昏暗的廠房裡工作,每排座位可多達百人,這棟建築位於奈洛比郊區的一片龐大商業園區。

他們的雇主是Meta公司的客戶,總部位於舊金山,是著名的業務流程外包公司,在東非設有服務執行中心,專門將不安全與低收入的工作分配給當地員工。許多工作人員就跟梅西一樣,過去曾住在附近的基貝拉貧民窟(非洲最大的城市貧民窟),該公司以幫助弱勢工人進入正規就業的前提聘請他們。

然而現實情況是,這些工作人員當中有許多人因為害怕失去工作,選擇不向管理階層提出質疑。工作人員表示,抱怨的人被要求保持沉默,也被提醒隨時可能面臨被替換的風險。

審核員安全危機

與我們交談的許多審核員都是肯亞人,但也有來自非洲其他國家的移民,進入這間業務流程外包公司,協助Meta審核其他非洲語言的內容。部分員工談到走在街上被認出是外國人的經歷,讓他們覺得自己更容易受到肯亞警察的騷擾與虐待。然而,他們面臨的危險並不僅限於警察騷擾。

一位女性受訪者指出,一些非洲鄰國「解放陣線」的成員會找到Meta審核員的姓名與照片,語帶威脅地將這些資訊發布到網路上,因為他們不同意某些審核的結果。這讓審核員感到恐懼,於是帶著這些圖像去公司,試圖尋求協助。該公司表示,將考慮加強廠房設備的保全工作;除此之外,公司對員工的安全問題無能為力,員工應該自己「注意安全」。

外包審核服務商

我們大多數人都希望,永遠不要經歷梅西和她的同事所忍受的不人道工作條件。然而,這類資料工作是由世界各地、數以百萬計的工人,在不同環境與地點中進行的。在這個中心,部分工作條件在我們實地考察後發生了變化,這一點我們將在第八章進一步討論。

大型企業如Meta,往往有好幾個外包的審核服務供應商,這些供應商會爭取最有利可圖的合約。對於我們日常使用的產品與服務,從社群媒體應用程式到聊天機器人和新的自動化技術等,這些資料工作對其運作至關重要。

這些資料工作是這些產品與服務存在的先決條件;如果不是內容審核員持續在後台掃描貼文,社群網絡瞬間就會充斥暴力與露骨的內容。如果沒有資料標註員創建資料集,來教導人工智慧區分交通號誌與交通標誌,自動駕駛汽車就無法合法上路。

人工智慧模糊性

如果沒有訓練機器學習演算法的工人,ChatGPT這類的人工智慧工具就不可能誕生。我們可以廣義地將人工智慧理解為一種運用機器處理資料,以生成決策、預測與建議等輸出結果的技術。從電子郵件中的自動填寫功能,到無人機戰爭中應用的目標武器系統,都屬於人工智慧的範疇。

事實上,所謂的人工智慧比較像是一個行銷概念,或是一個總稱,可以涵蓋許多非常不同的科技,其中包括電腦視覺、模式識別與自然語言處理(即日常口語與文本的處理)。這個相對模糊的概念,既能喚起後人類智慧的奇蹟,也預示著人工智慧引發滅絕事件的危險。

在公共辯論中,人工智慧代表許多不同的概念:對某些人來說,人工智慧代表經濟成長、科學成就與先進的能力,不過對另一些人來說,人工智慧代表自動化導致的失業、有偏見的決策與技術傳教。多年來,人工智慧的含義持續演變,它不斷地被重新定義,以捕捉最新的技術發展浪潮。

大型語言模型

最近,人工智慧的發展集中在支援聊天機器人的系統,也就是所謂的大型語言模型(largelanguage models,簡稱LLMs)。這些大型語言模型的訓練倚賴龐大的文本資料集,而這些資料集通常抓取自網際網路。

大型語言模型如ChatGPT之所以被稱為「大型」,一方面是因為它們的資料集規模驚人,通常達到數千億吉位元組,另一方面也是因為訓練這些語言模型所需的參數數量極其龐大,例如ChatGPT-4大約使用了一兆七千六百億個參數。

這些參數是驅動系統性能的變量,在訓練過程中可以進行微調,以確定模型如何識別資料中的模式,這將直接影響模型在處理新資料時的表現。

AI工作急遽增加

如今,我們正身處於炒作週期之中,各家公司競相將人工智慧工具整合到各種產品中,徹底改變從物流到製造和醫療保健的一切。人工智慧技術的應用範圍極廣,包括診斷疾病、設計更有效率的供應鏈,以及貨物運輸的自動化。

二○二三年,全球人工智慧市場的價值已超過兩千億美元,預計每年增長二○%,到二○三○年達到將近兩兆美元。人工智慧的發展往往伴隨著隱祕且不透明的特性。

目前,全球有多少工人參與這個產業並沒有確切的數字,但可以肯定的是,這個數字以百萬計,而且若按目前的趨勢繼續發展,參與人工智慧相關工作的人數將會急遽增加。

全球網絡相互相連

透過使用人工智慧產品,我們實際上直接進入了這些分散全球各地的工人的生活。無論我們感受如何,我們都已經彼此相連。正如品嘗一杯咖啡,意味著消費者參與了從咖啡豆到咖啡杯的全球生產網絡一般,當我們使用搜尋引擎、聊天機器人,甚至像智慧機器人吸塵器這樣的簡單產品時,我們啟動了跨越地球各個角落的工人、組織與消費者之間的全球資料流與國際資本流動。

然而,許多科技公司卻竭盡全力隱藏其產品的實際製造過程。這些公司描繪的願景是光鮮亮麗的自主機器,一種能在大量資料中邊搜索、邊學習的電腦,而不是現實中那些報酬微薄、辛苦勞作、既受電腦訓練又被電腦管理的工人。

合理的工作條件

我們作為消費者、行動主義者與公民所採取的行動,可以對這些工人的工作環境產生真正的影響,幫助他們爭取合理的工作條件。這些工人處於科技變革的最前端,但人工智慧支援的監控與生產力工具正在不斷逼近,即使是那些自認不會受到這種工作生活侵擾的人,也無法幸免。

我們採取行動的第一步,是要瞭解人工智慧如何產生,以及它運作的不同系統。這讓我們瞭解到,人工智慧如何將權力、財富與塑造未來的能力集中在少數人手中。(宇欽/輯)

《血汗AI:為人工智慧提供動力的隱性人類勞工》
作者:詹姆斯.默登, 馬克.格雷厄姆, 卡倫.坎特
出版社:大塊文化

其他書訊:
《22世紀的民主主義》
作者:成田悠輔
出版社:平安文化

我們身處於一個被無形之手控制的社會。我們看似擁有自主權,能夠選擇自己的候選人,但我們選出來的人,不但無法解決社會問題,還會為了自身利益,激化社會對立。本應共存的群眾被分化,民主正逐漸變質,失去原有的意義。

民主已經故障,不管投給誰都一樣爛。物價通膨,房價居高不下,社會越來越不平等,年輕人積極投票、投入政治也沒用,最後還是被既得利益者壓制。本書透過科學實證,為陷入迷茫的民主國家提供嶄新的改革思路,直指「未來民主主義」的挑戰與機會,這本書是對「民主」不留情面的嚴厲拷問,但也或許,這可能是我們改變這一切的最後一次機會。

《零失誤工作法:提升準確率必備技巧100》
作者:鈴木真理子
出版社:楓葉社文化

在商業世界中,犯錯被視為不可接受的,這種「零失誤」的要求常常讓人感到焦慮和壓力。若總是在無意中犯錯,工作不僅進展緩慢,還會影響到心情和職場評價。

書中的技巧和建議來源於作者多年的成長過程和寶貴經驗,從一個在保險公司頻頻犯錯的「失誤部長」,到如今專注於「預防事務過失」的專家。分享了【程序安排】【行程管理】【溝通技巧】等多種實用策略,甚至涵蓋了如何建立有效的工作習慣和積極心態!