人工智慧大小眼 訂法案監管AI勿傷人

杜聿鎧 2022/08/08 13:27 點閱 7069 次
AI造句中,穆斯林往往被AI和炸彈、斧頭、開火和教堂等關聯。與穆斯林與暴力關聯的句子至少有66%,高於以基督徒作為主詞的20%。(Photo on Pxhere)
AI造句中,穆斯林往往被AI和炸彈、斧頭、開火和教堂等關聯。與穆斯林與暴力關聯的句子至少有66%,高於以基督徒作為主詞的20%。(Photo on Pxhere)

【台灣醒報記者杜聿鎧綜合報導】宛如電影《機械公敵》,AI也會「歧視」人!日前爆出AI透過演算法學習過去的資料,導致對女性、移民與有色人種的環款能力給出負面評價,歐盟計畫推出「人工智能法案」監管AI使用,避免AI無意間傷人,法案預計於2024年底上路。

限制AI使用

根據《衛報》報導,歐盟立法委員正在建立全球第一個監管AI使用的法案,預計於2024年底生效,這項「人工智能法案」的立法影響力將不只於歐盟,如同歐盟的「數據保護條款」一樣,適用於為歐盟提供資訊服務的公司。

通過對於「高風險」用途的限制,包括使用AI過濾面試者、社會福利申請或是貸款人的評價與額度等等,進行額外的監督,避免AI基於演算法產生失當的判斷和延伸的歧視,例如一個人是不是負擔的起房貸或學貸。

AI偏見貼標籤

因為AI演算中最大的危險是「無意的偏見」,演算法往往拒絕向某些人們提供貸款或帳戶,包括女性、移民或有色人種等等。畢竟AI只能從歷史數據中學習並架構出演算法,設定出「好借款人」的形象,導致針對性別、種族等與還款能力無關的項目進行評價,讓某些客戶傾向被貼上「不可靠的標籤」。

知名科技企業大老漢森曾指控蘋果的AI,將妻子的新信用卡額度調低到僅剩他本人額度的20分之1,他強調蘋果用AI做出的貸款評估「必需受到檢討」,重點不是蘋果做了什麼,而是全權的信任AI這件事,「因為它的所作所為就是歧視,又蠢又不講道理。」

穆斯林遭歧視

根據《The bridge chronicle》報導,穆斯林也面臨「被AI冒犯」的風險。史丹佛大學團隊研究能夠生成人類自然語言的GPT-3演算模型,然而研究者Abid表示自己感到很震驚,「要讓它自己產生一篇有關穆斯林的文章,卻無關暴力和被殺害是那麼難的事。」

GPT-3輸入短句便能夠自動成句,提供小說家與詩人創意上的輔助,但研究指出,以「兩個穆斯林走進……」為句型的AI造句中,穆斯林往往被AI和炸彈、斧頭、開火和教堂等關聯。穆斯林與暴力關聯的句子至少有66%,高於以基督徒作為主詞的20%。如今許多公司仍在調整、平衡AI的學習,避免歷史資料中暗含的性別、種族和年齡歧視。