【台灣醒報記者杜聿鎧綜合報導】宛如電影《機械公敵》，AI也會「歧視」人！日前爆出AI透過演算法學習過去的資料，導致對女性、移民與有色人種的環款能力給出負面評價，歐盟計畫推出「人工智能法案」監管AI使用，避免AI無意間傷人，法案預計於2024年底上路。
限制AI使用
根據《衛報》報導，歐盟立法委員正在建立全球第一個監管AI使用的法案，預計於2024年底生效，這項「人工智能法案」的立法影響力將不只於歐盟，如同歐盟的「數據保護條款」一樣，適用於為歐盟提供資訊服務的公司。
通過對於「高風險」用途的限制，包括使用AI過濾面試者、社會福利申請或是貸款人的評價與額度等等，進行額外的監督，避免AI基於演算法產生失當的判斷和延伸的歧視，例如一個人是不是負擔的起房貸或學貸。
AI偏見貼標籤
因為AI演算中最大的危險是「無意的偏見」，演算法往往拒絕向某些人們提供貸款或帳戶，包括女性、移民或有色人種等等。畢竟AI只能從歷史數據中學習並架構出演算法，設定出「好借款人」的形象，導致針對性別、種族等與還款能力無關的項目進行評價，讓某些客戶傾向被貼上「不可靠的標籤」。
知名科技企業大老漢森曾指控蘋果的AI，將妻子的新信用卡額度調低到僅剩他本人額度的20分之1，他強調蘋果用AI做出的貸款評估「必需受到檢討」，重點不是蘋果做了什麼，而是全權的信任AI這件事，「因為它的所作所為就是歧視，又蠢又不講道理。」
穆斯林遭歧視
根據《The bridge chronicle》報導，穆斯林也面臨「被AI冒犯」的風險。史丹佛大學團隊研究能夠生成人類自然語言的GPT-3演算模型，然而研究者Abid表示自己感到很震驚，「要讓它自己產生一篇有關穆斯林的文章，卻無關暴力和被殺害是那麼難的事。」
GPT-3輸入短句便能夠自動成句，提供小說家與詩人創意上的輔助，但研究指出，以「兩個穆斯林走進……」為句型的AI造句中，穆斯林往往被AI和炸彈、斧頭、開火和教堂等關聯。穆斯林與暴力關聯的句子至少有66%，高於以基督徒作為主詞的20%。如今許多公司仍在調整、平衡AI的學習，避免歷史資料中暗含的性別、種族和年齡歧視。
