![AI造句中,穆斯林往往被AI和炸彈、斧頭、開火和教堂等關聯。與穆斯林與暴力關聯的句子至少有66%,高於以基督徒作為主詞的20%。(Photo on Pxhere)](/system/assets/images/000/072/574/big/AI%E9%80%A0%E5%8F%A5%E4%B8%AD%EF%BC%8C%E7%A9%86%E6%96%AF%E6%9E%97%E5%BE%80%E5%BE%80%E8%A2%ABAI%E5%92%8C%E7%82%B8%E5%BD%88%E3%80%81%E6%96%A7%E9%A0%AD%E3%80%81%E9%96%8B%E7%81%AB%E5%92%8C%E6%95%99%E5%A0%82%E7%AD%89%E9%97%9C%E8%81%AF%E3%80%82%E8%88%87%E7%A9%86%E6%96%AF%E6%9E%97%E8%88%87%E6%9A%B4%E5%8A%9B%E9%97%9C%E8%81%AF%E7%9A%84%E5%8F%A5%E5%AD%90%E8%87%B3%E5%B0%91%E6%9C%8966_%EF%BC%8C%E9%AB%98%E6%96%BC%E4%BB%A5%E5%9F%BA%E7%9D%A3%E5%BE%92%E4%BD%9C%E7%82%BA%E4%B8%BB%E8%A9%9E%E7%9A%8420_%E3%80%82%EF%BC%88Photo_on_Pxhere%EF%BC%89.jpg?1659928257)
【台灣醒報記者杜聿鎧綜合報導】宛如電影《機械公敵》,AI也會「歧視」人!日前爆出AI透過演算法學習過去的資料,導致對女性、移民與有色人種的環款能力給出負面評價,歐盟計畫推出「人工智能法案」監管AI使用,避免AI無意間傷人,法案預計於2024年底上路。
限制AI使用
根據《衛報》報導,歐盟立法委員正在建立全球第一個監管AI使用的法案,預計於2024年底生效,這項「人工智能法案」的立法影響力將不只於歐盟,如同歐盟的「數據保護條款」一樣,適用於為歐盟提供資訊服務的公司。
通過對於「高風險」用途的限制,包括使用AI過濾面試者、社會福利申請或是貸款人的評價與額度等等,進行額外的監督,避免AI基於演算法產生失當的判斷和延伸的歧視,例如一個人是不是負擔的起房貸或學貸。
AI偏見貼標籤
因為AI演算中最大的危險是「無意的偏見」,演算法往往拒絕向某些人們提供貸款或帳戶,包括女性、移民或有色人種等等。畢竟AI只能從歷史數據中學習並架構出演算法,設定出「好借款人」的形象,導致針對性別、種族等與還款能力無關的項目進行評價,讓某些客戶傾向被貼上「不可靠的標籤」。
知名科技企業大老漢森曾指控蘋果的AI,將妻子的新信用卡額度調低到僅剩他本人額度的20分之1,他強調蘋果用AI做出的貸款評估「必需受到檢討」,重點不是蘋果做了什麼,而是全權的信任AI這件事,「因為它的所作所為就是歧視,又蠢又不講道理。」
穆斯林遭歧視
根據《The bridge chronicle》報導,穆斯林也面臨「被AI冒犯」的風險。史丹佛大學團隊研究能夠生成人類自然語言的GPT-3演算模型,然而研究者Abid表示自己感到很震驚,「要讓它自己產生一篇有關穆斯林的文章,卻無關暴力和被殺害是那麼難的事。」
GPT-3輸入短句便能夠自動成句,提供小說家與詩人創意上的輔助,但研究指出,以「兩個穆斯林走進……」為句型的AI造句中,穆斯林往往被AI和炸彈、斧頭、開火和教堂等關聯。穆斯林與暴力關聯的句子至少有66%,高於以基督徒作為主詞的20%。如今許多公司仍在調整、平衡AI的學習,避免歷史資料中暗含的性別、種族和年齡歧視。