預測犯罪AI涉歧視 歐盟禁用德國管制

林祐任 2020/07/01 16:48 點閱 3137 次
有如電影《關鍵報告》中預測犯罪的「預測性警務」AI,在歐盟將不被採用,因預測性警務可能會針對移民或特定族群,將惡化種族歧視。(Photo byWikimedia Commons)
有如電影《關鍵報告》中預測犯罪的「預測性警務」AI,在歐盟將不被採用,因預測性警務可能會針對移民或特定族群,將惡化種族歧視。(Photo byWikimedia Commons)

【台灣醒報記者林祐任綜合報導】有如電影《關鍵報告》中預測犯罪的「預測性警務」AI,在歐盟將不被採用!歐盟執委會執行副主席維斯塔格指出,預測性警務可能會針對移民或特定族群,並惡化種族歧視。而美國加州的城市聖塔克魯茲,也在6月底開第一槍宣布禁用。此外,接掌歐盟輪值主席國的德國也呼籲歐盟加強對AI的管制。

預測性警務恐歧視

根據《歐洲動態》報導,歐盟執委會執行副主席維斯塔格在6月30日的歐洲AI論壇中表示,若我們適當的發展AI,便可以創造經濟上的奇蹟,但她也強調某些AI的應用在社會上會導致歧視和偏見,譬如「預測性警務」可能會針對移民或特定族群,因此歐盟不會接受。

路透社》指出,預測性警務被美國警方採用了將近10年,以演算法分析警方逮捕和假釋的資料,得出犯罪最有可能發生的地區以及哪些人是慢性習慣犯(長期不斷犯罪者),不過批評者指出,預測性警務讓警方對低收入、少數族群地區過度部署,將惡化種族歧視。美國公民自由聯盟的律師卡格表示,政府不應使用造成種族歧視的AI。

美國加州的聖塔克魯茲作為最早使用預測性警務的城市,在6月底卻開第一槍宣布禁用。NGO「Access Now」和「歐洲數位權利」最近也大聲疾呼歐盟應禁用預測性警務以及其他生物識別技術(如臉部辨識)。在英國,自由派人士在2019年揭露警方暗中大量使用預測性警務。

德國籲加強管制

歐洲動態》報導,接掌2020年下半年歐盟輪值主席國的德國,30日也針對歐盟在2月公布的《AI白皮書》提出建言,白皮書主要是對「高風險」的AI進行管制,但德國政府認為,風險不應只分成高風險和低風險,而是依據對生命、財產、民主、環境經濟等不同程度的傷害,區分不同程度的風險。

此外,德國政府也指出,白皮書對AI管制的定義仍不夠明確,例如對個人資料紀錄的儲存是在「必要的基礎上」,但何謂必要的基礎?對於資料保存的期限也不明確。德國政府更強調,人類必須要監督AI系統,至於是何種形式的監督也是歐盟必須要討論的議題。

cari