Ai%e6%8f%9b%e8%87%89%e6%8a%80%e8%a1%93%e5%b7%b2%e7%b6%93%e5%8f%af%e4%bb%a5%e9%a8%99%e9%81%8e%e8%87%89%e9%83%a8%e8%be%a8%e8%ad%98%e7%b3%bb%e7%b5%b1%e3%80%82%e5%9c%96%e4%b8%ad%e9%a6%ac%e6%96%af%e5%85%8b%e4%b8%a6%e9%9d%9e%e6%9c%ac%e4%ba%ba%ef%bc%8c%e8%80%8c%e6%98%afai%e6%8f%9b%e8%87%89%e6%8a%80%e8%a1%93%e3%80%82%ef%bc%88photo_from%e7%b6%b2%e8%b7%af%e6%88%aa%e5%9c%96%ef%bc%89

AI換臉騙過軟體 專家:恐增加詐欺犯罪

陳是祈 2021/03/08 13:16 點閱 1482 次
AI換臉技術已經可以騙過臉部辨識系統。圖中馬斯克並非本人,而是AI換臉技術。(Photo from網路截圖)
AI換臉技術已經可以騙過臉部辨識系統。圖中馬斯克並非本人,而是AI換臉技術。(Photo from網路截圖)

【台灣醒報記者陳是祈綜合報導】AI換臉的技術可以騙過臉部辨識系統!根據研究報告,AI換臉(用其他人臉取代影像中原有的人臉)以假亂真,已經可以騙過亞馬遜、微軟等科技公司的臉部辨識系統,成功率高達將近8成。專家憂心,若臉部辨識系統的技術趕不上AI的革新速度,恐怕網路上會出現越來越多假身份詐騙,甚至牽涉到選舉造假、色情犯罪等。

AI換臉數量大增

VentureBeat報導,AI換臉(此技術簡稱為Deepfake)是在真人影片中,以其他的人臉來替換影片中原有的臉。根據科技公司Deeptrace的研究數據,從2019年10月到2020年6月,網路上Deepfake出現的數量增加了330%,高峰時達5萬多起,尤其有不少名人的臉被套用在色情影片中,被有心人士用來騙取點閱率或者詐財。

韓國成均館大學的研究報告指出,AI換臉的技術已經可以欺騙現有的臉部辨識技術,如微軟和亞馬遜開發的系統,根據實驗,微軟系統成功率高達78%,亞馬遜則成功高達68%。研究團隊還嘗試要申請使用Google的臉部辨識技術來實驗,但被該公司拒絕提供技術。

恐造成詐欺犯罪

研究人員表示,AI換臉技術發展太快,現有的臉部辨識系統漸漸跟不上,且每種臉部辨識系統應對AI換臉攻擊的模組都不同,因此很難百分百防範。研究團隊警告,若不正視該問題,未來會發生更多資安危機和詐欺犯罪,人們更容易假冒他人身份,騙過各種身份偵測機制。

為了防範AI換臉技術,臉書與亞馬遜、微軟率先展開防範Deepfake的技術競賽,該競賽於去年6月結束,希望能藉由各界高手的幫助來打擊換臉犯罪。微軟的客戶安全部經理Tom Burt表示,面部驗證若敵不過AI換臉技術,很有可能未來的新聞報導、社群影片等都不再有可信度。



可用鍵盤操作