AI恐失去控制企業卻不願建立監管機制（時代雜誌The Times）

The Darwinian Argument for Worrying About AI
AI失去控制？人工智慧專家聯盟發布報告強調，「AI有導致人類滅絕的風險」，應設立監管機制。

然而專家指出，國際科技企業過去都投資大量資金在研發AI，至今迎來漲勢，設立監管機制不僅會減損獲益空間，還限制研發的速度。對此，應由政府出手提供充足資金，讓監管AI變得有利可圖。

不投資AI就被淘汰

隨著科技進步，AI能處理的任務不再只是傳送電子郵件，甚至是設計產品模型、規劃行銷活動與利用機器人找出對手企業的安全漏洞。儘管眾多專家警告，AI仍有許多未知的風險，但如果企業不擴大投資AI，恐怕就會在商業競賽中遭到淘汰。

然而，相同的狀況不僅在公司之間的競爭，同樣也適用於國家競賽，缺少AI對各國政府而言，就是少了一項重要的戰略工具。國家愈來愈仰賴AI，人工智能也會逐漸影響到國家的關鍵決策。

《時代雜誌》指出，在AI高速發展的狀況下，缺乏監督機制恐怕使狀況全面失控，首先，「AI難以受到人為控制」，目前科學家均透過輸入大量資料給AI來進行訓練，但AI最終如何做出決策、歷經什麼過程，仍不為人知。

其次，「進化的結果往往是自私的」，AI發展的過程就如同動物的演化，只是速度比動物快上許多，在人類使用AI來進行各種違反道德的行為時，恐怕也會產生相當多負面用途的AI，如用來竊取商業機密或掩蓋違法情事。

第三，「關閉AI的代價會愈來愈高」，隨著AI與社會連接愈來愈緊密，也會逐漸應用於各類型的關鍵基礎設施當中，關閉AI的成本將變得愈來愈高，可能造成「全面停電」或「全國斷網」等狀況。

目前因為企業與國際競爭的關係，AI監管機制不僅意味著研發速度放緩，更可能導致企業獲益減少。對此，各國應如同應對氣候危機一樣聯合起來，為AI安全研究提供充足的資金，讓AI監管變得有利可圖，自然就有企業會投入研發。