Rapid progress in AI is arousing fear as well as excitement. How worried should you be?
非政府組織「未來生活研究所」（Future of Life Institute）日前向社會提問說：「我們是否應該任由人工智慧取代所有的工作？」，呼籲最先進的人工智慧研究都應該暫停六個月。
面對人工智慧，目前各國政府出於「企業投資」、「安全風險」與「政治需求」等考量，祭出從寬到嚴不同強度的限制規範。
憂AI學會做病毒
這顯示了人工智慧技術已經引發社會的擔憂，尤其是大型語言模型（LLM）的人工智慧，最有名的例子就是ChatGPT席捲全球的浪潮，從解決邏輯問題、編寫程式代碼，到創造表情符號等功能無所不包。
然而，針對人工智慧是否會對人類帶來的生存風險，專家正反意見不一，持續激烈爭論。在2022年對AI工作人員的調查發現，48%的人認為，AI會帶來一定的風險，甚至有10%認為AI的風險可能「極端惡劣」，有導致人類滅絕的可能性。但也有25%的AI人士認為，風險為0%。
現有的人工智慧已經存在偏見、隱私與知識財產權的諸多討論，有人擔憂，人工智能可能進步到學會製造大規模殺傷武器或者是培養病毒，造成世界重大傷亡。研究人員指出，人工智能的效果恐怕會與當初創造的目標不同。
各國規範從輕到嚴
至今，各國政府正在採取三種不同的方法應對人工智慧。如英國、美國採取最輕微的管制，沒有祭出新的法規或監管機構，只是以現有法規來限制人工智慧，此舉是為了促進科技產業的投資，盼成為「人工智慧的超級大國」。
歐盟則採取相對強硬的管制路線，研擬全新法規，依據AI的不同用途進行分類，並隨著對民眾造成不同程度的風險，有不同強度的管制，如從音樂推薦到自動駕駛，需要愈來愈嚴格的監控與披露規則，一旦違反規定就會遭到罰款。
但仍有不少組織疾呼，「AI需要更嚴格的管制方法」，各國政府應如對待藥物一樣來對待人工智慧，必須要有專門的監管機構，且有經過嚴格的測試與批准才能夠發行。目前中國正在訂定類似的法規，要求企業的人工智慧需要註冊，且接受政府的安全審查。
但無論如何，世界各國擁抱AI技術帶來的福利只是開始，為了如何平衡風險與利益，跨國、跨組織、跨專業訂定一套管制基礎不可或缺，而隨著AI技術高速發展，訂定規範已經是刻不容緩。
https://www.economist.com/leaders/2023/04/20/how-to-worry-wisely-about-artificial-intelligence