![OpenAI成立由首席執行官阿特曼及董事會成員領導的「安全委員會」,將針對公司專案營運的重大安全決策提供建議。(Photo by Jonathan Kemper on Unsplash under C.C License)](/system/assets/images/000/082/465/big/OpenAI%E6%88%90%E7%AB%8B%E7%94%B1%E9%A6%96%E5%B8%AD%E5%9F%B7%E8%A1%8C%E5%AE%98%E9%98%BF%E7%89%B9%E6%9B%BC%E5%8F%8A%E8%91%A3%E4%BA%8B%E6%9C%83%E6%88%90%E5%93%A1%E9%A0%98%E5%B0%8E%E7%9A%84%E3%80%8C%E5%AE%89%E5%85%A8%E5%A7%94%E5%93%A1%E6%9C%83%E3%80%8D%EF%BC%8C%E5%B0%87%E9%87%9D%E5%B0%8D%E5%85%AC%E5%8F%B8%E5%B0%88%E6%A1%88%E7%87%9F%E9%81%8B%E7%9A%84%E9%87%8D%E5%A4%A7%E5%AE%89%E5%85%A8%E6%B1%BA%E7%AD%96%E6%8F%90%E4%BE%9B%E5%BB%BA%E8%AD%B0%E3%80%82%EF%BC%88Photo_by_.jpg?1716952259)
【台灣醒報記者莊宇欽綜合報導】OpenAI將訓練前沿AI新模型,成立「安全委員會」監督人工智慧!「前沿AI」(frontier AI)擁有強大先進的技術和運算能力,卻也帶來前所未見的風險疑慮,使得OpenAI在研發過程中更加重視其安全性。然而,OpenAI近期爆出高階主管離職,其監督AI風險的團隊也遭解散,安全委員會的成立令外界有所擔憂。
《Trilateral Research》分析,「前沿AI」相較於現有尖端人工智慧模型,其在功能和應用方面都更為強大先進,而目前大多以通用人工智慧(AGI)的形式出現,該系統可以執行包括語言和影像處理等指令,並充當研發平台以建立AI應用程式。
以安全委員會監督AI
《路透社》報導,OpenAI成立由首席執行官阿特曼及董事會成員領導的「安全委員會」,將針對公司專案營運的重大安全決策提供建議。另外,OpenA也開始訓練前沿AI新模型,以取代支撐其ChatGPT聊天機器人的GPT-4系統。
隨著人工智慧發展迅速,ChatGPT聊天機器人具有生成式AI功能,可進行仿人類對話及根據文字提示創建圖像,但也引發安全疑慮。DA Davidson分析師盧里亞表示,安全委員會的成立可能會讓OpenAI從非營利組織轉變為商業實體,有助於其保有問責制,並簡化產品開發。
未知風險高
《衛報》指出,OpenAI的前沿AI新模型在效能和安全性上都領先業界,但卻沒有提及訓練細節及相關爭議,只聲稱其致力打造媲美人腦的通用人工智慧(AGI)。然而,OpenAI聯合創始人兼首席科學家蘇茨克維本月稍早驚傳離職,該公司也解散針對AI風險監督的技術團隊,外界對於新成立的安全委員會則有所擔憂。
另外,「前沿AI」擁有前所未見的技術和運算能力,以及能夠負責艱難的任務,其也帶來未知風險和不確定性,甚至將對人類生命和環境造成更嚴重的危害。