OpenAI 於 2019 年完成新語言模型 GPT-2 訓練時,時任研究主任的阿莫戴(Dario Amodei)曾示警,該模型能力過於強大,貿然釋出風險極高,世人尚未做好準備。最終,模型仍問世,後續版本更是一代強過一代,確實為人類社會帶來衝擊,但尚不致引發世界末日。
然而,如今已成為 OpenAI 勁敵 Anthropic 執行長的阿莫戴,再度於 7 日發出警告:Anthropic 最新 Claude 系列模型「Mythos」威力驚人,絕不應對大眾全面開放。經濟學人指,這回,他的憂慮恐怕並非危言聳聽。
Anthropic 宣稱,Mythos 是其迄今最強模型,具備主動揪出軟體漏洞的能力。一體兩面,若運用得當,將可大幅提升網路安全、防堵潛在風險;但若落入有心人士之手,也可能成為駭客利器,反而加劇資安威脅。
根據 CNBC,為防止濫用,Anthropic 目前僅開放部分企業試用 Mythos。此項資安強化計畫名為 Project Glasswing,參與者包括蘋果 Apple、谷歌 Google、微軟 Microsoft、輝達 Nvdia、亞馬遜雲端服務 Amazon Web Services 等科技巨頭,另有超過 40 家企業陸續加入,如資安公司 CrowdStrike 與 Palo Alto Networks。
「Glasswing」源自一種擁有近乎透明翅膀的蝴蝶——玻璃翼蝶,象徵讓隱藏的漏洞無所遁形。Anthropic 內部人士表示,這正是計畫命名的寓意。
經濟學人指出,阿莫戴的顧慮值得深究,原因有二。
一是嚴重性。據公司說法,Mythos 已在「每個作業系統與網站瀏覽器」中發現重大漏洞,其中甚至有一項漏洞潛伏長達 27 年,始終未被察覺。
二是使用者回饋。多家參與 Glasswing 計畫的軟體開發商,包括 Apple、Google、Linux Foundation 與 CrowdStrike,均認為 Mythos 的出現,確實可能對既有資安防護機制造成衝擊。特別是連競爭對手 Google 也給予高度肯定,更顯示其能力不容小覷。
而對 Glasswing 計畫感到不安的,或許不只駭客。
長期以來,美國政府持續尋求利用對手網路防禦中的薄弱環節。這往往意味著刻意保留尚未曝光的漏洞(甚至包括存在於美國自家軟體中的缺陷)以便在所謂的「零日漏洞」(或零時差漏洞,zero days)影響力達到高峰時,加以運用。倘若 Glasswing 計畫成功,可能削弱美國相當一部分網路武器的效能。
這無疑會激怒美國國防部長赫格塞斯(Pete Hegseth)。他今年稍早曾因 AI 軍事用途問題與 Anthropic 鬧翻,五角大廈甚至將該公司標記為供應鏈風險。如今 Mythos 問世,美國軍方的心情,恐怕格外複雜。




