人工智慧大廠 Anthropic 再度發出警告,指 AI 模型恐怕不久後就能演變成具備自我複製、在網路上自行擴散能力的「AI 蠕蟲」(AI worms),甚可能入侵電視、烤箱等物聯網(IoT)智慧家電系統,使其更難控制,成為全新的資安挑戰。
金融時報、路透報導,Anthropic 12 日在一篇部落格中指出,失控的 AI 可能建立殭屍網路(botnet),迅速擴散、對抗關閉行動,甚至入侵資料中心,以取得更強大的運算資源,加速自身擴張。
Anthropic 指出,AI 蠕蟲已開始顯現自我擴散的跡象。這類程式會在防護不足的裝置間緩慢蔓延,其擴散模式就像「數位黏菌」(digital slime mold)。
對於這種近乎「末日情境」的假說,部分資安專家質疑,帶有「供應商誇大其詞」的意味。也有人認為,AI 模型體積過於龐大,難以有效率地在不同裝置間移轉,加上缺乏足夠的運算能力,恐怕難以獨立運作。
然而,根據Anthropic,實驗顯示,參數規模達 300 億(或低於此數)的中型 AI 模型,已能執行自我複製所需的個別任務,儘管目前仍難穩定、可靠地完成整個流程。這類模型可透過劫持價格低廉的連網裝置,「拼湊」出所需的運算能力。「這類自我複製系統很難徹底關閉,因為不存在可以一鍵切斷的中央控制點。」
Anthropic 表示,若小型模型持續進化,到 2026 年底,就可能具備自主複製所需的能力。這些模型也可能將目標鎖定在更強大的運算資源上,包括資料中心的處理器,藉此取得大量運算能力。
Anthropic 說明,AI 自主蠕蟲可能盯上的目標,包括了監視鏡頭、智慧冰箱、智慧烤箱、自動吸塵器、除草機等等。無論這番警告是否帶有誇大成分,其中的資安隱憂不容忽視。
過去十年來,物聯網產業蓬勃發展,從智慧燈控、電視串流到居家安全系統,連網裝置益發深入現代人的日常生活。然而,這類裝置多由硬體製造商生產,部分產品缺乏完善的安全防護,有心人士若想趁虛而入,並非難事。
駭客可利用蠕蟲在大型系統中快速散播惡意軟體。知名的例子包括,2000 年 Windows 系統爆出 ILOVEYOU 病毒、伊朗核子計畫遭遇專門針對工業控制系統的 Stuxnet 病毒,以及 2017 年席捲全球的 WannaCry 勒索軟體攻擊。
AI 的「加持」,恐進而強化這類蠕蟲病毒的擴散能力與破壞力。




