OpenAI 模型「越獄」駭入他家系統，才掀起不小波瀾。現傳出另一家人工智慧大廠 Anthropic 的模型也「不講武德」，在測試資安能力時入侵了三家公司，顯見安全控管已成了AI發展不容忽視的環節。
金融時報、路透報導， Anthropic 30 日表示，由於一項組態設定錯誤，旗下模型 Claude 在測試期間意外取得網路存取權，並成功入侵三家公司的系統。
OpenAI 上週公開其 GPT-Sol 5.6 模型在安全測試中逃出沙盒，對 Hugging Face 公司發動網路攻擊，試圖取得其資料。有鑑於此，Anthropic 亦展開調查，確認其模型是否也曾出現這類舉動。
經檢視 141,006 筆測試紀錄後，Anthropic 發現三起入侵事件，分別涉及 Claude Opus 4.7、Claude Mythos 5，以及一款內部研究模型，最早案例可追溯至今年 4 月。
據其說明，這些入侵行動發生在「奪旗賽」（capture the flag，CTF）演練期間。所謂的奪旗任務，是要求 AI 對存在漏洞的系統進行逆向工程、分析或利用，以找出並取得稱為「旗標」（flag）的隱藏資訊，以評估其網路攻防能力。
Anthropic 表示，測試提示（prompt）明確告知模型無法存取網際網路，但由於與評估合作夥伴 Irregular 溝通上的誤解，導致測試系統實際上仍連接至公開網路。根據 Anthropic，其中兩家機構在接獲通知前，對其系統曾遭到存取毫無所覺。至於第三家，公司仍設法與其取得聯繫。
正準備上市的 Anthropic 強調，在發現 Claude 可能曾連上網路的跡象後，已立即暫停所有網路安全評估。該公司並稱，將擴大對測試評估紀錄的監控範圍，以偵測「未預期的行為」，並對其供應商展開「更嚴格的安全驗證工作」。
這些事件顯示，隨著 AI 能力持續提升，資安專家長期擔憂的安全風險已然成真。即使是領先的 AI 開發商，也可能因模型意想不到的利用方式而措手不及。
