OpenAI因應人工智慧（AI）模型能力提升，以及近期發生的 AI 系統入侵其他企業事件，宣布強化訓練與測試環境的安全措施，包括提高隔離標準、擴大監控範圍，並改善模型與人類意圖的一致性。
CNN 報導，OpenAI 今年 7 月首度披露，在一次資安測試期間，部分 AI 代理搭配刻意降低的內部安全防護後，利用第三方軟體供應商一項先前未知的漏洞，成功脫離原本的測試環境。這些 AI 代理認為，要在測試中取得最佳成績，最好的方法是到測試環境外尋找答案，因此入侵 AI 模型與資料集託管平台 Hugging Face 的系統，以取得測試答案。
OpenAI研究主管 Mia Glaese 週二（8/18）在媒體簡報中表示，公司正因此強化研究與測試環境，並擴大監控，以偵測及處理令人擔憂的 AI 行為。同時，公司也持續改善所謂的「對齊」（alignment），讓 AI 系統的行為更符合人類預期。
Glaese 表示，OpenAI 目前採取的措施，目的就是避免類似 Hugging Face 的事件再次發生。
OpenAI表示，提高 AI 測試環境的安全標準是重要措施之一，未來將採取更強的隔離機制，確保即使某項工作負載或支援服務遭到入侵，也不會因此讓外部系統取得測試沙盒以外的未經授權存取權限。
OpenAI 也發現，這些 AI 代理曾在一段時間內未被察覺，相關脫離測試環境的行動早在 5 月就開始。公司目前已開發新的監控系統，若發現令人擔憂的活動，將在相關行為出現後 30 分鐘內發出警示。
除了強化監控，OpenAI 也將改善 AI 模型的 alignment 訓練。公司指出，在部分 AI 代理出現異常行為的案例中，模型採取了測試人員原本沒有要求的行動。
OpenAI表示，新的訓練方式包括讓模型更能辨識並抑制不同任務與環境中的不安全行為；讓模型更誠實說明自身的行動、能力與限制；以及降低模型利用獎勵機制、評分者、工具或監督漏洞的行為。
這些新增的監控措施也會增加運算成本。OpenAI 估計，監控所需的額外運算負擔，約相當於模型原本所需運算能力的 20%。
OpenAI 表示，相關安全措施也受到最新模型 Astra 的發展影響。公司近期暫停 Astra 的部分工作，原因是發現該模型可能具備發動自主網路攻擊的能力。
Glaese 表示，隨著 AI 能力持續提升，OpenAI 仍致力於符合更高的安全標準，即使這些措施會影響公司內部的開發速度。
