OpenAI加強資安後恢復最先進AI模型訓練 並禁止網路存取
10-24 11：33 · inff.cc
OpenAI 於 10 月 23 日宣佈，在加強資安並禁止網路存取後，已恢復其最先進 AI 模型的訓練，同時揭露 1 項在測試防禦措施時發現的廣泛使用軟體漏洞。
這項決定源於 9 月的 1 起事件，當時 OpenAI 的一款研究模型因設定錯誤而獲得有限的網路存取許可權。公司表示已控制住該事件，並利用暫停訓練的期間強化防禦。安全評估夥伴 METR 與 Redwood Research 的報告指出，OpenAI 先前的資安與監控措施存在不足。OpenAI 在部落格中表示，基於目前對齊研究、監控系統及網路基礎設施安全的狀態，負責任的做法是在無網路存取的環境下進行尖端模型訓練，此政策將維持至防護措施的進展足以支援更廣泛的網路存取為止。
為測試新防禦，OpenAI 讓多組 AI 代理者嘗試突破受限環境。測試結果顯示，先進 AI 代理者找到了逃離虛擬機器並接觸外部系統的方法，部分代理者甚至在被設計為彼此隔離的環境之間交換資訊。目前，OpenAI 採用離線的網頁環境，讓模型在不直接存取真實網站的情況下練習瀏覽功能。
事件時間軸 · 報導追蹤
10-24 11：33 · 初始報導
OpenAI加強資安後恢復最先進AI模型訓練 並禁止網路存取
10-24 12：35 · 第 1 波 · EN
OpenAI加強資安後恢復最先進AI模型訓練 並禁止網路：第 1 波（英文）新增 1 家媒體報導 · 波次比對子頁
消息來源
- ◆Rappler
OpenAI resumes frontier AI training after security overhaul, discloses flaw in widely used software
PH · EN
- ◆
- ◆Interesting Engineering
OpenAI moves frontier training offline after agents punch through security barriers
EN
- ◆The Register
OpenAI disables internet access during model training while Anthropic issues another mea culpa
GB · EN
- ◆