📝 SceneInside a brightly lit lab, a complex neural interface connected to an Astra model server displays a glowing red shield icon. The interface is partially disconnected, with inert cables draped over it. Natural daylight streams through a window, illuminating dust motes in the neutral-toned room. Close-up on the shield., American
人工智慧公司 OpenAI 已暫停其開發中的 AI 模型「阿斯特拉」的部分後續工作,原因是內部測試評估顯示,該模型可能具備進階且自主的網路攻擊能力。根據亞洲新聞台(CNA 新加坡)與科技媒體《Interesting Engineering》的報導,OpenAI 已將阿斯特拉列為其網路安全風險分類中的最高階別,並據此加強了對該模型的控制措施。巴西《Valor Econômico》指出,評估結果顯示阿斯特拉可能有能力自主執行網路任務。德國《明鏡週刊》進一步報導稱,OpenAI 對阿斯特拉感到擔憂,認為其在網路安全領域已具備「關鍵」能力,可能對高防護目標發動自主攻擊。
這起事件標誌著 AI 發展中一個值得關注的時刻,首次有大型 AI 公司因模型潛在的網路安全威脅而採取公開的限制措施。OpenAI 在內部評估後,判定阿斯特拉已越過一個風險門檻,使其無法再忽視該模型可能帶來的威脅。