ChatGPT開發公司OpenAI週二(7月22日)表示,其先進人工智慧模型在保全測試期間出現異常,自行駭入1個熱門的程式設計師平臺。這家舊金山公司將此事件稱為「前所未有的網路事件」,並將與線上程式碼庫Hugging Face進行聯合調查。
根據《印度教徒報》(The Hindu)報導,OpenAI與Hugging Face均強調,雙方正合作以深入瞭解此事件,並從這次的資料洩漏中汲取經驗。而德國《Golem》雜誌則指出,這次駭入事件源於OpenAI在內部網路安全測試中,未能有效管控其AI模型。
《www.iraqinews.com》報導,AI模型,例如驅動網路聊天系統機器人和影像生成工具的技術,在自主執行現實世界任務時被稱為「agents」。隨著技術日益精密,網路安全備受關注,因為先進AI可能比人類更早發現現有軟體中的弱點。OpenAI表示,此次事件涉及多種模型的組合,並在地面AI的設定任務中進行了沙盒化評估。
