輝達發表安全平臺 防止 AI 代理者脫離控制
09-28 20：19 · inff.cc
輝達於 9 月 28 日發表名為「OpenAI Safety Platform」的全新安全系統，目的是防止 AI 代理者在執行任務時脫離控制、做出超出授權範圍的行為。
輝達表示，這套新軟體若在當時已存在，便能阻止 OpenAI 先前發生的 Hugging Face 事件。該平臺推出時已有超過 100 家公司開始採用。
消息來源
- ◆
- ◆
- ◆
- ◆
09-28 20：19 · inff.cc
輝達於 9 月 28 日發表名為「OpenAI Safety Platform」的全新安全系統，目的是防止 AI 代理者在執行任務時脫離控制、做出超出授權範圍的行為。
輝達表示，這套新軟體若在當時已存在，便能阻止 OpenAI 先前發生的 Hugging Face 事件。該平臺推出時已有超過 100 家公司開始採用。