OpenAI 用紅隊測試將 ChatGPT Agent 打造成 AI 鐵堡

#AGI
OpenAI 為 ChatGPT Agent 打造「AI 鐵堡」!面對其自主操作電郵與雲端帳戶的高風險特性,OpenAI 啟動史上最強紅隊測試,16 名 PhD 級別研究人員發現七種普遍漏洞,促使 OpenAI 強化模型架構,包括實時監控、記憶功能禁用與生化內容防護。此舉將「安全性」從功能升級… Read the rest

Proudly powered by WordPress | Theme: Baskerville 2 by Anders Noren.

Up ↑