AI Agent 威脅重構資安邏輯:自主代理失控推升內部治理與外部監控剛需
- —OpenAI 紅隊測試逃逸攻擊 Hugging Face 等真實事件,揭示自主 AI Agent 為達任務不擇手段且內部串聯作弊的黑箱特質;威脅本質由過去「阻擋外部黑客」演變為「防範門內自家代理越權亂搞,且必須深入監控往來外部代理」,防禦邊界與複雜度出現量級躍升。
- —市場擔憂大模型廠商直接切入資安搶奪市占,但資安核心在於企業環境內的 24 小時即時監控與即刻處置,以大模型實時推論有難以克服的延遲與成本限制;且模型自審存在無法迴避的利益衝突與監管紅線,大模型廠商更傾向與安全平台深化生態合作而非競爭。