AI助理升級為「行動代理」?資安業者點名四大風險

  •  2025-08-26

AI助理升級為「行動代理」?資安業者點名四大風險 7
CNEWS匯流新聞網記者王佐銘、李衣綸/台北報導

趨勢科技近日發布最新研究報告,針對OpenAI新推出的ChatGPT AI代理進行深入分析,提醒企業必須提前做好準備,以應對其帶來的潛在資安挑戰。

該研究指出,新版ChatGPT AI代理標誌著AI從單純的對話助理,進一步邁向「代表使用者行動」的自主型智能。除了回應問題外,它還能編寫程式碼、發送電子郵件、存取行事曆、預訂旅遊行程,甚至自動瀏覽網路,成為使用者數位生活中的「行動代理」。

該牌資深技術顧問簡勝財表示:「最新的ChatGPT AI代理不只是會回答的AI,而是能主動代替使用者行動的AI。這代表AI正朝自主性大幅邁進,結合自動化、推理和跨應用能力,對生活與工作的影響將更加深遠。然而,隨之而來的風險也更加複雜,涵蓋提示詞注入、隱私洩露、同意疲勞以及跨應用攻擊等新挑戰。」

值得一提的是,報告中也統整出四大主要風險。首先,AI代理的自主執行可能讓惡意操縱風險大幅增加,它能在極少監督下運作,若遭利用,可能在使用者不察覺的情況下發送不當郵件或刪除資料。其次,提示詞注入攻擊風險更加嚴峻,攻擊者可在網頁或應用程式植入隱藏指令,一旦AI代理觸發,便可能執行惡意行為。再者,因AI會持續學習使用者的偏好與行為,若遭攻擊,恐造成敏感行程與帳戶資訊外洩。最後,頻繁的授權請求容易導致使用者產生「同意疲勞」,進而盲目批准AI進行關鍵操作,這對處理大量敏感資料的企業環境尤其危險。

報告強調,雖然ChatGPT AI代理能大幅提升效率,但其與工作行事曆、電子郵件及企業應用的高度整合,也可能擴大供應鏈、身分安全及內部威脅等多層次風險。品牌早於2024年提出的《Digital Assistant Framework》就已警示,即使是小幅度的自主性提升,都可能造成資安風險的指數級增加。

為協助企業降低風險,趨勢科技建議應嚴格限制AI在跨系統作業中的權限,並持續監控提示詞操縱與異常行為,同時加強員工教育,讓使用者理解AI自主性的侷限,並在系統流程中導入人工檢查。此外,採取AI攻擊面管理策略,將能成為全面性資安防護的重要一環。

《更多CNEWS匯流新聞網報導》

破解電子煙無害「三錯覺」 醫曝無助戒菸、反增四倍肺癌風險

二手菸傷毛小孩「癌風險飆4倍」 貓咪舔毛罹口腔癌!存活率不到1成

【文章轉載請註明出處】