生成式AI崛起帶來高資安風險 保華資安專家提出應對策略

  •  2024-07-16

生成式AI崛起帶來高資安風險 保華資安專家提出應對策略 7

CNEWS匯流新聞網記者王佐銘/綜合報導

生成式人工智慧(Generative AI)以其強大能力,正在各行各業展現顛覆產業生態的潛力。預計不久的未來,愈來愈多的AI系統和機器人,將在感知、規劃、推理、學習、溝通、決策和行動方面愈來愈像人類,解決各類特定或不特定的任務。儘管其應用範圍廣泛,從內容生成、資訊攫取到自然語言聊天和程式碼生成,但這種高效率技術也伴隨著高風險。保華資安指出,生成式AI的應用迅速增長,將對個人和組織的安全構成重大挑戰。

為應對AI技術帶來的潛在風險,世界各先進國家正快速通過人工智慧相關法案,期望建立全面性的監管及指引,確保開發者遵循透明性、使用者中心、可控性和安全保護等原則,推動AI發展的同時,保障合法合規運作。

生成式AI崛起帶來高資安風險 保華資安專家提出應對策略 9

保華資安董事長陳英俊表示,生成式AI生成的內容可能包含錯誤和侵權資訊,對組織的法律和信譽造成損害。他強調,組織必須建立內部安全規範,尤其是在處理高敏感個人資料或機密資訊時,更需專責單位進行審核。保持警覺並確保生成式AI的合法合規應用,是組織避免潛在風險的重要措施。

生成式AI也成為犯罪分子的強力工具。經過充分訓練的AI模型具備對話、問題處理和程式碼開發等多樣化功能,使得駭客利用生成式AI製作惡意程式的門檻大幅降低。駭客可通過爬蟲技術大量蒐集組織的弱點資訊,並利用AI生成變化多端的惡意程式,以繞過防毒軟體的防護。另外,深偽技術的應用,更使得視訊詐騙更加猖獗。

保華資安副總林軒宇補充,資訊安全意識不足一直以來都是最大的安全漏洞。他指出,隨著生成式AI深入組織各功能領域,需提前識別各種資安風險,並採取相應的管理措施。

生成式AI崛起帶來高資安風險 保華資安專家提出應對策略 11

林軒宇表示,保華資安已經提前識別出12種不同的資安風險及400項的管理措施,並且建議各組織,透過縱深防禦、資安管理制度導入,搭配弱點掃描、滲透測試等資安檢測,進一步參考相關國際標準,如ISO 27001、NIST企業網路安全指引、機敏資料保護,以及零信任架構,將可能涉及敏感資料的資通設備,以EDR作為端點防禦的開始,搭配UTM、次世代防火牆等,靈活佈署邊界防禦,以微區隔作為基本概念,達成零信任ZTA。

最後,林軒宇指出,只有透過組織全面導入資安、智財及營業秘密管理機制的內外部議題鑑別,確認可能涉及的資料運用、分析、對當事人產生法律效力等適法性議題,加上以零信任為概念的技術檢較方案,不斷持續的循環改善,方可讓組織在未來的工業5.0、AI智慧化時代,安然度過駭客攻擊的危險。

照片來源:CNEWS匯流新聞網資料照、pixabay

《更多CNEWS匯流新聞網報導》

「霍爾的移動城堡」重返大銀幕!8/22暑假壓軸磅礡上映

大潤發「有GOLD好買」抽機票 KIRIN Bar BEER台灣特產罐全新登場

【文章轉載請註明出處】