揭發 AI 代理的漏洞 (5-3):資料外傳

在本系列的第三篇文章,我們將示範多模態 AI 代理如何使得風險加劇,一些看似無害的圖片或文件當中暗藏的指令如何在沒有使用者互動的情況下觸發機敏資料外傳。

AI 代理有可能變成網路攻擊的入口嗎?駭客可能挾持可執行程式碼的大型語言模型 (LLM) 來執行有害指令嗎?Microsoft Office 文件中暗藏的指令有可能騙過 AI 代理,讓 AI 代理洩漏敏感的資料嗎?駭客有多容易篡改資料庫查詢敘述來取得管制的資訊?

這些都是 AI 代理今日面臨的一些根本挑戰。本系列文章討論 AI 代理的重大漏洞,深入揭發看似聰明的回應底下所潛藏的威脅。下載研究報告

繼續閱讀

揭發 AI 代理的漏洞(5-1)

本文是一系列探討 AI 代理(AI Agent)漏洞的第一篇文章,除了點出一些關鍵的資安風險 (如:提示注入與程式碼執行) 之外,也預告一些後續文章即將深入討論的問題,例如:程式碼執行漏洞、資料外傳,以及資料庫存取威脅。

大型語言模型 (LLM) 服務有可能變成網路攻擊的閘道口嗎?可執行程式碼的 LLM 有可能被挾持用來執行有害指令嗎?Microsoft Office 文件中暗藏的指令能不能騙過 AI 代理(AI Agent),讓 AI 代理洩漏敏感的資料?駭客有多容易篡改資料庫查詢敘述來取得管制的資訊?

這些都是 AI 代理今日面臨的一些基本資安問題。本系列文章將探討 AI 代理在看似聰明的回應底下所潛藏的重大漏洞,深入揭發一些迫切需要關注的隱藏威脅。

繼續閱讀

全球四分之三的資安事件因未受管理資產所引起

【2025年6月3日,台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704)發布一份最新研究註一指出,從認知到攻擊面風險、到採用專業工具來管理這項風險,兩者之間存在著令人擔憂的落差。

閱讀這份趨勢科技最新研究

一份針對全球2,000多名網路資安領導人的研究指出,有73%的企業曾因為不明或未受管理的資產而發生資安事件。隨著生成式AI的大量出現及其伴隨而來更高的複雜性,加上辦公室和員工家中使用的IoT裝置數量不斷成長,這類未受管理的資產數量也正快速增加。

結果就是,有91%的受訪者承認攻擊面管理與其公司的業務風險有直接或部分的關聯。另有一大部分受訪者認知到無法管理暴露在外的資產可能帶來的風險除了立即的資安威脅之外,還可能嚴重危及:

繼續閱讀

網路犯罪迎來三大變革 代理式AI成資安關鍵

​

【2025年4月14日,台北訊】生成式AI快速發展,企業導入相關工具以提升營運效率,犯罪組織也透過其輔助編寫惡意軟體,使犯罪工具更易於使用、演變威脅手法。全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704)指出,當前的網路犯罪態勢從「網路犯罪即服務(Cybercrime as a Service)」演進到以AI代理為基礎的「網路犯罪即代理(Cybercrime as a Servant)」,網路犯罪迎來重大變革,未來將出現全新的犯罪商業模式。趨勢科技呼籲企業應隨時關注資安態勢發展,了解當今駭客常用攻擊手法,並利用整合性資安工具如:Trend Vision One™做好網路資安曝險管理,透過生成式AI和自建的大型語言模型,讓IT團隊更精準地預測整體攻擊面的風險,主動防範來自端點、雲端、網路、電子郵件、身分、AI以及資料等各方威脅。

趨勢科技將於4月15日到17日期間於台灣資安大會中展出AI賦能資安管理平台Trend Vision One™,同時也將於現場演講議程中分享當今網路犯罪中的威脅態勢及主動式資安曝險策略等資訊,協助企業強化資安佈局。看更多關於趨勢科技在台灣資安大會的分享內容

繼續閱讀

2025 NVIDIA GTC大會- 趨勢科技分享「AI解鎖:安全創新時代的基礎」

眾所矚目的2025年NVIDIA GTC大會上週於美國舉行,趨勢科技於此大會中亦以「AI 解鎖:安全創新時代的基礎」為題,由趨勢科技資安技術專家岳鵬遠以影片呈現精采分享,揭示AI時代的資安態勢。

本次演講提出全球企業對 AI應用策略思考與未來趨勢的前瞻性觀點,深入探討現今 AI 時代下的資安挑戰以及企業如何應用創新技術確保營運安全性,對於關心科技與資安議題的企業讀者而言是極具價值的內容,也希望透過此機會與您分享。

面對 AI 變革,趨勢科技提出三大洞察,助力企業游刃有餘的實現AI資安創新

繼續閱讀