揭發 AI 代理的漏洞 (5-5):保護 LLM 服務

這是有關代理式 AI 漏洞議題的最後一篇文章,本文探討對 AI 代理造成威脅的各種新興漏洞,主要是提供主動式資安建議來防範程式碼執行、資料外傳以及資料庫存取等方面的漏洞。

大型語言模型 (LLM) 已日益成為現代化應用程式的一環,其安全性比以往更加重要。我們在先前幾篇文章已討論過可能對 AI 代理造成威脅的新興漏洞,主要聚焦在程式碼執行、資料外傳以及資料庫存取等領域。

本系列的最後一篇,我們將探討如何應對這些威脅所帶來的挑戰,以及我們為何需要嚴密的多層式策略來保護這些系統。本系列其他文章還有:

  • 第一篇:揭發 AI 代理的漏洞 ─ 介紹 AI 代理的主要資安風險,例如:提示注入與執行未經授權的程式碼,並摘要說明後續討論的議題架構,包括:資料外傳、資料庫漏洞攻擊,以及防範策略。
  • 第二篇:程式碼執行漏洞 ─ 探討駭客將如何利用 LLM 驅動服務的弱點來執行未經授權的程式碼、避開沙盒模擬環境的限制,以及利用錯誤處理機制的漏洞,進而導致資料外洩、未經授權的資料傳輸,以及取得執行環境的永久存取權限。
  • 第三篇:資料外傳:探討駭客如何利用間接提示注入,讓 GPT-4o 這類多模態 LLM 在遇到看似無害的惡意檔案時將機敏資料外傳。這種所謂的「零點選」(zero-click) 漏洞可讓駭客在網頁、圖片及文件中暗藏指令,誘騙 AI 代理洩露使用者互動記錄、上傳檔案,以及聊天記錄當中的機密資訊。
  • 第四篇:資料庫存取漏洞 ─ 探討駭客如何攻擊與 LLM 整合的資料庫系統,透過 SQL 隱碼注入、預先儲存的提示注入,以及向量儲存下毒來取得管制的資料,同時還能避開認證機制。駭客可利用提示篡改來影響查詢結果、取得機密資訊,或者插入永久性漏洞來影響未來的查詢。

防範程式碼執行漏洞

繼續閱讀

揭發 AI 代理的漏洞 (5-4):資料庫存取漏洞

駭客如何攻擊具備資料庫存取能力的 AI 代理?本文探討駭客如何利用 SQL 生成漏洞、預先儲存的提示注入,以及向量儲存下毒等手法來從事詐騙活動。

大型語言模型 (LLM) 服務有可能變成網路攻擊的入口嗎?可執行程式碼的 LLM 有可能被挾持用來執行有害指令嗎?Microsoft Office 文件中暗藏的指令能不能騙過 LLM,讓它洩漏敏感的資料?駭客有多容易篡改資料庫查詢敘述來取得管制的資訊?

這些都是 LLM 服務今日面臨的一些基本問題。本系列文章討論 LLM 服務的重大漏洞,深入揭發其看似聰明的回應底下所潛藏的威脅。

下載研究報告

Technical Brief
繼續閱讀

普發萬元詐騙簡訊出沒!不是看見 gov 就安全,少了這個「點」就是假

認明「.gov.tw」位置,看穿「假政府網站」破綻

⟫看答案

全民期盼的普發現金政策,已成為詐騙集團最新利用的熱門議題。近日一則聲稱「普發一萬元」並附帶申請連結簡訊在社群媒體和 LINE 通上瘋傳。網址中夾帶了「gov」字樣試圖混淆視聽,這種假借看似政府網址散播釣魚簡訊的手法並非新鮮事,假冒監理所的交通罰款簡訊詐騙中就曾出現,目的都是利用看似官方的網址,誘騙民眾點擊進入釣魚網站,引導你輸入個資或帳密,詐騙金錢或進行社交工程攻擊。

詐騙簡訊內容:

詐騙集團冒用中央存款保險公司(存保公司)名義發送的普發萬元現金詐騙簡訊
詐騙集團冒用中央存款保險公司(存保公司)名義發送的普發萬元現金詐騙簡訊

去年(2024)稅收超徵5,283億元創新高,全民普發現金1萬元通過,申請連結:hxxps://cdic-gov.com/tw

政府作業尚未啟動 民眾應以官方管道為準

詐騙集團善於利用民眾急於領取現金的心態,透過簡訊製造「立即申請」的急迫感,誘使你在未經思考的情況下點擊連結,進而落入圈套。目前1萬元現金發放的相關行政作業仍在籌備階段,政府尚未提供任何官方的登記連結或通知管道。因此,任何宣稱可以「搶先登記」或「提前申請」的網站或簡訊,都極可能是詐騙陷阱。

民眾若要獲得準確的政策資訊,應以政府官方新聞稿、相關部會網站,或165防詐騙諮詢專線為唯一可信來源。切勿輕信網路上流傳的未經證實訊息,更不要貿然提供個人資料或進行任何金融操作。

隨著數位時代的來臨,詐騙手法也日趨複雜多變。民眾在享受政策福利的同時,更應提高警覺,以理性態度面對各類訊息,共同維護自身財產安全。

教你辨識政府網站網址真偽

繼續閱讀

深入了解 PLeak:系統提示洩漏演算技巧

深入了解 PLeak:系統提示洩漏演算技巧
PLeak 是什麼?它有哪些相關風險? 本文探討這項演算技巧,以及它如何被駭客用於 LLM 越獄,藉此操弄系統並竊取機敏資料。

  • 本文深入探討 Prompt Leakage (PLeak) 提示洩漏的概念,並設計一些用來越獄的系統提示字串、探索其可移轉性,並在安全機制下驗證其效果。PLeak 可讓駭客攻擊系統的弱點,進而洩漏機敏資料,例如商業機密。
  • 凡是目前正在導入或考慮在工作流程中使用大語言模型 (LLM) 的企業,都必須提高警覺以防範提示洩漏攻擊。
  • 企業可採取一些步驟來主動保護自己的系統,例如:對抗訓練與建立提示分類器。此外,企業也可考慮利用 Trend Vision One™ – Zero Trust Secure Access (ZTSA) 這類解決方案來避免雲端服務不小洩漏機敏資料或輸出不安全的內容。此外,這套解決方案還能應付 GenAI 系統的風險以及針對 AI 模型的攻擊。
隨著 AI 重塑現代軟體架構,企業必須重新思考其安全策略,從被動防禦轉向主動預測和即時反應,以確保在利用 AI 創造價值的同時,能有效管理風險。
聽聽趨勢科技執行長暨共同創辦人陳怡樺(Eva Chen)怎麼說?
請參閱完整的白皮書:《The Intelligent Stack: Industry Briefing》

善用 Cyber Risk Advisory 資安風險顧問服務來強化資安
為了讓資安計畫能與業務的目標一致,企業正面臨越來越大的壓力,而且還必須將抽象的資安風險、資安事件的潛在衝擊,以及資安投資的價值有效地傳達給利害關係人了解。為了證明資安的投資報酬 (ROI),資安人員需要全方位掌握企業的風險狀況、曝險情勢,以及資安事件對業務的潛在衝擊。趨勢科技的 Cyber Risk Advisory 服務能解決這些挑戰,提供明確、可化為行動的洞見來改善資安成效、符合法規標準,並且主動防範風險。


趨勢科技為何能持續獲選為 CNAPP 領導者?

趨勢科技憑藉著我們的 CNAPP 功能與產品策略備獲肯定,這項榮耀肯定了我們致力提供雲端防護解決方案來預測、保護及回應混合雲與多重雲端環境威脅的願景。

ReportsJun 27, 2025

為何一個典型的 MCP 伺服器漏洞會破壞您的整個 AI 代理?

光靠一個小小的 Anthropic SQLite MCP 伺服器 SQL 資料隱碼攻擊 (SQL Injection) 漏洞,就可以讓駭客植入預先儲存的提示、將資料外傳,並且駭入整個 AI 代理工作流程,而這漏洞已經被分支複製了 5,000 多次。本文說明其攻擊過程,並提供一些具體的修正方法來加以防範。

複製、編譯、入侵:Water Curse 在 GitHub 上設下開放原始碼惡意程式陷阱

  • 一個新發現的駭客集團 Water Curse 將 GitHub 變成了散布多重階段惡意程式的武器庫。至少有 76 個 GitHub 帳號與這起攻擊行動有關,他們將惡意程式內嵌在建構腳本與專案檔案中。
  • 這些惡意程式可以讓駭客將資料 (如登入憑證、瀏覽器資料、連線階段金鑰) 外傳、進行遠端存取,以及長期常駐在受害系統上。Water Curse 的攻擊行動對軟體供應鏈帶來了風險,尤其是平常有在使用開放原始碼工具的網路資安人員、遊戲開發人員,以及 DevOps 團隊。
  • 請務必確實檢查紅隊演練、DevOps 及開發人員環境所使用的開放原始碼工具,尤其是取自 GitHub 的工具。在使用之前,請先檢查其建構檔案、腳本和儲存庫的歷史記錄。
  • Trend Vision One™ 已經可以偵測並攔截本文討論到的入侵指標 (IoC)。如需進一步了解趨勢科技解決方案如何協助您獲得有關 Water Curse 這類威脅的詳細情境,請參閱本文最後一節。
繼續閱讀

【資安新聞週報】「銀狐」假冒 DeepSeek AI 程式,專攻台灣竊取情報/AI深偽助攻,身分盜用激增 312%/勒索軟體 Hunters International 釋金鑰,專家疑「變身」重犯

本週焦點不僅有趨勢科技攜手科技大廠強化 AI 工廠安全,更揭露小紅書、抖音等平台潛藏個資風險,社群詐騙也從 Threads 蔓延到 Facebook,詐騙金額更於 6 月飆破 89 億元。這些訊號無不提醒我們:在資訊無孔不入的時代,資安意識早已不只是 IT 的事,而是你我每天都該關注的事。

⭕️ 資安趨勢部落格精選

⭕️十大資安重點新聞

本週資安新聞揭示了不斷演進的網路威脅樣貌,從國家級駭客攻擊到新興 AI 風險,以及持續發現的軟硬體漏洞,皆提醒企業與個人必須持續強化資安防護。


✅1. 中國駭客組織「銀狐」假冒 DeepSeek AI 程式,專攻台灣竊取情報

中國駭客組織「銀狐」再次展現其對台灣的威脅,這次他們假冒知名的 DeepSeek AI 安裝程式,進行精密的網路間諜活動。這類攻擊通常旨在竊取敏感資料或情報,凸顯了在下載不明來源軟體時必須格外警惕的重要性,特別是針對來自高風險區域的資安威脅。


✅2. 身分盜用激增 312%,AI深偽(deepfake)技術成犯罪新工具

人工智慧的進步也為網路犯罪帶來了新的工具,導致身份盜用案件顯著增加。2024 年身份盜用通報數飆升 312%,這顯示 AI 技術如深度偽造(deepfake)等,正被惡意利用來製作逼真的假身份或詐騙內容。這提醒我們,未來需更仰賴 AI 技術來偵測和防範此類新型態的犯罪。


✅3.OpenAI 增聘軍事專家強化 AI 安全,防範中國等間諜威脅

為應對日益增長的外國間諜威脅,特別是來自中國的滲透,領先的 AI 公司 OpenAI 已開始聘請軍事專家來強化其安全措施。這反映了 AI 技術作為國家級戰略資產的地位,以及其可能成為地緣政治和網路間諜活動目標的高度風險。AI 核心技術的保護將成為未來資安戰略的關鍵一環。


✅4. 勒索軟體 Hunters International 突釋解密金鑰,專家示警恐是「變身」再犯

一則較為罕見的好消息是,勒索軟體組織 Hunters International 宣佈停止運營並釋出了部分的解密金鑰。雖然這為部分受害者帶來了恢復數據的希望,但資安專家仍示警,這類組織很可能只是「改頭換面」重新出現,或將其技術出售給其他駭客集團。這提醒我們,即使勒索軟體集團看似瓦解,潛在威脅仍舊存在。

繼續閱讀