揭發 AI 代理的漏洞 (5-4):資料庫存取漏洞

駭客如何攻擊具備資料庫存取能力的 AI 代理?本文探討駭客如何利用 SQL 生成漏洞、預先儲存的提示注入,以及向量儲存下毒等手法來從事詐騙活動。

大型語言模型 (LLM) 服務有可能變成網路攻擊的入口嗎?可執行程式碼的 LLM 有可能被挾持用來執行有害指令嗎?Microsoft Office 文件中暗藏的指令能不能騙過 LLM,讓它洩漏敏感的資料?駭客有多容易篡改資料庫查詢敘述來取得管制的資訊?

這些都是 LLM 服務今日面臨的一些基本問題。本系列文章討論 LLM 服務的重大漏洞,深入揭發其看似聰明的回應底下所潛藏的威脅。

下載研究報告

Technical Brief
繼續閱讀

揭發 AI 代理的漏洞 (5-3):資料外傳

在本系列的第三篇文章,我們將示範多模態 AI 代理如何使得風險加劇,一些看似無害的圖片或文件當中暗藏的指令如何在沒有使用者互動的情況下觸發機敏資料外傳。

AI 代理有可能變成網路攻擊的入口嗎?駭客可能挾持可執行程式碼的大型語言模型 (LLM) 來執行有害指令嗎?Microsoft Office 文件中暗藏的指令有可能騙過 AI 代理,讓 AI 代理洩漏敏感的資料嗎?駭客有多容易篡改資料庫查詢敘述來取得管制的資訊?

這些都是 AI 代理今日面臨的一些根本挑戰。本系列文章討論 AI 代理的重大漏洞,深入揭發看似聰明的回應底下所潛藏的威脅。下載研究報告

繼續閱讀

2025 NVIDIA GTC大會- 趨勢科技分享「AI解鎖:安全創新時代的基礎」

眾所矚目的2025年NVIDIA GTC大會上週於美國舉行,趨勢科技於此大會中亦以AI 解鎖:安全創新時代的基礎」為題,由趨勢科技資安技術專家岳鵬遠以影片呈現精采分享,揭示AI時代的資安態勢。

本次演講提出全球企業對 AI應用策略思考與未來趨勢的前瞻性觀點,深入探討現今 AI 時代下的資安挑戰以及企業如何應用創新技術確保營運安全性,對於關心科技與資安議題的企業讀者而言是極具價值的內容,也希望透過此機會與您分享。

面對 AI 變革,趨勢科技提出三大洞察,助力企業游刃有餘的實現AI資安創新

繼續閱讀

犯罪分子擁抱AI:LLM 與 Deepfake 成雙面刃

網路駭客濫用生成式 AI (GenAI) 的情況正在急速攀升,就在我們介紹了 Gen AI 如何被用於網路犯罪的短短幾個禮拜之後,隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake(深偽技術),不僅數量更多、範圍也更廣。

網路駭客濫用生成式 AI (GenAI) 的狀況正在急速攀升,就在我們介紹了  Gen AI 如何被用於網路犯罪的短短幾個禮拜之後,隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake(深偽技術)視訊詐騙,不僅數量更多、範圍也更廣。

以下是有關這項議題的最新發展。

繼續閱讀

回顧 AI 風潮:網路駭客使用生成式 AI 的最新發展

生成式 AI 遭不肖分子誤用及濫用的情況依然不斷,本文將深入討論最新的犯罪用大型語言模型 (LLM)、類 ChatGPT 犯罪服務,以及犯罪網站上提供的深偽 (deepfake) 服務。

主要重點

  • 駭客集團導入 AI 技術的速度似乎落後產業界,這跟網路犯罪手法不斷演變的特性有關。
  • 相較於去年,駭客集團似乎已放棄訓練任何真正犯罪用的大型語言模型 (LLM),反而是改挾持現成可用的 LLM。
  • 我們終於看到實際的深偽服務出現,有些還能騙過金融服務業的用戶驗證。
繼續閱讀