AI PC 時代,如何保護 AI 模型不被惡意篡改?

本文討論正確偵測並適當保護 AI 模型檔案及相關資產 (例如「標籤-labels」) 以防止遭到惡意篡改或非預期變更的重要性

AI PC 時代,如何保護 AI 模型不被惡意篡改?

AI 個人電腦 (PC) 是一種同時具備中央處理單元 (CPU)、繪圖處理單元 (GPU) 以及神經處理單元 (GPU) 的電腦,其中新增的 NPU 可提升 PC 的能力,讓 AI 應用程式高效率地在本地端執行,除了可以不須隨時連上網際網路之外,同時也避免掉雲端服務與雲端 AI 解決方案天生的隱私權疑慮。

本地端 AI 模型可以讓 AI 模型針對特定應用而客製化,並與工作流程整合。此外,本地端 AI 模型也讓網頁式或混合式應用程式能將一部份的運算保留在本機上執行。相較於完全仰賴線上或網頁式服務,這麼做可節省應用程式或服務供應商的儲存空間與運算成本。

AI 模型有多種不同格式,最流行的有:Open Neural Network Exchange (ONNX) 、PyTorch 、KerasTensorflow。本文主要討論 ONNX 格式,這是目前最常見的 AI 模型格式,因為它屬於開放標準,並且獲得了許多機構的支持,包括:Linux Foundation、Microsoft 以及多家主要 AI 廠商。正因為這樣,所以 ONNX AI 模型可直接在很多不同的軟體與硬體平台上使用。Microsoft 在最近剛結束的 Microsoft Build 研討會上一再提到了 ONNX,不意外地,未來 Copilot+ AI PC 搭載的 Phi-3-mini小型語言模型 (SLM) 也將採用  ONNX 格式

繼續閱讀

駭客濫用生成式AI助長社交工程攻擊並擴大攻擊面 企業資安防禦恐更艱辛

趨勢科技Risk to Resilience世界巡迴研討會探討AI世代的資安威脅與風險管理

【2024年7月16日,台北訊】勒索病毒進化、資料外洩問題、網路釣魚、商務電子郵件入侵(BEC)是現今企業正面臨的四大資安問題。隨著近年生成式AI技術發展快速,不僅企業開始或準備導入生成式AI技術以強化營運效率,生成式AI也成為駭客進行不法攻擊的幫手。企業除了須面對原本待解決的資安難題外,更陷入駭客社交工程攻擊手法更加快速演變及攻擊面不斷擴大的窘境。全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704)將於8月6、7、9日的Risk to Resilience「AI世代的資安風險管理」世界巡迴研討會中,說明新興資安威脅發展現況,以及企業IT及資安團隊如何在生成式AI席捲全球的狀態下善用平台化資安工具,發展客製化的風險管理策略以保持營運韌性。

報名參加2024 Risk to Resilience World Tour了解AI世代的資安風險管理:

繼續閱讀

《資安新聞周報》史上最大規模!近百億組密碼外洩/  Apple ID網路釣魚攻擊大規模出現/  macOS 版 ChatGPT 爆出隱私外漏危機 /臺美聯手合作,查獲透過暗網市集Genesis Market購買臺灣民眾個資的嫌犯  

本周資安新聞週報重點摘要,本文分享上週資安新聞及事件。你將會看到新聞的簡短摘要及原文連結來閱讀更詳細的見解。


資安趨勢部落格一週精選

媒體資安新聞一周精選

泰勒絲演唱會購票個資被駭 遭勒索百萬美元贖金          TVBS 新聞網

全球14.6億iPhone用戶注意!Apple ID網路釣魚攻擊大規模出現     自由時報

數百萬蘋果應用程式面臨安全漏洞威脅     科技島

macOS 版 ChatGPT 爆出隱私外漏危機 以明碼儲存用戶內容          網路資訊

最新AI詐騙手法偷臉又偷聲!吳淡如遭冒用「合成假廣告」          自由時報

防堵網路詐騙 Meta將優先移除高風險帳號、廣告 中央社

惡意程式FakeBat藉由偷渡式下載植入受害電腦     iThome


⟫延伸閱讀:認識「Drive by download」路過式下載


◎提醒您瀏覽網路時使用防護功能來封鎖有問題的網址,比如 PC-cillin雲端版保護你的裝置對抗偷渡式下載(drive-by download) ➔  免費下載試用

繼續閱讀

企業資安部落格文章精選(隨時更新)



Omdia 報告:趨勢科技揭露了 60% 的漏洞
據 Omdia 最新的「漏洞報告」(Vulnerability Report) 指出,趨勢科技 Zero Day Initiative™ (ZDI) 揭露了 2023 年 60% 的漏洞,突顯出 ZDI 在網路資安威脅防範方面所扮演的角色。


不單只是再度取得 100% 偵測率的成績:MITRE ENGENUITY ATT&CK
最新的 MITRE Engenuity ATT&CK Evaluations 模擬 menuPass 及 BlackCat/AlphV 駭客集團的攻擊手法測試了市場上主流的託管式偵測及回應 (MDR) 服務。趨勢科技在測試的所有 15 項主要攻擊步驟皆取得 100% 偵測率的成績,其中有 86% 的步驟更提供可化為行動的資訊,在威脅偵測與企業要務 (包括永續營運與減少中斷) 之間取得平衡。

深偽 (Deepfake)變臉影片與 AI 製造的假訊息將左右民調
便宜又容易取得的 AI ,將使得美國大選年的國家級和家庭式駭客攻擊,更難被偵測

為何一般駭客和國家級駭客,都把遭入侵的路由器當成網路攻防焦點?
本文希望點出對外連網路由器所面臨的危險,並詳細說明 Pawn Storm 如何攻擊 EdgeRouter 路由器的弱點,藉此對 FBI 在 2024 年 2 月 27 日發布的公告做一些補充。

資安新手也能輕鬆上手!縮減受攻擊面的三個實際案例
無法立即升級的老舊作業系統,該如何降低資安隱憂? 繞過資安部門的雲端服務採購,埋下的資安地雷,該如何拆除? 該如何與用戶溝通:沒出事不代表沒事! 本文以三個實際案例,提供具體的應對策略,協助您降低老舊作業系統的資安風險、避免雲端服務採購的資安地雷,並提升資安溝通的效力。



繼續閱讀

「旅遊小幫手」?「存款大扒手」! FBI 警告:出國旅遊不要做的四件事

旅遊旺季到來,本文整理FBI 提出的四個旅遊相關的網路安全警告,給即將出遊的您,列入數位安全的備忘清單:

ㄧ.出國少用免費Wi-Fi 
二. 別讓機場/飯店/購物中心公共充電座成為駭客取得你個資的進入點!
三. 別見到QR Code 就掃,當心盜個資和偷存款的惡意軟體,跟著你入境
四.別安裝來路不明的 APP,當心「旅遊小幫手」變成「存款大扒手」

「旅遊小幫手」?「存款大扒手」! FBI 警告:出國旅遊不要做的四件事
FBI 警告:出國旅遊不要做的四件事
繼續閱讀