AI PC 時代,如何保護 AI 模型不被惡意篡改?

本文討論正確偵測並適當保護 AI 模型檔案及相關資產 (例如「標籤-labels」) 以防止遭到惡意篡改或非預期變更的重要性

AI PC 時代,如何保護 AI 模型不被惡意篡改?

AI 個人電腦 (PC) 是一種同時具備中央處理單元 (CPU)、繪圖處理單元 (GPU) 以及神經處理單元 (GPU) 的電腦,其中新增的 NPU 可提升 PC 的能力,讓 AI 應用程式高效率地在本地端執行,除了可以不須隨時連上網際網路之外,同時也避免掉雲端服務與雲端 AI 解決方案天生的隱私權疑慮。

本地端 AI 模型可以讓 AI 模型針對特定應用而客製化,並與工作流程整合。此外,本地端 AI 模型也讓網頁式或混合式應用程式能將一部份的運算保留在本機上執行。相較於完全仰賴線上或網頁式服務,這麼做可節省應用程式或服務供應商的儲存空間與運算成本。

AI 模型有多種不同格式,最流行的有:Open Neural Network Exchange (ONNX) 、PyTorch 、KerasTensorflow。本文主要討論 ONNX 格式,這是目前最常見的 AI 模型格式,因為它屬於開放標準,並且獲得了許多機構的支持,包括:Linux Foundation、Microsoft 以及多家主要 AI 廠商。正因為這樣,所以 ONNX AI 模型可直接在很多不同的軟體與硬體平台上使用。Microsoft 在最近剛結束的 Microsoft Build 研討會上一再提到了 ONNX,不意外地,未來 Copilot+ AI PC 搭載的 Phi-3-mini小型語言模型 (SLM) 也將採用  ONNX 格式

繼續閱讀

趨勢科技發表世界首款專為消費性AI PC設計的資安解決方案

創新功能「AI應用程式防護」、「NPU驅動的電子郵件防護」於COMPUTEX 2024展示

【2024年6月6日,台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704) 正式於COMPUTEX展示第一款專為防範AI PC時代新興威脅的消費性資安解決方案,並計劃於2024下半年推出上市。

【圖說一】趨勢科技於COMPUTEX展示首款專為防範AI PC時代新興威脅的消費性資安解決方案。

趨勢科技將創新擴大至與英特爾的合作,隨著持續聚焦AI及其他新興技術,與業界同儕的合作更顯重要。趨勢科技營運長(COO)Kevin Simzer表示:「我們不僅將AI技術運用在資安防護中,更努力守護AI應用本身的安全。AI時代的價值終將取決於AI的安全性,從企業到一般消費者皆不例外。現今仍有許多廠商尚未發展相關方案,而趨勢科技領先業界讓企業與消費性資安發展齊頭並進。」

繼續閱讀

AI PC時代來臨!仍有超過半數人擔憂AI資安問題

趨勢科技提醒AI App及AI惡意內容防護為AI資安防護要點 預計2024下半年推出消費性方案

【2024年5月23日,台北訊】生成式AI的應用與 AI PC 持續成長,全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704)今天公布消費性防護產品的未來規劃。為因應AI所帶來的機會與風險,趨勢科技將規劃策略以協助消費者安全地擁抱生成式AI以及相關應用,降低消費者使用AI或因AI遭到濫用而蒙受損害的風險。此外,趨勢科技也將針對自家防護產品及服務持續研發並利用AI創新,提升資安防護成效和效率。

儘管AI能為消費者帶來美好的未來,卻也助長駭客的詐騙成功率,比方說,利用AI讓網路釣魚郵件或深偽(Deepfake)影片更難分辨真偽。根據趨勢科技近期的一份研究調查註一,有近72%的受訪者表示他們對於AI能幫助提升工作品質並帶來更多嶄新機會而感到期待,但也有近65%的受訪者擔心AI可能散播錯誤資訊,另有58%對於AI將可能濫用圖片與肖像而感到憂心。不僅如此,AI應用程式本身也可能存在著漏洞,在缺乏適當的防護下,消費者很可能在不知情的狀況下被誤導或不經意地洩露個人隱私資訊。

👉 趨勢科技在Computex 展出多項 AI資安相關技術 – Connecting AI Security, 6/4~6/7

⟫了解更多

繼續閱讀