AI PC 時代,如何保護 AI 模型不被惡意篡改?

本文討論正確偵測並適當保護 AI 模型檔案及相關資產 (例如「標籤-labels」) 以防止遭到惡意篡改或非預期變更的重要性

AI PC 時代,如何保護 AI 模型不被惡意篡改?

AI 個人電腦 (PC) 是一種同時具備中央處理單元 (CPU)、繪圖處理單元 (GPU) 以及神經處理單元 (GPU) 的電腦,其中新增的 NPU 可提升 PC 的能力,讓 AI 應用程式高效率地在本地端執行,除了可以不須隨時連上網際網路之外,同時也避免掉雲端服務與雲端 AI 解決方案天生的隱私權疑慮。

本地端 AI 模型可以讓 AI 模型針對特定應用而客製化,並與工作流程整合。此外,本地端 AI 模型也讓網頁式或混合式應用程式能將一部份的運算保留在本機上執行。相較於完全仰賴線上或網頁式服務,這麼做可節省應用程式或服務供應商的儲存空間與運算成本。

AI 模型有多種不同格式,最流行的有:Open Neural Network Exchange (ONNX) 、PyTorch 、KerasTensorflow。本文主要討論 ONNX 格式,這是目前最常見的 AI 模型格式,因為它屬於開放標準,並且獲得了許多機構的支持,包括:Linux Foundation、Microsoft 以及多家主要 AI 廠商。正因為這樣,所以 ONNX AI 模型可直接在很多不同的軟體與硬體平台上使用。Microsoft 在最近剛結束的 Microsoft Build 研討會上一再提到了 ONNX,不意外地,未來 Copilot+ AI PC 搭載的 Phi-3-mini小型語言模型 (SLM) 也將採用  ONNX 格式

繼續閱讀

駭客濫用生成式AI助長社交工程攻擊並擴大攻擊面 企業資安防禦恐更艱辛

趨勢科技Risk to Resilience世界巡迴研討會探討AI世代的資安威脅與風險管理

【2024年7月16日,台北訊】勒索病毒進化、資料外洩問題、網路釣魚、商務電子郵件入侵(BEC)是現今企業正面臨的四大資安問題。隨著近年生成式AI技術發展快速,不僅企業開始或準備導入生成式AI技術以強化營運效率,生成式AI也成為駭客進行不法攻擊的幫手。企業除了須面對原本待解決的資安難題外,更陷入駭客社交工程攻擊手法更加快速演變及攻擊面不斷擴大的窘境。全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704)將於8月6、7、9日的Risk to Resilience「AI世代的資安風險管理」世界巡迴研討會中,說明新興資安威脅發展現況,以及企業IT及資安團隊如何在生成式AI席捲全球的狀態下善用平台化資安工具,發展客製化的風險管理策略以保持營運韌性。

報名參加2024 Risk to Resilience World Tour了解AI世代的資安風險管理:

繼續閱讀

趨勢科技發表世界首款專為消費性AI PC設計的資安解決方案

創新功能「AI應用程式防護」、「NPU驅動的電子郵件防護」於COMPUTEX 2024展示

【2024年6月6日,台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704) 正式於COMPUTEX展示第一款專為防範AI PC時代新興威脅的消費性資安解決方案,並計劃於2024下半年推出上市。

【圖說一】趨勢科技於COMPUTEX展示首款專為防範AI PC時代新興威脅的消費性資安解決方案。

趨勢科技將創新擴大至與英特爾的合作,隨著持續聚焦AI及其他新興技術,與業界同儕的合作更顯重要。趨勢科技營運長(COO)Kevin Simzer表示:「我們不僅將AI技術運用在資安防護中,更努力守護AI應用本身的安全。AI時代的價值終將取決於AI的安全性,從企業到一般消費者皆不例外。現今仍有許多廠商尚未發展相關方案,而趨勢科技領先業界讓企業與消費性資安發展齊頭並進。」

繼續閱讀

你我都可能成為像素裡的人質!揭開 AI 名人換臉術與「AI 皮條客」的新型犯罪

Deepfake 罪犯眼中的「頂級獵物」不只是A咖 名人,當心公開影像被製作成AI深偽色情進行勒索

圖片來源:iStock

在這個AI技術爆炸性發展的時代,你很可能已經遇過這種驚心動魄的場景:當你悠閒地滑著社群媒體或漫遊於網際網路時,螢幕上突然跳出一段令人瞠目結舌的影片—赫然是那位你崇拜已久的巨星,正陷入一個尷尬至極的處境!

更令人咋舌的是,下一秒,你看到的可能是同一位名人,神采奕奕地代言著某款新產品,或是熱情洋溢地邀請你加入一個”千載難逢”的投資良機。影片中的一舉一動、一顰一笑,無不栩栩如生,彷彿那位偶像就在眼前,直接與你對話。

然而,當驚訝退去,理智漸漸回籠時,你內心泛起一絲異樣的感覺—這影片雖然真實得可怕,卻又微妙地透露出某種說不出的違和感。在AI主宰的數位叢林中,你正面臨著一個棘手的難題:眼見不一定為真,真相往往隱藏於細微之處。

什麼是 AI 名人深偽與 AI 色情 ?



那個令你目瞪口呆的場景嗎?那正是 AI 名人深偽(AI Celebrity Deepfakes)與 AI 色情(AI Porn)肆虐的寫照,一個充滿危機與隱憂的數位新世界。隨著 AI 深偽技術(Deepfake)的驚人進步,創作者們如今已能打造出逼真到匪夷所思的假影片和假照片。其中最令人不安的手法,就是將某人的「臉」巧妙地嫁接到另一人的「身體」上,彷彿那個人真的在做某件事,但實際上一切都是虛幻的幻象。

這項技術模糊了現實與虛構的界線,讓人難辨真偽。深偽技術初衷是為了娛樂,如製作電影特效,但如今已淪為不法之徒的工具。受害者遍及各階層,從光鮮亮麗的明星、呼風喚雨的企業執行長,到天真無邪的兒童,再到芸芸眾生的普通女性,所有人都可能成為這場數位暴力中的犧牲品,被強迫成為色情內容的主角。

繼續閱讀