回顧 AI 風潮:網路駭客使用生成式 AI 的最新發展

生成式 AI 遭不肖分子誤用及濫用的情況依然不斷,本文將深入討論最新的犯罪用大型語言模型 (LLM)、類 ChatGPT 犯罪服務,以及犯罪網站上提供的深偽 (deepfake) 服務。

主要重點

  • 駭客集團導入 AI 技術的速度似乎落後產業界,這跟網路犯罪手法不斷演變的特性有關。
  • 相較於去年,駭客集團似乎已放棄訓練任何真正犯罪用的大型語言模型 (LLM),反而是改挾持現成可用的 LLM。
  • 我們終於看到實際的深偽服務出現,有些還能騙過金融服務業的用戶驗證。
繼續閱讀

AI PC 時代,如何保護 AI 模型不被惡意篡改?

本文討論正確偵測並適當保護 AI 模型檔案及相關資產 (例如「標籤-labels」) 以防止遭到惡意篡改或非預期變更的重要性

AI PC 時代,如何保護 AI 模型不被惡意篡改?

AI 個人電腦 (PC) 是一種同時具備中央處理單元 (CPU)、繪圖處理單元 (GPU) 以及神經處理單元 (GPU) 的電腦,其中新增的 NPU 可提升 PC 的能力,讓 AI 應用程式高效率地在本地端執行,除了可以不須隨時連上網際網路之外,同時也避免掉雲端服務與雲端 AI 解決方案天生的隱私權疑慮。

本地端 AI 模型可以讓 AI 模型針對特定應用而客製化,並與工作流程整合。此外,本地端 AI 模型也讓網頁式或混合式應用程式能將一部份的運算保留在本機上執行。相較於完全仰賴線上或網頁式服務,這麼做可節省應用程式或服務供應商的儲存空間與運算成本。

AI 模型有多種不同格式,最流行的有:Open Neural Network Exchange (ONNX) 、PyTorch 、KerasTensorflow。本文主要討論 ONNX 格式,這是目前最常見的 AI 模型格式,因為它屬於開放標準,並且獲得了許多機構的支持,包括:Linux Foundation、Microsoft 以及多家主要 AI 廠商。正因為這樣,所以 ONNX AI 模型可直接在很多不同的軟體與硬體平台上使用。Microsoft 在最近剛結束的 Microsoft Build 研討會上一再提到了 ONNX,不意外地,未來 Copilot+ AI PC 搭載的 Phi-3-mini小型語言模型 (SLM) 也將採用  ONNX 格式

繼續閱讀

駭客濫用生成式AI助長社交工程攻擊並擴大攻擊面 企業資安防禦恐更艱辛

趨勢科技Risk to Resilience世界巡迴研討會探討AI世代的資安威脅與風險管理

【2024年7月16日,台北訊】勒索病毒進化、資料外洩問題、網路釣魚、商務電子郵件入侵(BEC)是現今企業正面臨的四大資安問題。隨著近年生成式AI技術發展快速,不僅企業開始或準備導入生成式AI技術以強化營運效率,生成式AI也成為駭客進行不法攻擊的幫手。企業除了須面對原本待解決的資安難題外,更陷入駭客社交工程攻擊手法更加快速演變及攻擊面不斷擴大的窘境。全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704)將於8月6、7、9日的Risk to Resilience「AI世代的資安風險管理」世界巡迴研討會中,說明新興資安威脅發展現況,以及企業IT及資安團隊如何在生成式AI席捲全球的狀態下善用平台化資安工具,發展客製化的風險管理策略以保持營運韌性。

報名參加2024 Risk to Resilience World Tour了解AI世代的資安風險管理:

繼續閱讀

「旅遊小幫手」?「存款大扒手」! FBI 警告:出國旅遊不要做的四件事

旅遊旺季到來,本文整理FBI 提出的四個旅遊相關的網路安全警告,給即將出遊的您,列入數位安全的備忘清單:

ㄧ.別安裝來路不明的 APP,當心「旅遊小幫手」變成「存款大扒手」 
二. 出國少用免費Wi-Fi
三. 別讓機場/飯店/購物中心公共 USB 充電座成為駭客取得你個資的進入點!
四.別見到QR Code 就掃,當心盜個資和偷存款的惡意軟體,跟著你入境

「旅遊小幫手」?「存款大扒手」! FBI 警告:出國旅遊不要做的四件事
FBI 警告:出國旅遊不要做的四件事
繼續閱讀

詐騙也搭AI 熱潮! 黃仁勳帶你飆股賺大錢?警方:小心投資有去無回!


AI 熱潮引來不法分子覬覦,詐騙集團盜用輝達(NVIDIA)執行長黃仁勳照片,在社群網站刊登詐騙廣告,當你點選「領取AI飆股」,網頁就會出現 QR Code 或是網路連結,接著就會被引導到詐騙集團所設的LINE群組,以各種話術誘騙有發財夢者進入「投資平台」進行投資,並下載所謂的投資 App 操作匯款。警方強調,這些平台全部都架設在海外,受騙者極有可能求償無門。

執法單位提醒,網路上出現的任何以黃仁勳名義發布的投資廣告都是詐騙,呼籲民眾切勿輕信,務必提高警覺。另外,根據新聞報導最近有三位家庭主婦深信 AI 為未來趨勢,依照詐騙者指示,先後透過面交及匯款方式共損失逾兩千萬元。直至發現無法提領所謂獲利,驚覺上當受騙已經為時已晚。

【投資詐騙:保證獲利?保證禍臨】

繼續閱讀