網路駭客濫用生成式 AI (GenAI) 的情況正在急速攀升，就在我們介紹了 Gen AI 如何被用於網路犯罪的短短幾個禮拜之後，隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake（深偽技術），不僅數量更多、範圍也更廣。
網路駭客濫用生成式 AI (GenAI) 的狀況正在急速攀升，就在我們介紹了 Gen AI 如何被用於網路犯罪的短短幾個禮拜之後，隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake（深偽技術）視訊詐騙，不僅數量更多、範圍也更廣。
以下是有關這項議題的最新發展。
繼續閱讀曾幾何時那位離你最近的 ATM、那個冷笑話產生器、那個市面上沒有販售的尖叫遙控滅蟑神器,不管你稱呼他「阿爸」「多桑」「拔巴」或「爹地」,一瞬間變成了名符其實的「老爸」。現在換你對他說：「不要急，慢慢來」的人，除了防跌倒、防失智，更要防孤單，有個真實案例一位老爸心甘情願被詐騙的原因居然是: 「我好孤單」，因為騙子給了他兒子給不了陪伴。
以前被嫌棄打呼太大聲;現在常被確認是否還有呼吸
以前全家都聽我的;現在只有Siri，問再多遍，都不嫌煩
以前夏天吹電扇，開電視看棒球轉播;現在拿遙控器開冷氣，卻關掉了電視奧運轉播
繼續閱讀【2024年8月5日，台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704) 發表企業資安平台與消費性網路資安產品中的創新功能，防範快速成長的AI攻擊與深偽(Deepfakes)詐騙，以保護所有網路環境。
趨勢科技研究報告指出，駭客正搭上AI應用爆炸性成長的熱潮，導致網路犯罪地下市場的AI犯罪工具暴增。這些工具不僅越來越便宜且更容易取得，使得任何技術能力的駭客都能更輕易地發動大規模攻擊，藉由欺騙受害者來從事勒索、身分冒用、詐騙以及散播假訊息。
趨勢科技營運長Kevin Simzer表示：「如同過去其他新興威脅與IT情勢的轉變一樣，我們早已預見並克服AI的資安挑戰。我們的最新研究披露了多項新的深偽工具，這些工具讓任何具備技術能力的網路駭客都能輕而易舉地從事詐騙取財、發動社交工程攻擊，以及避開資安防護。我們領先業界率先推出可偵測深偽與其他型態的AI詐騙的最新技術來保護我們的企業與消費性客戶。」
偵測與打擊這些AI犯罪手法是企業改善攻擊面風險管理以及降低消費者整體網路風險的核心。根據趨勢科技最近一項調查，71%的消費者對深偽抱持著負面觀感，並相信深偽的最大用途之一就是詐騙。
即將在Trend Vision One™平台全新推出的深偽偵測技術，運用多種進階方法來偵測AI生成內容。除了影像雜訊分析與色彩偵測等技術，Vision One平台還會分析使用者的行為元素來執行更強大的深偽偵測及攔截方法。在偵測的當下，趨勢科技便會立即通知企業資安團隊，讓他們有機會學習及獲得更新，並採取主動措施來防範未來的攻擊。
此外，該功能即日起也將經由Trend Micro Deepfake Inspector註一 提供給一般消費者使用，可協助確認即時視訊會議當中是否有人正在使用深偽技術，並提醒使用者其目前談話的對象可能有人是假的。
進一步了解並下載 Trend Micro Deepfake Inspector
繼續閱讀您是不是也曾經在滑社群媒體時無意間看到令人驚豔的 AI 內容？AI 正悄悄地開始隨處出現在我們的日常生活當中。現在有一個名叫「Character AI」的平台，由 Noam Shazeer 和 Daniel De Freitas 在 2021 年所創立，它正透過活生生的 AI 人物，革命性改變數位互動的方式。那麼，什麼是 Character AI？Character AI 安全嗎？想知道答案就請繼續往下閱讀。
大家都聽過 AI，但什麼是「Character AI」呢？Character AI 是一種人工智慧的聊天機器人平台，讓使用者可以創建並與各種虛擬角色互動。這些角色可以是真實的人、虛構的人物，甚至是完全原創的形象。你可以和這些角色聊天、討論各種話題，甚至發展出獨特的關係。簡單來說，Character AI 就是讓您擁有屬於自己的虛擬好友，一個跟您聊天並回答您問題的對象，甚至幫您生成一些故事和對話之類的內容。您與科技的互動將更上層樓，您的裝置不止變得更酷，而且幾乎就像個數位隨從一般。
繼續閱讀人工智慧 (AI)、機器學習 (ML)、大型語言模型 (LLM) 以及高效能運算 (HPC) 技術的日益普及，使得繪圖處理器 (GPU) 的安全越來越需要獲得重視
人工智慧 (AI)、機器學習 (ML)、大型語言模型 (LLM) 以及高效能運算 (HPC) 等技術的日益普及，使得繪圖處理器 (GPU) 的安全越來越需要獲得重視。GPU 是專為平行運算而設計，可同時執行數以千計的簡單運算工作，它能加快 AI、ML、LLM 及 HPC 應用程式的運行。有鑑於 GPU 在各種商業應用上扮演的關鍵角色，例如 AI、ML、LLM 及 HPC 即仰賴雲端 GPU 系統來運作，企業有必要為 GPU 設置一些專門的防護措施。
我們的研究報告「雲端 GPU 威脅以及它對 AI、HPC 與雲端運算的衝擊調查」(A Survey of Cloud-Based GPU Threats and Their Impact on AI, HPC and Cloud Computing) 深入探討了當前 GPU 面臨的威脅環境，並提出一些資安建議來解決這些資安挑戰。
隨著近年生成式AI技術發展，AI也成為駭客進行不法攻擊的幫手。企業須面對原本待解決的資安難題外，更陷入駭客社交工程攻擊手法更加快速及攻擊面不斷擴大的窘境。
趨勢科技將於Risk to Resilience「AI世代的資安風險管理」世界巡迴研討會中，說明新興風險管理策略以保持營運韌性。
➤ 把握最後席次，即刻報名 2024 Risk to Resilience World Tour
https://trend-tw.com/WorldTour2024_ownmedia/line0724-2/blog82658