AI換臉真假難辨?六招辨別深偽(Deepfake)詐騙影片

「深偽」(Deepfake) 一詞是深度學習 (deep learning) 與偽造 (fake) 的合體,由 Reddit 的一名使用者在 2017 年所創。深偽可以是一個模仿某人外貌或聲音的偽造照片、影片或錄音,其目的是要用於欺騙或娛樂大眾。在先進的機器學習加持下,深偽有時非常逼真。過去,深偽主要是在社群媒體上作為娛樂用途,但其濫用的潛力很快就被人發現。現在,深偽已成為隱私、安全及資訊傳播的一大威脅。趨勢科技在 2024 年 6 月做了一份研究指出,有 71% 的人對於深偽抱持負面的看法,相信任人們製作深偽的首要原因就是為了詐騙1


深偽是如何製作的?


製作深偽需要用到一種叫做「生成對抗網路」(Generative Adversarial Network,簡稱 GAN) 的高階電腦程式來製作逼真的影像。主要分成四大步驟:

繼續閱讀

趨勢科技推深偽偵測方案 助企業與消費者防範AI視訊詐騙

全新功能守護業務韌性與廣泛的AI應用

【2024年8月5日,台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704) 發表企業資安平台與消費性網路資安產品中的創新功能,防範快速成長的AI攻擊與深偽(Deepfakes)詐騙,以保護所有網路環境。

請點選以下連結觀賞趨勢科技深偽偵測功能展示

趨勢科技研究報告指出,駭客正搭上AI應用爆炸性成長的熱潮,導致網路犯罪地下市場的AI犯罪工具暴增。這些工具不僅越來越便宜且更容易取得,使得任何技術能力的駭客都能更輕易地發動大規模攻擊,藉由欺騙受害者來從事勒索、身分冒用、詐騙以及散播假訊息。

趨勢科技營運長Kevin Simzer表示:「如同過去其他新興威脅與IT情勢的轉變一樣,我們早已預見並克服AI的資安挑戰。我們的最新研究披露了多項新的深偽工具,這些工具讓任何具備技術能力的網路駭客都能輕而易舉地從事詐騙取財、發動社交工程攻擊,以及避開資安防護。我們領先業界率先推出可偵測深偽與其他型態的AI詐騙的最新技術來保護我們的企業與消費性客戶。」

偵測與打擊這些AI犯罪手法是企業改善攻擊面風險管理以及降低消費者整體網路風險的核心。根據趨勢科技最近一項調查,71%的消費者對深偽抱持著負面觀感,並相信深偽的最大用途之一就是詐騙。

即將在Trend Vision One™平台全新推出的深偽偵測技術,運用多種進階方法來偵測AI生成內容。除了影像雜訊分析與色彩偵測等技術,Vision One平台還會分析使用者的行為元素來執行更強大的深偽偵測及攔截方法。在偵測的當下,趨勢科技便會立即通知企業資安團隊,讓他們有機會學習及獲得更新,並採取主動措施來防範未來的攻擊。

此外,該功能即日起也將經由Trend Micro Deepfake Inspector註一 提供給一般消費者使用,可協助確認即時視訊會議當中是否有人正在使用深偽技術,並提醒使用者其目前談話的對象可能有人是假的。

進一步了解並下載 Trend Micro Deepfake Inspector

繼續閱讀