什麼是 Deepfake(深偽)?為什麼你我都可能成為受害者? 辨識深偽視訊詐騙電話的五個祕訣

深偽(Deepfake)是近年最受注目的 AI 資安議題。
隨著生成式 AI 技術快速普及,詐騙集團利用 Deepfake 模仿聲音、臉部、甚至整段視訊,讓你在通話時無法立即分辨真假。
許多人搜尋深偽相關資訊時最常問:

  • Deepfake 真的能偽裝成「你認識的人」嗎?
  • 視訊電話詐騙怎麼用 AI 假冒?
  • 有什麼 AI 工具能幫我辨識深偽?
  • 我怎麼知道對方是不是在用換臉詐騙?

本篇,幫你一次看懂深偽詐騙,並學會如何用 AI 工具提升安全。

⟫ 看答案

深偽(Deepfake)指透過生成式 AI 變造的 聲音、影像或文字,讓內容看起來與真實無異。

AI 模型能:

  • 複製某人的聲音
  • 套用某人的臉
  • 模仿說話方式
  • 生成看似真實的視訊

這代表,只要詐騙集團取得你的照片、影片或錄音,就能假扮你或你身邊的人。

深偽一詞是「深度偽造」(Deepfake) 的簡稱,涵蓋了所有經過生成式 AI (GenAI) 變造的聲音、視覺或文字內容。會被網路犯罪集團用來獲取財務利益、欺騙與操縱他人。

深偽技術(Deepfake) 詐騙影片是使用人工智慧 (AI) 來產生模仿人們講話或動作的超逼真影片或音訊,就如同他們真的說過那些話或真的做過那些事情一樣。深偽技術正被歹徒用來從事視訊電話詐騙,對一般個人和企業機構都構成了嚴重風險。

當您在進行視訊電話時,您如何知道對方是否為真人,還使用深偽技術做出來的冒牌貨?在一個充斥著深偽的世界,眼見不再為憑,所以,認識及對抗這類技術所帶來的風險,比以往更加重要。欲了解什麼是深偽,以及如何辨識,請參閱這篇「深偽Deepfak是什麼?」(Deepfake 101) 貼文。

繼續閱讀

最會演的AI!投資人、HR、愛情暈船者必須了解的三種 Deepfake深偽詐騙影片

提供個人資料。如有任何疑慮,請立即撥打 165 反詐騙專線查證,並主動向平台檢舉,協助促使詐騙內容下架。

Deepfake(深偽技術)詐騙影片、AI 換臉、AI 模仿聲音… 怎麼感覺現在好像再也沒有什麼可以相信的了?在人工智慧 (AI) 的加持下,深偽技術正在迅速發展,這使得真實與虛假的界線越來越模糊。請繼續往下閱讀來了解您 應注意的幾種深偽詐騙。



駭客集團會利用深偽來假冒名人、公眾人物或企業高階主管來從事各種不法活動,造成各種嚴重後果,包括財務損失、名譽損失等等。例如,在 AI 的推波助瀾下,性愛勒索變得比以往更加猖獗。深偽技術讓歹徒更容易利用被害者在社群媒體上發布的照片和影片偽造出不雅的內容,藉此勒索或騷擾被害者,為此,美國聯邦調查局 (FBI) 已提出警告。

繼續閱讀

犯罪分子擁抱AI:LLM 與 Deepfake 成雙面刃

網路駭客濫用生成式 AI (GenAI) 的情況正在急速攀升,就在我們介紹了 Gen AI 如何被用於網路犯罪的短短幾個禮拜之後,隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake(深偽技術),不僅數量更多、範圍也更廣。

網路駭客濫用生成式 AI (GenAI) 的狀況正在急速攀升,就在我們介紹了  Gen AI 如何被用於網路犯罪的短短幾個禮拜之後,隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake(深偽技術)視訊詐騙,不僅數量更多、範圍也更廣。

以下是有關這項議題的最新發展。

繼續閱讀

「我不會聽錯自己孫子的哭聲。」當爸爸變成「老爸」,防詐騙之前先防孤單

曾幾何時那位離你最近的 ATM、那個冷笑話產生器、那個市面上沒有販售的尖叫遙控滅蟑神器,不管你稱呼他「阿爸」「多桑」「拔巴」或「爹地」,一瞬間變成了名符其實的「老爸」。現在換你對他說:「不要急,慢慢來」的人,除了防跌倒、防失智,更要防孤單,有個真實案例一位老爸心甘情願被詐騙的原因居然是: 「我好孤單」,因為騙子給了他兒子給不了陪伴。

以前被嫌棄打呼太大聲;現在常被確認是否還有呼吸

以前全家都聽我的;現在只有Siri,問再多遍,都不嫌煩

以前夏天吹電扇,開電視看棒球轉播;現在拿遙控器開冷氣,卻關掉了電視奧運轉播

繼續閱讀

趨勢科技推深偽偵測方案 助企業與消費者防範AI視訊詐騙

全新功能守護業務韌性與廣泛的AI應用

【2024年8月5日,台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼:4704) 發表企業資安平台與消費性網路資安產品中的創新功能,防範快速成長的AI攻擊與深偽(Deepfakes)詐騙,以保護所有網路環境。

請點選以下連結觀賞趨勢科技深偽偵測功能展示

趨勢科技研究報告指出,駭客正搭上AI應用爆炸性成長的熱潮,導致網路犯罪地下市場的AI犯罪工具暴增。這些工具不僅越來越便宜且更容易取得,使得任何技術能力的駭客都能更輕易地發動大規模攻擊,藉由欺騙受害者來從事勒索、身分冒用、詐騙以及散播假訊息。

趨勢科技營運長Kevin Simzer表示:「如同過去其他新興威脅與IT情勢的轉變一樣,我們早已預見並克服AI的資安挑戰。我們的最新研究披露了多項新的深偽工具,這些工具讓任何具備技術能力的網路駭客都能輕而易舉地從事詐騙取財、發動社交工程攻擊,以及避開資安防護。我們領先業界率先推出可偵測深偽與其他型態的AI詐騙的最新技術來保護我們的企業與消費性客戶。」

偵測與打擊這些AI犯罪手法是企業改善攻擊面風險管理以及降低消費者整體網路風險的核心。根據趨勢科技最近一項調查,71%的消費者對深偽抱持著負面觀感,並相信深偽的最大用途之一就是詐騙。

即將在Trend Vision One™平台全新推出的深偽偵測技術,運用多種進階方法來偵測AI生成內容。除了影像雜訊分析與色彩偵測等技術,Vision One平台還會分析使用者的行為元素來執行更強大的深偽偵測及攔截方法。在偵測的當下,趨勢科技便會立即通知企業資安團隊,讓他們有機會學習及獲得更新,並採取主動措施來防範未來的攻擊。

此外,該功能即日起也將經由Trend Micro Deepfake Inspector註一 提供給一般消費者使用,可協助確認即時視訊會議當中是否有人正在使用深偽技術,並提醒使用者其目前談話的對象可能有人是假的。

進一步了解並下載 Trend Micro Deepfake Inspector

繼續閱讀