AI一鍵脫衣,假裸照真勒索!逾10萬假裸照散布社群網站, Deepfake 換臉工具氾濫,詐騙危機再升級

想像一下您接到一通視訊電話,但卻發現它是網路駭客製作的深偽視訊,而且幾可亂真。這樣的情境再也不是科幻小說的場景,而是今日數位領域正在快速演進的真實威脅。早在2020 年BBC 報導在社群媒體上有超過10萬名女性的照片遭人「AI一鍵脫衣」製作造假裸照散佈網路,更令人憂心這些照片被用來從事色情勒索。今年九月韓國也爆發大規模AI假裸照危機,據華爾街日報指出,受害者包括教師、軍官、大學生和小學生。而日前宣稱只要提供一張任何人的照片,就能生成出裸照的工具,也遭駭客利用,誘使下載後,植入勒索病毒等惡意程式。

趨勢科技的最新研究指出,深偽 (deepfake) 技術越來越容易取得,而且網路犯罪地下市場上的 AI 工具也越來越精密。這樣的演變,衍生出更多 AI 遭大規模濫用的機會,甚至讓不具備技術能力的網路犯罪分子也能輕鬆駕馭 AI 。

深偽工具氾濫,犯罪門檻降低,任何人都可能是受害者

在過去,這類變造手法的主要目標通常是名人,但現在,任何人,甚至未成年人或未經同意的成年人都可能成為受害者,尤其在社群媒體的持續擴散下。事實上,美國聯邦調查局 (FBI) 已發出警告指出深偽被用於性愛勒索與恐嚇犯罪所帶來的風險。網路犯罪地下市場上許多新的深偽工具都宣稱可以完美製作極為逼真的偽造影片和圖片。包括:

  • DeepNude Pro:這是一項 AI 脫衣犯罪服務,宣稱只要提供一張任何人的照片,就能生成出該人沒穿衣服的裸照,可用來從事色情勒索。

  • Deepfake 3D Pro:可從受害者的照片取出臉部來產生全合成的 3D 虛擬角色,虛擬角色可透過程式控制來發表預錄或生成的談話,為了讓虛擬分身看起來更加逼真,它的眼睛還會經常看著不同的方向,就像真人在講話時一樣。騙過銀行的 KYC 真人認證,或用來假冒名人從事詐騙或撥打網路釣魚電話。
  • Deepfake AI:可讓駭客將受害者的臉部移花接木到不堪的影片上來破壞受害者的名聲或用來勒索,也可用來散播假新聞。只支援預錄的影片。
  • SwapFace:可讓駭客偽造即時串流影音來從事變臉詐騙 (BEC) 攻擊或其他企業詐騙。
  • VideoCallSpoofer:與 SwapFace 類似,可從圖片產生逼真的 3D 虛擬角色,並且讓角色即時模仿演員的臉部動作。這可以讓深偽用於視訊會議電話以及類似的詐騙、假新聞等等的騙局。

SwapFace 與 Avatar AI VideoCallSpoofer 兩者都具備了即時的視訊換臉功能。因此可用來從事深偽視訊電話詐騙,就像 2024 年 2 月發生的案例一樣,受害的金融機構員工因為被深偽視訊電話所騙而匯款了 2,500 萬美元給歹徒。

根據TechNews 科技新報今年9 月報導韓國 N 號房再現!大量女性被 AI 換臉,波及 500 所學校、超過 22 萬人涉案,如同華爾街日報針對該事件的標題:「任何人都可能是受害者」。據報導,受害者包括教師、軍官、大學生和小學生。在未經當事人同意的情況下,有些韓國女孩和婦女的照片被製作成色情圖片和影片,並被數十萬人觀看。

好奇下載脫衣程式,當心被植入勒索病毒



駭客假借提供AI脫衣程式DeepNude Pro為誘餌,一安裝就被植入勒索病毒等惡意軟體

根據 IT Home 報導資安專家近日發出警告,提醒用戶駭客組織FIN7在今年7月設立了超過4,000個網域名稱和IP位址,其中包括7個以AI脫衣工具 DeepNude 為誘餌的釣魚網站,透過這些網站展示效果,目的在誘惑使用者下載「應用程式」,並植入惡意程式。

研究顯示,這些網站提供所謂的DeepNude生成服務,聲稱可免費下載或試用。然而,使用者一旦下載這些軟體,系統就會遭到駭客的入侵,進而竊取使用者的登入憑證和Cookie,甚至允許駭客遠端存取電腦,植入其他惡意程式或勒索軟體。

駭客採用了一系列高級技術來避免偵測,包括使用多重加密包裝工具,將惡意程式嵌入Pascal程式碼中,或利用Java啟動器隱藏和執行程式。用戶應提高警覺,切勿隨意下載來路不明的軟體,以免成為駭客攻擊的目標。

DeepNude Pro 在網路犯罪地下市場上的廣告宣稱,使用者只要輸入一張某人穿著衣服的照片,該軟體就能生成一張此人沒穿衣服的照片。使用者甚至可以選擇圖片中的身體特徵大小和形狀。


曾經因為好奇下載過來路不明的AI 脫衣程式嗎? 擔心裝置潛伏惡意程式?
趨勢科技PC-cillin雲端版 搭載深度學習AI引擎,不僅可以一次偵測多種病毒、網路威脅,還可即時封鎖異常行為,保護電腦和行動裝置安全,讓你免受變化莫測的詐騙手法之擾,安心享受網路生活。
⟫ 立即掃描

使用Deepfake Inspector 第一時間即時警告 AI 假造換臉視訊

深偽應用程式及服務越來越容易取得、安裝及執行,同時還出現了更多進階深偽功能。這意味著,深偽正慢慢從假新聞製造集團與國家級駭客集團手中下放到一般犯罪集團手上,應用在一些更普通的用途:詐騙和勒索。網路駭客現在比以往擁有更多選項,同時,潛在的受害族群也在不斷增加。

今日的使用者比以往更需要隨時保持警戒。隨著網路駭客濫用 AI 來捏造事實以取信於人,使用者對任何資訊都應徹底檢驗其真實性,尤其是網路上的資訊。除此之外,使用者也可使用Deepfake Inspector來防範視訊電話中的 AI 換臉詐騙。此工具可以掃描視訊內容是否有被 AI 修過的跡象,因為這很可能是深偽換臉詐騙的徵兆。使用者可在加入視訊電話時啟用這項工具,就可以在偵測到 AI 生成內容或深偽內容時收到警告。

⭕️ 訂閱資安趨勢電子報,各種實用數位祕技讓你數位生活更便利;隨時掌握資安警訊讓你安先悠遊網路

✅防毒防詐✅守護帳密✅VPN安心串流✅阻絕惡意✅安心蝦拚
PC-cillin 讓你的『指指點點』可以開心又安心點!

【一下指就掉入詐騙陷阱?PC-cillin讓你安心點 】PC-cillin不只防毒也防詐騙 ✓手機✓電腦✓平板,跨平台防護3到位➔ 》即刻免費下載試用

FB IG Youtube LINE 官網

閱讀完整報告「飆升的熱潮:生成式 AI 日益遭到濫用的最新情況」 (Surging Hype: An Update on the Rising Abuse of GenAI)

◎原文參考來源:https://www.trendmicro.com/en_us/research/24/g/ai-deepfake-cybercrime.html