AI一鍵脫衣,假裸照真勒索!想體驗AI脫衣魔法?當心反被勒索病毒扒光錢包

想像一下您接到一通視訊電話,但卻發現它是網路駭客製作的深偽視訊,而且幾可亂真。這樣的情境再也不是科幻小說的場景,而是今日數位領域正在快速演進的真實威脅。早在2020 年BBC 報導在社群媒體上有超過10萬名女性的照片遭人「AI一鍵脫衣」製作造假裸照散佈網路,更令人憂心這些照片被用來從事色情勒索。今年九月韓國也爆發大規模AI假裸照危機,據華爾街日報指出,受害者包括教師、軍官、大學生和小學生。而日前宣稱只要提供一張任何人的照片,就能生成出裸照的工具,也遭駭客利用,誘使下載後,植入勒索病毒等惡意程式。

趨勢科技的最新研究指出,深偽 (deepfake) 技術越來越容易取得,而且網路犯罪地下市場上的 AI 工具也越來越精密。這樣的演變,衍生出更多 AI 遭大規模濫用的機會,甚至讓不具備技術能力的網路犯罪分子也能輕鬆駕馭 AI 。

深偽工具氾濫,犯罪門檻降低,任何人都可能是受害者

在過去,這類變造手法的主要目標通常是名人,但現在,任何人,甚至未成年人或未經同意的成年人都可能成為受害者,尤其在社群媒體的持續擴散下。事實上,美國聯邦調查局 (FBI) 已發出警告指出深偽被用於性愛勒索與恐嚇犯罪所帶來的風險。網路犯罪地下市場上許多新的深偽工具都宣稱可以完美製作極為逼真的偽造影片和圖片。包括:

  • DeepNude Pro:這是一項 AI 脫衣犯罪服務,宣稱只要提供一張任何人的照片,就能生成出該人沒穿衣服的裸照,可用來從事色情勒索。

  • Deepfake 3D Pro:可從受害者的照片取出臉部來產生全合成的 3D 虛擬角色,虛擬角色可透過程式控制來發表預錄或生成的談話,為了讓虛擬分身看起來更加逼真,它的眼睛還會經常看著不同的方向,就像真人在講話時一樣。騙過銀行的 KYC 真人認證,或用來假冒名人從事詐騙或撥打網路釣魚電話。
  • Deepfake AI:可讓駭客將受害者的臉部移花接木到不堪的影片上來破壞受害者的名聲或用來勒索,也可用來散播假新聞。只支援預錄的影片。
  • SwapFace:可讓駭客偽造即時串流影音來從事變臉詐騙 (BEC) 攻擊或其他企業詐騙。
  • VideoCallSpoofer:與 SwapFace 類似,可從圖片產生逼真的 3D 虛擬角色,並且讓角色即時模仿演員的臉部動作。這可以讓深偽用於視訊會議電話以及類似的詐騙、假新聞等等的騙局。

SwapFace 與 Avatar AI VideoCallSpoofer 兩者都具備了即時的視訊換臉功能。因此可用來從事深偽視訊電話詐騙,就像 2024 年 2 月發生的案例一樣,受害的金融機構員工因為被深偽視訊電話所騙而匯款了 2,500 萬美元給歹徒。

繼續閱讀

您該如何防範深偽(Deepfake)AI詐騙影片?

深偽技術(Deepfake) 詐騙影片是使用人工智慧 (AI) 來產生模仿人們講話或動作的超逼真影片或音訊,就如同他們真的說過那些話或真的做過那些事情一樣。深偽技術正被歹徒用來從事視訊電話詐騙,對一般個人和企業機構都構成了嚴重風險。

當您在進行視訊電話時,您如何知道對方是否為真人,還使用深偽技術做出來的冒牌貨?在一個充斥著深偽的世界,眼見不再為憑,所以,認識及對抗這類技術所帶來的風險,比以往更加重要。欲了解什麼是深偽,以及如何辨識,請參閱這篇「深偽的第一堂課」(Deepfake 101) 貼文。

繼續閱讀

「我不會聽錯自己孫子的哭聲。」當爸爸變成「老爸」,防詐騙之前先防孤單

曾幾何時那位離你最近的 ATM、那個冷笑話產生器、那個市面上沒有販售的尖叫遙控滅蟑神器,不管你稱呼他「阿爸」「多桑」「拔巴」或「爹地」,一瞬間變成了名符其實的「老爸」。現在換你對他說:「不要急,慢慢來」的人,除了防跌倒、防失智,更要防孤單,有個真實案例一位老爸心甘情願被詐騙的原因居然是: 「我好孤單」,因為騙子給了他兒子給不了陪伴。

以前被嫌棄打呼太大聲;現在常被確認是否還有呼吸

以前全家都聽我的;現在只有Siri,問再多遍,都不嫌煩

以前夏天吹電扇,開電視看棒球轉播;現在拿遙控器開冷氣,卻關掉了電視奧運轉播

繼續閱讀

AI 合成的泰勒絲要送粉絲鑄鐵鍋?!6 個值得注意的 AI 詐騙案例

去年,ChatGPT 捉弄了一名 IT 人員,讓該名人員以為 ChatGPT 是一位正在尋找助理工程師的人。AI 說:「不,我不是機器人,我是因為視力受損,所以才看不清楚影像。這就是為何我需要 2captcha 服務。」這名 IT 人員最後同意幫 AI 完成了 Captcha 驗證。OpenAI 表示這段互動證明了 AI 可能遭到濫用。

重點預覽

繼續閱讀

[警告] 三種運用 AI 技術的網路威脅和詐騙

自從ChatGPT在幾個月前推出以來,人工智慧的利與弊一直是網路上熱門的話題。趨勢科技新聞部落格也持續地在這話題上追蹤報導:從最近的ChatGPT資料外洩Snapchat的My AI,更不用說聊天機器人和人工智慧對教育帶來的影響了。本文整理概述四種AI威脅。

🔻本文預覽:

📌 一.AI 語音複製詐騙(Voice Cloning)
📌 二.假AI軟體/工具的網路釣魚廣告
📌 三.AI生成圖片詐騙

繼續閱讀