Deepfake（深偽技術）詐騙影片、AI 換臉、AI 模仿聲音… 怎麼感覺現在好像再也沒有什麼可以相信的了？在人工智慧 (AI) 的加持下，深偽技術正在迅速發展，這使得真實與虛假的界線越來越模糊。請繼續往下閱讀來了解您 2024 年最應注意的幾種深偽詐騙。
駭客集團會利用深偽來假冒名人、公眾人物或企業高階主管來從事各種不法活動，造成各種嚴重後果，包括財務損失、名譽損失等等。例如，在 AI 的推波助瀾下，性愛勒索變得比以往更加猖獗。深偽技術讓歹徒更容易利用被害者在社群媒體上發布的照片和影片偽造出不雅的內容，藉此勒索或騷擾被害者，為此，美國聯邦調查局 (FBI) 已提出警告。
你今天好嗎？還再說「累得跟狗一樣嗎？」，兩個跟狗狗有關的日子就要到來：「826國際狗狗日(International Dog Day)」和「99台灣狗狗節」，本文用幾張狗狗迷因梗圖，看看到底你比較累還是狗狗比較累？出差時想念家中的萌寵時，你會跟狗狗視訊嗎？但你確定他認得出你嗎？（最後一張梗圖告訴你答案 (¬‿¬) ）。
提到視訊，不得不提到近日升溫的AI詐騙案例，「新北多位里長遭AI換臉合成不雅片勒索，險害家庭革命」、「劉德華現身視訊？粉絲傻傻信，慘遭詐騙264萬」、「數百名AI生成的馬斯克分身用Deepfake換臉詐騙影片，讓退休老人被騙超過千萬！」，你我都可能成為下個受害者，該如何自我保護？
「深偽」(Deepfake) 一詞是深度學習 (deep learning) 與偽造 (fake) 的合體，由 Reddit 的一名使用者在 2017 年所創。深偽可以是一個模仿某人外貌或聲音的偽造照片、影片或錄音，其目的是要用於欺騙或娛樂大眾。在先進的機器學習加持下，深偽有時非常逼真。過去，深偽主要是在社群媒體上作為娛樂用途，但其濫用的潛力很快就被人發現。現在，深偽已成為隱私、安全及資訊傳播的一大威脅。趨勢科技在 2024 年 6 月做了一份研究指出，有 71% 的人對於深偽抱持負面的看法，相信任人們製作深偽的首要原因就是為了詐騙1。
製作深偽需要用到一種叫做「生成對抗網路」(Generative Adversarial Network，簡稱 GAN) 的高階電腦程式來製作逼真的影像。主要分成四大步驟：
【2024年8月5日，台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704) 發表企業資安平台與消費性網路資安產品中的創新功能，防範快速成長的AI攻擊與深偽(Deepfakes)詐騙，以保護所有網路環境。
趨勢科技研究報告指出，駭客正搭上AI應用爆炸性成長的熱潮，導致網路犯罪地下市場的AI犯罪工具暴增。這些工具不僅越來越便宜且更容易取得，使得任何技術能力的駭客都能更輕易地發動大規模攻擊，藉由欺騙受害者來從事勒索、身分冒用、詐騙以及散播假訊息。
趨勢科技營運長Kevin Simzer表示：「如同過去其他新興威脅與IT情勢的轉變一樣，我們早已預見並克服AI的資安挑戰。我們的最新研究披露了多項新的深偽工具，這些工具讓任何具備技術能力的網路駭客都能輕而易舉地從事詐騙取財、發動社交工程攻擊，以及避開資安防護。我們領先業界率先推出可偵測深偽與其他型態的AI詐騙的最新技術來保護我們的企業與消費性客戶。」
偵測與打擊這些AI犯罪手法是企業改善攻擊面風險管理以及降低消費者整體網路風險的核心。根據趨勢科技最近一項調查，71%的消費者對深偽抱持著負面觀感，並相信深偽的最大用途之一就是詐騙。
即將在Trend Vision One™平台全新推出的深偽偵測技術，運用多種進階方法來偵測AI生成內容。除了影像雜訊分析與色彩偵測等技術，Vision One平台還會分析使用者的行為元素來執行更強大的深偽偵測及攔截方法。在偵測的當下，趨勢科技便會立即通知企業資安團隊，讓他們有機會學習及獲得更新，並採取主動措施來防範未來的攻擊。
此外，該功能即日起也將經由Trend Micro Deepfake Inspector註一 提供給一般消費者使用，可協助確認即時視訊會議當中是否有人正在使用深偽技術，並提醒使用者其目前談話的對象可能有人是假的。
進一步了解並下載 Trend Micro Deepfake Inspector
繼續閱讀
圖片來源：iStock
在這個AI技術爆炸性發展的時代，你很可能已經遇過這種驚心動魄的場景：當你悠閒地滑著社群媒體或漫遊於網際網路時，螢幕上突然跳出一段令人瞠目結舌的影片—赫然是那位你崇拜已久的巨星，正陷入一個尷尬至極的處境！
更令人咋舌的是，下一秒，你看到的可能是同一位名人，神采奕奕地代言著某款新產品，或是熱情洋溢地邀請你加入一個”千載難逢”的投資良機。影片中的一舉一動、一顰一笑，無不栩栩如生，彷彿那位偶像就在眼前，直接與你對話。
然而，當驚訝退去，理智漸漸回籠時，你內心泛起一絲異樣的感覺—這影片雖然真實得可怕，卻又微妙地透露出某種說不出的違和感。在AI主宰的數位叢林中，你正面臨著一個棘手的難題：眼見不一定為真，真相往往隱藏於細微之處。
那個令你目瞪口呆的場景嗎？那正是 AI 名人深偽（AI Celebrity Deepfakes）與 AI 色情（AI Porn）肆虐的寫照，一個充滿危機與隱憂的數位新世界。隨著 AI 深偽技術（Deepfake）的驚人進步，創作者們如今已能打造出逼真到匪夷所思的假影片和假照片。其中最令人不安的手法，就是將某人的「臉」巧妙地嫁接到另一人的「身體」上，彷彿那個人真的在做某件事，但實際上一切都是虛幻的幻象。
這項技術模糊了現實與虛構的界線，讓人難辨真偽。深偽技術初衷是為了娛樂，如製作電影特效，但如今已淪為不法之徒的工具。受害者遍及各階層，從光鮮亮麗的明星、呼風喚雨的企業執行長，到天真無邪的兒童，再到芸芸眾生的普通女性，所有人都可能成為這場數位暴力中的犧牲品，被強迫成為色情內容的主角。
繼續閱讀