「深偽」(Deepfake) 一詞是深度學習 (deep learning) 與偽造 (fake) 的合體，由 Reddit 的一名使用者在 2017 年所創。深偽可以是一個模仿某人外貌或聲音的偽造照片、影片或錄音，其目的是要用於欺騙或娛樂大眾。在先進的機器學習加持下，深偽有時非常逼真。過去，深偽主要是在社群媒體上作為娛樂用途，但其濫用的潛力很快就被人發現。現在，深偽已成為隱私、安全及資訊傳播的一大威脅。趨勢科技在 2024 年 6 月做了一份研究指出，有 71% 的人對於深偽抱持負面的看法，相信任人們製作深偽的首要原因就是為了詐騙1。
深偽是如何製作的？
製作深偽需要用到一種叫做「生成對抗網路」(Generative Adversarial Network，簡稱 GAN) 的高階電腦程式來製作逼真的影像。主要分成四大步驟：
- 資料蒐集：首先必須蒐集目標對象的媒體內容 (照片、影片或錄音)，這些蒐集到的資料是用來訓練電腦程式。
- 訓練模型：使用蒐集來的資料訓練 GAN 模型，GAN 有一部分會製造假的影像，另一部分則負責檢查影像是否夠逼真。
- 校正：利用人臉關鍵點 (facial landmark) 與動作捕捉 (motion capture) 這類的技巧來讓深偽的表情和動作看起來更加自然逼真。
- 製作最終內容：接著再將製作出來的深偽內容與原始媒體結合，製作出一種流暢而令人信服的偽造內容。
上述流程也許聽起來有點複雜，但事實上，任何人都能製作深偽內容，因為網路上已經有大量公開的軟體應用程式可用，從 DeepFaceLab、DALL-E 到 Midjourney 等等 (儘管後者內建了安全機制)。
深偽有何影響？
人們很容易認為網路資安是個抽象的概念，離日常生活非常遙遠，然而不肖的深偽內容卻可能影響一般個人和整個社會：
- 個人隱私：
深偽的內容可能侵犯個人隱私，因為它們通常未經允許或者可能造成傷害，尤其最令人擔憂的是深偽色情內容，這些內容通常是在未經許可的情況下將某人的臉孔移花接木到色情內容的主角上。
- 人身安全與財產：
歹徒可能利用深偽影片來假冒某人撥打視訊電話，從中騙取錢財或敏感資訊。任何人都可能遭遇深偽詐騙，並遭受嚴重打擊，例如金融詐騙與身分冒用。
- 影響政局穩定：
深偽可被當成武器來製造政治動亂，偽造政治人物在影片中發表煽動的言論或從事非法活動，藉此影響大眾觀感，進而干擾民主程序。
- 法律與道德的疑慮：
製造和散播深偽在法律和道德上都會引發嚴重問題。是否經過同意、智慧財產，以及肖像權等等，都是社會爭論的焦點。
- 媒體可信度：
記者與媒體機構面臨了檢驗內容真實性的全新挑戰，深偽可能破壞媒體機構的可信度，並使得假新聞滿天飛。
深偽的威脅與後果
深偽對網路資安帶來了各種威脅：
- 假冒身分與視訊電話詐騙：
網路駭客可能在視訊電話當中利用深偽來假冒某人，不論對象是朋友、家人、可能的合作夥伴，或是線上面試工作，視訊電話都提供了詐騙集團發動深偽攻擊的絕佳機會，藉著冒充您通話的對象來騙取您的錢財或個人資訊。
- 假訊息或錯誤資訊：
深偽可用於製作非常逼真的虛假內容，進而散播各種假訊息或錯誤訊息。這有可能破壞大眾對媒體的信任、影響選舉、製造社會的不穩定。
- 冒用身分：
深偽可讓歹徒冒用他人身分，製作逼真的假身分或破壞既有身分，造成財務或名譽損失。
- 威脅和勒索：
歹徒可能製作深偽影片來威脅或勒索某人，利用假證據來發揮影響力。
- 侵蝕人們的信任：
深偽的存在會侵蝕人們對數位內容的信任，人們開始懷疑合法媒體的真實性，甚至導致更大的數位通訊信任危機。
如需 2024 年最應注意的深偽詐騙深度解析，請參閱「2024 年最應注意的深偽詐騙」(Top Deepfake Scams to Watch Out for in 2024) [請插入連結]。
六招辨別深偽影
隨著科技的進步，深偽已經越來越難辨別。不論您是在線上觀看影片、收聽錄音，或者進行視訊電話，請相信自己的直覺，並留意以下幾個徵兆：
1.不自然的臉部動作：
深偽有時會發生臉部表情與動作不自然的情況，例如不自然的眨眼、嘴唇跟聲音對不上、或是臉部奇怪抽動的情況。
2.光影不一致：
留意畫面中的光影，如果臉上的光影方向與畫面上其他地方不一致，那有可能就是深偽。
3.聲音問題：
留意聲調上的突然轉變、不自然的停頓，或是語調和講話者正常的說話方式不同。突兀的背景雜訊或背景聲音突然改變，也可能是深偽的徵兆。
4.模糊：
深偽的臉部邊緣經常有輕微的模糊現象，尤其是在動作很快的時候。
5.影音不同步：
仔細留意聲音與影像對不上的情況，嘴唇的動作與聲音對不上，是深偽經常出現的問題。
6.不合常理：
如果內容似乎不符某人的性格，或者不合乎常理，那有可能就是深偽。例如，若您熟悉的某人突然對您提出緊急又不尋常的請求，例如跟您借錢或索取個資，並且給您一股莫名壓力好像得立即提供才行，這就是一個警訊。
只要留意這些徵兆，就能幫助您辨別深偽，若要更有效防範深偽的威脅，可參閱「您該如何防範深偽：祕訣與最佳實務 (How to Protect Yourself from Deepfakes: Tips and Best Practices)。然而，事實上，隨著深偽技術的不斷進步，人們真的越來越難單靠肉眼就能有效分辨深偽。
「免費」工具： Trend Micro Deepfake Inspector 即時掃描 AI 換臉內容，在您可能遇到深偽詐騙時發出警告
深偽視訊電話正在崛起，使得您很難分辨跟您通話的對象到底是不是您以為的那個人。日常生活中，您有許多機會跟朋友、家人、潛在合作對象進行視訊聊天，或者在線上面試工作，詐騙集團可能利用這些機會來假冒您通話的對象，誘騙您提供錢財或敏感資訊。
您可使用我們的「免費」工具：Trend Micro Deepfake Inspector 來保護自己。這是針對 Windows PC 上撥打的視訊電話所設計，可即時掃描 AI 換臉內容，在您可能遇到深偽詐騙時發出警告，進而保護您的安全。進一步了解 Deepfake Inspector 以及它如何協助您辨別是否有人使用 AI 在視訊電話中改變自己的容貌。
千萬別冒著被深偽所騙的風險，現在就立即下載 Trend Micro Deepfake Inspector！
原文來源：Deepfakes 101: What are Deepfakes and How to Spot Them
1 .趨勢科技現況研究，「消費者與深偽」(Consumers and Deepfakes)，執行期間：2024 年 6 月至 7 月，地點：美國與澳洲，樣本母體 N=2097。