趨勢科技研究發現：超過三分之二的人都擔心深偽 (Deepfake) 視訊換臉詐騙

深偽 (Deepfake)詐騙，也就是俗稱的 AI 視訊換臉/換聲，對網路資安與資訊交換帶來了嚴重的挑戰。趨勢科技近期在 2024 年 6 月下旬至 7 月中旬針對消費者對於深偽的認知、經驗及疑慮做了一份深入研究，披露了深偽對於網路資安以及社會大眾認知的廣泛影響。

認知與接觸情況

這份研究調查了美國與澳洲共 2,097 名受訪者，目的是要了解消費者對於深偽的認識、接觸情況以及疑慮。其中一項重要發現就是：受訪者對深偽有很高的認知，不過卻存在著明顯的世代差異。該研究特別篩選出熟知「Deepfake」一詞的受訪者，因此在年齡 55 和更老的族群當中，不合資格的比例偏高，尤其在澳洲。這突顯出加強特定對象的教育以消除數位素養落差的必要性。

受訪者接觸深偽的情況相當普遍，有 80% 的受訪者都曾遇到過深偽圖片，有 64% 曾看過深偽影片、48% 聽過深偽音訊。社群媒體平台是這類接觸的主要來源，突顯出深偽在數位世界極為普遍的現象。有趣的是，有很大部分受訪者表示他們有能力分辨深偽：57% 可分辨圖片、48% 可分辨影片、45% 可分辨音訊。這顯示人們對於這類被篡改內容的認知越來越高，至少在目前偽造品質還不佳的時候。

但事實上，隨著深偽技術的持續進步，人類肉眼已經越來越難可靠地分辨深偽，這正是為何趨勢科技最近會推出一個叫做「Deepfake Inspector」的「免費」工具來協助您即時確保視訊通話的安全。此外，也請參考我們的最佳實務原則來避免自己受到深偽的危害。

認知和疑慮

消費者對於深偽的觀感普遍不佳，該研究發現有 71% 的受訪者對深偽抱持著負面態度，人們大多會聯想到詐騙與假訊息。這種負面的觀感是導因於深偽被濫用在各種惡意用途，例如：冒用身分、詐騙、散播假訊息等等。

其中，深偽詐騙所帶來的疑慮特別高，有 64% 的受訪者對於自己可能遭遇深偽詐騙感到相當憂心。儘管受訪者與這類詐騙接觸的第一手 (36%) 和第二手 (41%) 經驗都相對不高，但這樣的焦慮卻普遍存在。「實際經驗」與「感到威脅」之間存在著落差，這顯示也許媒體報導與公開曝光的案例放大了人們對深偽詐騙的不安。

很重要值得一提的是，隨著深偽持續在網際網路上傳播，實際接觸的比例未來只會不斷增加。一項令人憂心的發展是：X (前 Twitter) 的 Grok AI 未來很快就會允許使用者製作未經審查的深偽內容，這會讓所有人都能免費製作假訊息。欲了解有關深偽威脅的更多資訊，請務必閱讀並盡量分享我們的「2024年最會演的AI！投資人、HR、愛情暈船者必須了解的三種 Deepfake深偽詐騙影片」(Deepfake Scams to Watch Out for in 2024) 一文。

驗證及採取行動

為因應深偽日益成長的威脅，消費者正採取各種方法來驗證數位內容的真實性。該研究發現有 61% 的受訪者會核對其他可信任來源以驗證內容是否為深偽。像這樣需仰賴外部驗證的情況，突顯出擁有可靠且容易取得的深偽偵測工具，對消費者來說至關重要。然而令人擔心的是：有五分之一的人認為自己「就是知道」如何分辨，儘管這樣的樂觀態度與實驗結果相違背。

除此之外，消費者也很希望能擁有一些主動式解決方案，讓他們在遇到深偽內容時能收到警告，並採取行動。根據該研究，有 62% 的受訪者希望在自己遇到 AI 修改過的內容時收到警告，另有 58% 希望能向執法機關或服務供應商檢舉深偽內容。這些結果都顯示了消費者的積極態度，他們很希望能保護自己與他人免於深偽的潛在危害。

行為分析與區域差異

該研究同時也探討了消費者對於警告通知與資安解決方案的偏好。結果發現，絕大多數受訪者都偏好每當他們遇到 AI 修改過的內容時都收到警告，這反映出人們對透明度與警戒心的要求。消費者非常重視的功能包括：攔截詐騙電話與文字簡訊、收到有關深偽內容的警告，還有能區分安全與詐騙的通訊。

雖然美國和澳洲的消費者有許多相似之處，但也存在著一些區域性差異。例如，美國的受訪者較偏好資安廠商與 ISP 提供的解決方案，但澳洲的受訪者則更看重社群媒體所提供的解決方案。這樣的差異突顯出，要解決不同的市場的深偽問題，需要量身打造的方案。

研究的意義與未來方向

這份研究發現對於政策制定者、科技公司及一般消費者都深具意義。消費者高度的疑慮，再加上接觸到深偽的情況相當普遍，我們除了需要更好的數位素養教育 (尤其是針對較年長的族群) 之外，同時也需要發展深偽偵測工具。

隨著深偽技術不斷進步，網路資安措施很重要的一點就是要跟上時代，藉由開發和建置強大的偵測和通知系統，就能讓消費者更安心且更安全地面對數位情勢的轉變。這份研究的結果同時也可作為科技業者與政策制定者的行動依據，優先開發解決方案來保護消費者以防範日益嚴重的深偽威脅。

原文出處：Trend’s Deepfake Study Finds over Two-Thirds Are Worried about Deepfake Scams