藝人王仁甫揭露了詐騙集團利用AI聲紋辨識系統進行詐騙的案例。他的女兒接到假借市場調查的電話，收集了她的聲紋。隨後，王仁甫的老婆季芹接到詐騙電話，內容竟是女兒的聲音，要求匯款。這種利用AI變聲技術進行詐騙的手法，讓王仁甫直呼「很恐怖」，並已報警處理。此事件提醒民眾，對於陌生來電應提高警覺，切勿輕易透露個人資訊，以防受騙。
☞ 延伸閱讀：兒子來電聲稱手機壞掉,要重新加LINE?七旬老翁急匯款 38 萬,險遭AI詐騙
網路釣魚手法不斷推陳出新，從過去的釣魚信件、釣魚簡訊，到如今 AI 加持的「分聲詐騙」和「分身詐騙」，網路釣魚手法已經變得更為精密且難以辨識。現在詐騙集團不僅能模仿家人朋友的聲音，甚至能打造一模一樣的影像來假扮親近的人，讓受害者防不勝防。無論是哪一種犯罪手法，其目的都在誘騙人們提供敏感資料 (如密碼或信用卡資料)、點選惡意連結，或下載危險檔案。歹徒會冒充一些值得信任的對象，例如：銀行、政府機關、知名企業，或是您的家人和朋友，然後誘騙受害者做出一些損害其隱私或安全的行為。
近期出現了一種新型態的詐騙手法。駭客利用 AI 技術，結合電話和釣魚郵件，誘騙用戶交出帳戶備用碼，這種新型詐騙通常從一通假冒 Google 官方人員的電話開始，聲稱用戶的 Gmail 帳戶出現異常活動。接著，用戶會收到一封看似來自 Google 的電子郵件，要求提供帳戶備用碼，以恢復帳戶。一旦用戶交出備用碼，駭客就能完全掌控其 Gmail 帳戶。提醒您，切勿點擊任何可疑連結或下載不明檔案，輸入個資前務必確認網站安全性。同時，建議使用密碼管理器和定期監控帳戶活動，以確保帳戶安全。
繼續閱讀
分類: 語音釣魚 Vishing
兒子來電聲稱手機壞掉,要重新加LINE?七旬老翁急匯款 38 萬,險遭AI詐騙
新北市一名男子接到自稱是兒子的來電，表示手機壞掉需要重新加LINE好友，男子不疑有他便照做，並依指示匯款38萬元給對方。幸好，銀行行員機警察覺有異，及時攔阻了這場AI人聲詐騙。
根據台視新聞報導 ，新北市一名男子日前前往銀行準備匯款給兒子時向行員表示，兒子要買電腦設備急用錢。不過，行員在核對匯款資料時，發現兩人是在幾天前才剛加好友。圖片截圖來源：台視
行員覺得情況有異，懷疑這是一場詐騙。隨即聯絡警方到場，經警方調查後發現，男子的兒子根本沒有打電話給他，而是一名詐騙集團利用AI技術模擬人聲，冒充男子的兒子行騙。
警方表示，詐騙集團近年來經常利用AI技術進行詐騙，手法十分逼真，民眾應提高警覺，不要輕易相信陌生人的來電或訊息，如有任何疑慮，應主動向警方或銀行查證。無獨有偶,2024年四月高雄一名79歲男子日前接到一通自稱是他姪子的來電，對方表示換了新電話，並想借錢投資。男子一聽聲音確實像自己的姪子，便前往銀行匯款。不料，姪子收到錢後又來電要求再借一筆。男子再次前往銀行匯款時，行員察覺有異，立即通報員警。經調查後證實，這是一個詐騙集團利用AI技術仿冒姪子聲音，企圖詐取長輩的錢財。
◎趨勢科技AI 防詐達人可及時提醒您視訊對象可能是假冒的
瞭解更多AI 防詐達人
☞ Android用戶請立即免費下載 ☞ iOS用戶請立即免費下載
「媽，我被綁架了！」小心你上傳的短影片, 3秒就被AI 做成「分聲」詐騙你媽
電影《捍衛戰士》第二集中飾演冰人的方基墨因為罹患喉癌而幾乎無法開口講話，片中的對話台詞其實是藉由AI模擬出的對話台詞。
知名美劇《黑鏡（Black Mirror）》中，主角藉著已經過世丈夫生前在社群媒體上的貼文，而由 AI 生成宛若重生的亡夫語氣跟主角互動。而這場景,也被專家預測有實現的可能。
最令人憂心的是,詐騙集團利用AI語音複製/AI仿聲術,進行相似度高達九成的電話語音詐騙。
近年來，科技的進步讓電腦複製人類語音達到了難以置信準確的程度。這項技術被稱為AI語音複製/AI仿聲術,並且已經有相當多實際的應用，但同時也催生了一種任何人都可以利用語音複製功能進行的新型詐騙, 柏克萊加州大學電腦科學教授 Hany Farid表示，這項詐騙成本每月只需五元。根據美國聯邦貿易委員會(FTC)統計資料顯示，去年美國人被AI 仿聲詐騙金額高達26億美元，平均一戶家庭被詐騙1萬1000美元。
詐騙者利用AI語音複製技術詐騙金錢或敏感資訊屢屢得逞。騙徒透過社交媒體搜尋獵物，以公開的個人資訊及影片檔案,製成可信度極高的語音詐騙,美國聯邦貿易委員會（Federal Trade Commission，縮寫：FTC）警告,詐騙者利用 TikTok 帳戶或Instagram社群媒體上的短影音片段就可以在3 秒內輕易地建立「分聲」 ，然後利用這些連哭聲都一模ㄧ樣的聲音,向心急如焚的父母勒索大筆贖金。
繼續閱讀什麼是語音釣魚（Vishing）? 該如何防範？
語音釣魚（Vishing，結合了網路釣魚和語音）是一種社交工程（social engineering ）詐騙，攻擊者會偽裝成他人來打電話給受害者，目的是為了騙取個人資料或金錢。而且這類詐騙近年也開始有AI助攻了，這意味著消費者更難加以防範了。
語音釣魚經常以緊急，甚至帶有脅迫性的電話形式出現 – 像是受害者的帳戶被盜，來電者需要密碼來驗證身份。他們也可能聲稱代表如美國國稅局或社會安全局等政府機構打這通電話。“比較友善”的語音釣魚會嘗試另一條路線，像是通知受害者贏得了一些獎品。
語音釣魚如何運作？
語音釣魚跟社交工程息息相關，通常是利用受害者心理來說服他們採取行動。語音釣魚詐騙者會用威脅或獎勵的方式來讓受害者覺得自己必須服從。受害者經常會收到威脅性的語音郵件，出現像是法庭案件或凍結帳戶等內容。
網路釣魚進化成 AI 語音釣魚,偽裝老闆聲音騙走 770 萬台幣!
變臉詐騙攻擊或稱為商務電子郵件入侵 (Business Email Compromise，簡稱 BEC) 是一種針對企業進行匯款支付詐騙的精密騙局,通常偽裝成公司內的高階經理或往來客戶的名義向公司員工寄出郵件，且網路犯罪者會事先準備好銀行帳號，再指示員工匯款。 北市某貿易公司業務經理的電郵帳號遭仿冒，宣稱上游供應商要求變更匯款帳戶，逕行匯款，損失折合台幣近百萬元。
不過令人更憂心的是,針對企業的網路釣魚( Phishing ) 匯款詐騙已經進化到語音釣魚( Vishing )了!
《華爾街日報》報導，新型的詐騙透過 AI 合成的語音，一家英國能源公司主管以為接到德國總公司執行長來電， 因為對方操著德國口音，語調也跟他熟悉的德國總公司 CEO 幾乎一樣，因此不疑有他，就把款項轉了過去, 被騙走了 22 萬歐元（近台幣 770 萬元） 。
「媽.我被打了,快送錢來」這個台灣人熟悉的詐騙模式,會不會將來也被 AI 機器人取代，用更逼真的對話、語調進行更高效率的詐騙?
調查報告指出，從 2013 年到 2017 年，語音詐騙增長了 350%，其中每 638 個詐騙電話中就有一個是機器合成的。
繼續閱讀假 Viber 通知:”你有新語音留言!”點選後當心信用卡費暴增,電話通聯紀錄走光，還附贈成人網站
趨勢科技注意到偽裝成來自跨平台網路電話及即時通訊軟體 Viber 的垃圾郵件數量在急遽地增加。這個應用程式也有電腦版，讓使用者可以使用免費電話和訊息。這封電子郵件通知收件者他們的帳號內有一封語音留言。
圖1、垃圾訊息樣本
電腦和手機上的不同行為
在電腦上的感染行為非常簡單：點入內嵌的連結會導致下載被偵測為BKDR_KULUOZ.VLU的後門惡意軟體到系統內。
然而，在行動裝置上打開電子郵件的收件者經歷了不同的結果。它不會下載任何惡意軟體，而是將使用者重新導到不同的網站，像是一個隨機網址、搜尋引擎甚或是官方應用程式商店。
行動使用者有時會被重新導到一個串流媒體網站。調查顯示此網站已經跟可疑活動連結。比方說，該網站會秘密地去對使用者在註冊過程中必須提供的信用卡號碼收費。一些使用者會在點入「Flash Player」更新廣告時被導到該網站。
圖2、使用者有時會被重新導到一個串流媒體網站
基於行動作業系統的重新導向
更值得注意的是其重新導向結果也取決於設備的作業系統。Android 使用者被重新導到Google Play上的「GO桌面EX」應用程式。Apple 使用者被重新導到 iTunes 網站上的一個中國遊戲應用程式。要特別指出的是，這些應用程式都並非惡意程式。
圖3和4、使用者有時會被重新導到 Google Play和 iTunes