新北市一名男子接到自稱是兒子的來電，表示手機壞掉需要重新加LINE好友，男子不疑有他便照做，並依指示匯款38萬元給對方。幸好，銀行行員機警察覺有異，及時攔阻了這場AI人聲詐騙。
根據台視新聞報導 ，新北市一名男子日前前往銀行準備匯款給兒子時向行員表示，兒子要買電腦設備急用錢。不過，行員在核對匯款資料時，發現兩人是在幾天前才剛加好友。

行員覺得情況有異，懷疑這是一場詐騙。隨即聯絡警方到場，經警方調查後發現，男子的兒子根本沒有打電話給他，而是一名詐騙集團利用AI技術模擬人聲，冒充男子的兒子行騙。
警方表示，詐騙集團近年來經常利用AI技術進行詐騙，手法十分逼真，民眾應提高警覺，不要輕易相信陌生人的來電或訊息，如有任何疑慮，應主動向警方或銀行查證。

無獨有偶,2024年四月高雄一名79歲男子日前接到一通自稱是他姪子的來電，對方表示換了新電話，並想借錢投資。男子一聽聲音確實像自己的姪子，便前往銀行匯款。不料，姪子收到錢後又來電要求再借一筆。男子再次前往銀行匯款時，行員察覺有異，立即通報員警。經調查後證實，這是一個詐騙集團利用AI技術仿冒姪子聲音，企圖詐取長輩的錢財。

---

「媽，我被綁架了！」小心你上傳的短影片, 3秒就被AI 做成「分聲」詐騙你媽

電影《捍衛戰士》第二集中飾演冰人的方基墨因為罹患喉癌而幾乎無法開口講話，片中的對話台詞其實是藉由AI模擬出的對話台詞。

知名美劇《黑鏡（Black Mirror）》中，主角藉著已經過世丈夫生前在社群媒體上的貼文，而由 AI 生成宛若重生的亡夫語氣跟主角互動。而這場景,也被專家預測有實現的可能。

最令人憂心的是,詐騙集團利用AI語音複製/AI仿聲術,進行相似度高達九成的電話語音詐騙。

近年來，科技的進步讓電腦複製人類語音達到了難以置信準確的程度。這項技術被稱為AI語音複製/AI仿聲術,並且已經有相當多實際的應用，但同時也催生了一種任何人都可以利用語音複製功能進行的新型詐騙, 柏克萊加州大學電腦科學教授 Hany Farid表示，這項詐騙成本每月只需五元。根據美國聯邦貿易委員會(FTC)統計資料顯示，去年美國人被AI 仿聲詐騙金額高達26億美元，平均一戶家庭被詐騙1萬1000美元。

詐騙者利用AI語音複製技術詐騙金錢或敏感資訊屢屢得逞。騙徒透過社交媒體搜尋獵物，以公開的個人資訊及影片檔案,製成可信度極高的語音詐騙,美國聯邦貿易委員會（Federal Trade Commission，縮寫：FTC）警告,詐騙者利用 TikTok 帳戶或Instagram社群媒體上的短影音片段就可以在3 秒內輕易地建立「分聲」 ，然後利用這些連哭聲都一模ㄧ樣的聲音,向心急如焚的父母勒索大筆贖金。