電影《捍衛戰士》第二集中飾演冰人的方基墨因為罹患喉癌而幾乎無法開口講話，片中的對話台詞其實是藉由AI模擬出的對話台詞。
知名美劇《黑鏡（Black Mirror）》中，主角藉著已經過世丈夫生前在社群媒體上的貼文，而由 AI 生成宛若重生的亡夫語氣跟主角互動。而這場景,也被專家預測有實現的可能。
最令人憂心的是,詐騙集團利用AI語音複製/AI仿聲術,進行相似度高達九成的電話語音詐騙。
近年來，科技的進步讓電腦複製人類語音達到了難以置信準確的程度。這項技術被稱為AI語音複製/AI仿聲術,並且已經有相當多實際的應用，但同時也催生了一種任何人都可以利用語音複製功能進行的新型詐騙, 柏克萊加州大學電腦科學教授 Hany Farid表示，這項詐騙成本每月只需五元。根據美國聯邦貿易委員會(FTC)統計資料顯示，去年美國人被AI 仿聲詐騙金額高達26億美元，平均一戶家庭被詐騙1萬1000美元。
詐騙者利用AI語音複製技術詐騙金錢或敏感資訊屢屢得逞。騙徒透過社交媒體搜尋獵物，以公開的個人資訊及影片檔案,製成可信度極高的語音詐騙,美國聯邦貿易委員會（Federal Trade Commission，縮寫：FTC）警告,詐騙者利用 TikTok 帳戶或Instagram社群媒體上的短影音片段就可以在3 秒內輕易地建立「分聲」 ，然後利用這些連哭聲都一模ㄧ樣的聲音,向心急如焚的父母勒索大筆贖金。
美國有一起受害案例,儘管其追蹤者多數是親朋好友,其上傳的影音還是被歹徒加以利用。
媒體找了專門研究AI生成技術的專家來實測，發現英語系國家AI複製聲音，相似度確實高達九成，很難辨識。資料來源：鏡新聞
接到親友被綁架電話, FBI 建議即時破解靠這招
「媽,我被綁架了。」這是全世界共通的電話詐騙老梗,但身為父母對自己親身骨肉的聲音有過度的把握。四月初有名15歲美國亞利桑那州的媽媽接到女兒啜泣的電話，歹徒威脅要傷害這位女孩,除非交出100萬美元的贖金。這位母親完全沒也意識到電話那頭「連哭聲都一樣」的聲音是經過AI變造過,心急如焚地認定女兒被綁架，非常擔心不付出贖金,女兒就會被施打毒品,甚至被丟到墨西哥,直到找朋友連絡上正在度假滑雪的女兒。
☞ 延伸閱讀：出遊打卡,把親友拖下水,還告訴小偷:闖空門正是時候? 不止如此現在還提供詐騙集團進行AI 電話語音綁架詐騙的最佳時機。
芝加哥聯邦調查局(FBI)發言人強生(Siobhan Johnson)建議：除了不要在社交網站發布出外旅遊的貼文外,建立只有親密家人才知道的專用「通關密碼」，是破解騙局的關鍵。
連CNN 記者爸媽都被騙倒,如何聽出破綻？
AI語音詐騙逼真度近九成, CNN 記者實測發現,連父母都騙倒! AI深偽假聲音恐遭詐騙用，但有幾點可以注意：
- 使用急迫性的語氣。
- 來電者要求使用加密貨幣、禮物卡或其他無法被追踪的方法付款。
- 來電沒有背景噪音。
- 來電內容資訊前後不一致。
- 「被綁架者」無法正確回答和家人預先約定好的「通關密碼」（前提是：你們曾經設定過）。
影片來源：連父母都騙倒! AI深偽假聲音 恐遭詐騙用｜方念華｜FOCUS全球新聞 TVBS NEWS
☎️ 保護自己免於 AI 語音詐騙
📌 1.冷靜判斷：先掛斷電話並直接聯絡「被綁架」的親友,如果聯絡不上,致電可以確認其行蹤的老師/同事/朋友。
📌 2.反問「被綁架」的親友:請對方回答只有家人知道的「通關密碼」 （＊前提是：你們必須曾經共同設定過）。
📌 3.發文前三思：不要在社群媒體過度分享，免得讓詐騙者的謊言可信度大增。
📌 4.做好社群隱私設定：不要在社群網站公開自己或親友的電話號碼,如果一定要發布有自己聲音的影片,請做好隱私設定。
尤其不要公開自己或親友的電話號碼,若要發布有自己聲音的影片請做好隱私設定
⭕️ PC-cillin 檢查社群／網站隱私設定安全性 ⟫免費下載試用
如果你懷疑自己被騙了，請立即回報給警方。
✅防毒防詐✅守護帳密✅VPN安心串流✅阻絕惡意✅安心蝦拚
PC-cillin 讓你的『指指點點』可以開心又安心點！