AI 熱潮引來不法分子覬覦，詐騙集團盜用輝達（NVIDIA）執行長黃仁勳照片，在社群網站刊登詐騙廣告，當你點選「領取AI飆股」，網頁就會出現 QR Code 或是網路連結，接著就會被引導到詐騙集團所設的LINE群組，以各種話術誘騙有發財夢者進入「投資平台」進行投資，並下載所謂的投資 App 操作匯款。警方強調，這些平台全部都架設在海外，受騙者極有可能求償無門。
執法單位提醒，網路上出現的任何以黃仁勳名義發布的投資廣告都是詐騙，呼籲民眾切勿輕信，務必提高警覺。另外，根據新聞報導最近有三位家庭主婦深信 AI 為未來趨勢，依照詐騙者指示，先後透過面交及匯款方式共損失逾兩千萬元。直至發現無法提領所謂獲利，驚覺上當受騙已經為時已晚。
*提醒您：
即使沒有匯出款項，但有點擊過相關連結或掃描過 QR Code,為了避免有木馬等惡意程式藏匿在您的手機或電腦等裝置，為了安全起見請立即免費下載PC-cillin ⟫即刻掃描您的裝置,以免惡意程式伺機竊取或側錄您的銀行帳密或信用卡等個資。
知名美劇《黑鏡（Black Mirror）》中，主角藉著已經過世丈夫生前在社群媒體上的貼文，而由 AI 生成宛若重生的亡夫語氣跟主角互動。而這場景,也被專家預測有實現的可能。
最令人憂心的是,詐騙集團利用AI語音複製/AI仿聲術,進行相似度高達九成的電話語音詐騙。
近年來，科技的進步讓電腦複製人類語音達到了難以置信準確的程度。這項技術被稱為AI語音複製/AI仿聲術,並且已經有相當多實際的應用，但同時也催生了一種任何人都可以利用語音複製功能進行的新型詐騙, 柏克萊加州大學電腦科學教授 Hany Farid表示，這項詐騙成本每月只需五元。根據美國聯邦貿易委員會(FTC)統計資料顯示，去年美國人被AI 仿聲詐騙金額高達26億美元，平均一戶家庭被詐騙1萬1000美元。
