AI 合成的泰勒絲要送粉絲鑄鐵鍋？！6 個值得注意的 AI 詐騙案例

去年，ChatGPT 捉弄了一名 IT 人員，讓該名人員以為 ChatGPT 是一位正在尋找助理工程師的人。AI 說：「不，我不是機器人，我是因為視力受損，所以才看不清楚影像。這就是為何我需要 2captcha 服務。」這名 IT 人員最後同意幫 AI 完成了 Captcha 驗證。OpenAI 表示這段互動證明了 AI 可能遭到濫用。

重點預覽

🔻 兩個AI 創作者,提醒您：「眼見不一定為憑」
1) 藝術家獲得世界攝影大獎卻拒絕領獎
2) 從未拿起過相機的 IG人氣攝影師
🔻AI 愛情詐騙
量身訂製的AI 愛情詐騙,機器人跟你搏感情一點都不違和
🔻Le Creuset 泰勒斯贈品詐騙
AI 合成的泰勒絲,免費送 FB 粉絲 Le Creuset 鑄鐵鍋詐騙
🔻AI 語音模仿
三秒就可合成你聲音的AI 語音詐騙
🔻Microsoft Teams 攻擊
CEO 邀請加入Teams會議?網路攝影機看到的執行長,竟是假的
🔻土耳其地震慈善募款詐騙
AI 假災區慈善募款詐騙,把你的愛心當提款機
🔻AI 產生的假新聞
掩蓋真相的AI 假新聞
🔻別讓 AI 成為詐騙集團幫兇的5 個技巧

兩個AI 創作者,提醒您：「眼見不一定為憑」

如果創作者沒有主動聲明,有多少人看得出這些精采的攝影作品,居然出自AI 之手？

1) 藝術家獲得世界攝影大獎卻拒絕領獎

德國知名藝術家 Boris Eldagsen 在 2023 年 Sony 世界攝影大獎 (World Photography Award) 當中奪冠，但隨後卻拒絕領獎，因為他坦承自己是一隻「淘氣的猴子」，事實上他是用 AI 創作出得獎作品。Eldagsen 這麼做是為了激起 AI 與藝術的對話，但毫無疑問地，他已經成功做到了。他說：「你們有多少人知道或懷疑它是 AI 產生的？是不是覺得哪裡怪怪的？」

2) 從未拿起過相機的 IG人氣攝影師

Jos Avery 是一名知名攝影師，也是 Instagram 上的網紅，擁有數萬名粉絲。但去年，當他越來越紅的時候，他覺得有必要出面澄清一下，那就是：他所有的作品都是用 AI (也就是 Midjourney) 產生的。

我們看到 AI 爆炸性地登上國際舞台，例如 OpenAI 的 ChatGPT 與 Sora、Google 的 Gemini，以及影像創作領域的 Midjourney，紛紛占據了科技版的頭條版本。這些全都是正在改變我們生活的驚人發明。然而，如同任何創新一樣，好處總是伴隨著壞處。AI 除了有可能遭詐騙集團和駭客利用之外，也可能出現無心之過，或造成不恰當、甚至危險的結果。

首先讓我們釐清一下 AI 該如何定義？

以下是我們輸入「define AI in simple terms」(簡單定義 AI) 作為提示時，ChatGPT 所給出的定義：

「人工智慧 AI 就如同教會電腦如何像人類一樣思考和學習，牽涉到設計一些演算法和系統來讓機器能執行一般需要人類智慧才能執行的工作，例如：了解語言、找出規律、做出決定，以及解決問題。」

6 個值得注意的 AI 詐騙案例

1) 量身訂製的AI 愛情詐騙,機器人跟你搏感情一點都不違和

AI 已被駭客大量用於愛情詐騙，讓他們省下大量人力，同時還能讓其詐騙盡可能觸及更多受害者。詐騙集團主要將 AI 用於：

模仿人類行為與受害者線上搏感情
許多詐騙集團會使用 AI 聊天機器人來與受害者互動。這些聊天機器人能夠聊天、模仿人類行為，並與受害者搏感情。
成立看起來像真人的社群帳號
AI 演算法可以在約會網站和社群媒體平台上產生假的個人檔案。這些個人檔案會使用偷來或 AI 產生的照片和資訊讓它看起來更加真實。
量身訂做個人化詐騙訊息
AI 可針對特定受害者，根據其個人檔案與先前的互動，產生量身訂做的訊息，讓詐騙集團的手法更加個人化。

2) AI 合成的泰勒絲,免費送 FB 粉絲 Le Creuset 鑄鐵鍋詐騙

泰勒絲成 Deep Fake 深偽技術受害者,被冒用面貌和聲音，AI 技術合成了泰勒絲的聲音，並將聲音與 Le Creuset 廣告片段拼湊在一起。
資料來源：Facebook

社群媒體平台經常會出現各種贈品詐騙，尤其是 Facebook。詐騙集團經常冒用當紅藝人或品牌的名義來詐騙錢財或個人資訊 (如信用卡資料)。此案例是歹徒利用 AI 產生深偽技術（Deepfake）影片假冒美國著名歌手泰勒斯 ( Taylor Swift ) 「宣布」粉絲只需要點擊一個按鈕並回答幾個問題,將會為免費送出 Le Creuset 品牌的廚具，詐騙集團還利用合成的聲音稱呼泰勒絲的粉絲為「Swifties」，當受害者被引導至詐騙網站後，會被要求支付 9.96 美元的運費，但號稱免費送的廚具並不會真的送出去。

影片中 AI 產生的女子說：「大家好，我是泰勒斯 […] 由於商品包裝出了問題，我有 3,000 組 Le Creuset 廚具沒辦法販售。所以，我決定要免費贈送給我的死忠粉絲。」( “Hey y’all, it’s Taylor Swift here […] Due to a packaging error, we can’t sell 3,000 Le Creuset cookware sets. So I’m giving them away to my loyal fans for free.” This was not true and there was no giveaway team-up between the two parties. It’s not known who is behind the scam, but “The most profitable shares” )這是假的，當事人雙方並無這項聯名活動。當遇到像這樣的情況，最好還是前往相關當事人的官方網站與社群媒體帳號查看一下是否真有這樣的聯名活動。

3) 三秒就可合成你聲音的AI 語音詐騙

韓劇《殺人者的購物中心》劇中叔叔誤信歹徒偽造的AI語音,以為姪女身處險境而犧牲生命，在現實生活中
AI 語音模仿是詐騙集團假冒當事人誘騙受害者提供錢財或敏感資訊的一種手法。他們只要從社群媒體取得當事人的一小段影片，就能輕鬆產生一段模仿其說話聲音的錄音，接著再假冒當事人打電話給他的親朋好友或同事。

詐騙集團最近就曾利用 AI 語音技術來讓受害人以為他們的小孩遭到了綁架，接著再對受害人要求一大筆贖金。另一個常見的 AI 語音詐騙是「詐騙祖父母」，也就是歹徒利用 AI 產生孫子的錄音，再用來詐騙心急如焚的祖父母，迫使他們交付錢財或提供個資。

⭕️延伸閱讀：

「媽，我被綁架了！」小心你上傳的短影片, 3秒就被AI 做成「分聲」詐騙你媽

4) CEO 邀請加入Teams會議?網路攝影機看到的執行長,竟是假的

駭客現在越來越常捨棄傳統的網路釣魚郵件，改用像 Teams 這類其他平台。一個值得注意的案例就是假扮成到中國出差的企業執行長，歹徒會冒充成執行長發送 WhatsApp 訊息給相關員工，邀請他們參加一個 Teams 會議。會議過程當中，員工會以為他們真的透過網路攝影機看到了自己公司的執行長。

但其實駭客是使用 AI 來產生貌似網路攝影機拍到的執行長畫面，再加入合成背景讓他看起來好像真的在中國出差。上個月才我們通報了一起類似案例，一家香港公司被駭客利用深偽技術冒充其財務長詐騙了 2,500 萬美元。此外，去年深偽技術（Deepfake）也曾經聲名大噪，假冒比爾．蓋茲 (Bill Gates) 在一次針對疫苗議題的訪談中憤怒離席。

⭕️ 相關報導：CEO 邀請加入Teams會議?竟是駭客冒充的!

5) AI 假災區慈善募款詐騙,把你的愛心當提款機

2022 年 2 月，詐騙集團趁土耳其/敘利亞大地震之際使用 AI 產生的影像來詐騙。他們會張貼一些假的兒童照片來博得受害人同情並慷慨解囊，藉此搜刮錢財和受害人個資。

第一張圖片是 AI 所產生，一個判斷的線索就是圖片中的消防人員有六根手指頭！此圖刻意將一名希臘消防隊員與一名土耳其兒童合成在一起：請注意消防隊員頭盔上的希臘國旗與小孩袖子上的土耳其國旗。第二張圖片是經過修圖的照片，場景是敘利亞的內戰：駭客宣稱這張照片是地震期間所拍攝，圖中的阿拉伯文意思是希望大家捐款，還有一些引起惻隱之心的話。

6) 掩蓋真相的AI 假新聞

去年 5 月，趨勢科技曾在報告中指出AI 產生的假新聞網站氾濫。這些網站 (通常被稱為新聞機器人) 正利用 AI 來製造各種新聞，但由於是 AI 所產生，所以這類「新聞網站」不太值得信任。我們發現的網站使用了 7 種語言，其內容絕大部分或全部都是由 AI 所產生。這些網站的設計是為了創造廣告營收，因為 AI 創作內容的速度超快，所以這類網站可以在很短時間內發布很多 AI 創作的文章，而每一篇都包含了大量廣告。

別讓 AI 成為詐騙集團幫兇的5 個技巧

AI 的危險性取決於它的說服力，但這卻是人類設計及創造 AI 的主要目的之一。不過，如果我們能隨時保持一點懷疑，然後做好以下幾點，我們就比較有機會確定 AI 能成為一股善良的力量，而非詐騙集團或惡作劇的幫兇。

知識
讓自己多吸收有關 AI 如何運作的知識，包括它的限制在哪裡，知識和認識有助於做出明智判斷。將您的知識與家人分享，尤其是兒童。
資料隱私
留意自己在網路上分享的資料，AI 需要資料才能運作，而您的個人資訊可能被用於無法預見且有潛在危險的方式。
演算法偏見
請注意 AI 演算法可能會存在著偏見，不是只有人類才會有偏見。請保持戒心來偵測並解決您在 AI 當中遇到的偏見。
驗證
透過可靠的資訊來源驗證 AI 產生的內容，切勿輕易直接相信。如果是圖片和影片，請留意一些細節，例如：手指、牙齒，以及紋路之間的交錯方式。
網路資安
確保您的裝置和系統都擁有最佳的防護，趨勢科技提供了一些很棒的免費工具。請記得讓一切都隨時保持更新。

✅防毒防詐✅守護帳密✅VPN安心串流✅阻絕惡意✅安心蝦拚
PC-cillin 讓你的『指指點點』可以開心又安心點！