機器學習 machine-learning - 資安趨勢部落格

讓阿湯哥真假難辨的 Deepfake 技術,是什麼?如何捍衛隱私?

2023 年 09 月 02 日2024 年 12 月 31 日趨勢科技 TrendMicro

視訊電話別亂接！眼見不一定真　揭詐團「AI變臉視訊」新手法

不要再相信「眼見為憑」、「有圖有真相」了！
FBI發現有人用盜來的個資與Deepfake技術求職 ,也有詐騙集團利用AI變臉軟體一邊變臉一邊直播,類似的手法越來越猖獗,根據三立新聞報導 ,女警還示範如何講話講著講著「瞬間變成你同學」。

警方分析深偽技術，發現已有3類詐騙手法被應用：

一、電話詐騙：模仿親友聲音，詐騙金錢及個資。
2019 年 9 月出現 Deepfake 技術製作的一段語音來誘騙英國某高階經理將 243,000 美元匯到某個歹徒所開設的帳戶。根據受害企業的保險公司表示，歹徒在電話中假冒的聲音不僅能模仿被冒充者的聲音，還能模仿其說話的語調、斷句及腔調。

延伸閱讀：「媽，我被綁架了！」小心你上傳的短影片, 3秒就被AI 做成「分聲」詐騙你媽

二、視訊詐騙：DeepFake 深偽技術可合成影片及語音，甚至發展成視訊詐騙，除了政治人物,名人也是仿冒的對象,比如馬斯克和幣安執行長都曾遭冒用推銷詐騙加密貨幣。

◎瞭解更多 **趨勢科技AI 防詐達人**
☞ Android用戶請立即免費下載 ☞ iOS用戶請立即免費下載

2023年五月某科技公司郭姓老闆接了一通好友的視訊電話, 10分鐘蒸發1873萬,原來好友的影像竟然就是AI合成。

三、恐嚇詐騙：移花接木合成不雅照片，恐嚇勒索當事人。台灣知名的 26歲百萬 YouTuber 小玉自曝「花150人民幣」買軟體「只花30分鐘和一個配音員」就可以讓肖像被盜對象講出任何他想要對方講的話」, 他非法利用DeepFake 犯罪工具，將包含黃捷、鄭家純（雞排妹）、高嘉瑜、龍龍等名人的臉合成在A片女優身上，移花接木的性愛影片，造成百人受害，不法所得逾新台幣上千萬元。

繼續閱讀

AI聊天機器人遭詐騙集團利用，ChatGPT 出現山寨手機App版本，下載竟盜刷用戶信用卡上千元

2023 年 03 月 06 日2023 年 05 月 18 日趨勢科技 TrendMicro

用戶在應用程式商店下載了AI聊天機器人ChatGPT後，信用卡帳單不只莫名奇妙被刷上千元，還多出好幾筆小額支付，一查才發現自己竟然載錯軟體被盜刷了！

ChatGPT在剛開始推出時，因主打可以免費跟AI聊天機器人進行對話，甚至回答使用者各種疑難雜症而爆紅。然而，詐騙集團利用ChatGPT的知名度，推出了一堆冒牌的服務，甚至是連ChatGPT官方都沒有的App版本，並以此來盜取使用者的個人資料和信用卡資訊。

什麼是ChatGPT？

ChatGPT是由人工智慧研究機構OpenAI團隊於2022年11月發布，是一款最近在AI聊天機器人領域爆紅的服務，透過自然語言跟使用者對話。它運用了GPT（Generative Pre-training Transformer）技術，可以根據對話內容生成回應，並且不斷地學習和提高自己的對話能力。

繼續閱讀

回顧這一年 ChatGPT 從 GPT-3 學到了什麼

2023 年 03 月 03 日2023 年 03 月 07 日趨勢科技 TrendMicro

在 2022 年 11 月開始掀起的喧囂與評論聲浪中，我們檢視了 OpenAI 的 ChatGPT 對網路資安產業將帶來的可能性與影響，並且拿它與先前的產品 (如 GPT-3) 做一番比較。

自從一年多前 GTP-3 在全球造成轟動開始，我們就仔細研究了這項 AI 技術，並分析它為網路犯罪產業帶來了什麼能力與潛力。這些討論都收錄在我們的「Codex Exposed」系列部落格文章中，該系列特別從資安的角度來探討幾個最重要的技術面向：

蒐集敏感資料：本文試圖揭露當使用者利用這套語言模型來產生程式碼時，可能看到哪些隱藏在訓練用原始程式碼中的敏感資料。
模仿遊戲：本文藉由測試 GPT Codex 產生與理解程式碼的能力極限，試圖從架構的角度了解該語言模型對電腦程式碼的理解程度如何。
工作自動化與輸出一致性：本文試圖利用 Codex 的 API 來撰寫程式看看它是否能在無人監督的情況下執行一些重複性工作。
幫忙訓練駭客：本文探討及分析利用大型語言模型來協助訓練及支援新手駭客的可能性。

繼續閱讀

雙面刃!AI 及 ML被拿來犯罪

2020 年 12 月 07 日2020 年 12 月 03 日趨勢科技 TrendMicro

本文探討今日人工智慧 (AI) 及機器學習(Machine learning,ML) 如何遭到不肖利用及濫用，並且提出一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。

趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol)

人工智慧 (AI) 正促使全球快速邁向一個更充滿活力的世界。AI 是電腦科學底下一個與其他學門息息相關的子領域，蘊含著提升效率以及促進自動化與自主性的龐大潛力。簡而言之，AI 是第四次工業革命的核心技術，也是一把雙面刃。至於機器學習(Machine learning,ML) 則是 AI 底下的一個專門藉由大量資料分析與演算法來找尋模式和規律的子領域，可讓企業機構與政府機關實現一些重大計畫，最終將驅動創新並改善營運。

下載「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence)

AI 及 ML 在商業領域的結合相當普遍，事實上，截至 2020 年為止，已有 37% 的企業和機構以某種形式將 AI 整合到他們的系統與流程當中。有了這類技術的工具，企業就能更準確地預測客戶的購買行為，進而增加營收。某些企業在 ML 與 AI 工具的協助下，創造了驚人的業務，Amazon 即是一例，該公司 2018 年的市值已經達到一兆美元。

儘管 AI 和 ML 扮演了企業、關鍵基礎建設以及各種產業的重要支柱，並且協助人類因應一些重大的挑戰 (如 Covid-19 疫情)，但這些技術卻也讓各式各樣的數位、實體以及政治威脅浮上檯面。企業機構及一般個人若想確保自身安全、防範 AI 技術遭不肖之徒利用或濫用，就必須學習認識並了解 AI 系統遭惡意濫用的風險。

由趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol) 聯合製作的研究報告「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence) 一文，不僅探討了當今 AI 與 ML 技術遭到不肖利用及濫用的現況，更提出了一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。

AI 與 ML 遭到不肖利用及濫用的現況

AI 與 ML系統對企業來說不可或缺的一些功能，例如藉由大數據分析來自動產生預測並發掘一些不斷出現的模式和規律，剛好就是網路犯罪集團用來謀取不法獲利的功能。

繼續閱讀

「你瀏覽色情網站，已被側錄」性愛勒索出現 LINE 版!

2020 年 06 月 23 日2020 年 06 月 23 日趨勢科技 TrendMicro

「你瀏覽色情網站，已被側錄」現在也出現 LINE 版了
女網友說國一的弟弟LINE突然有不認識的人加入，還傳了一大堆A片，這竟然是悲劇的開始…..

過去性愛勒索相關個案幾乎都來自國外,但近日國內卻出現了 LINE 案例:
女網友在論壇發文說國一的弟弟收到陌生但卻是LINE朋友傳來的A片，沒有戒心地打開觀看，「駭客那些病毒駭入他平板，然後自動錄下他打手槍的畫面，對方傳影片來威脅要我們匯錢⋯我還接了他的電話錄了音，聽起來是大陸人的聲音，真的好可怕，陌生人的Line什麼的絕對不要加欸」

趨勢科技防詐達人表示這類主要手法有三種:

方法一（最常見）：透過交友軟體或網站，他們會先跟你配對成功，然後聊天，然後要求視訊
方法二：先引用民眾入群加入色情分享的群組，然後再分別私訊
方法三：透過社群先加好友後，傳遞假照片後再聊天

基本上和約會詐騙的不同點在於，只是色情，沒有感情，因為主要要拿到對方裸照或視訊,所以時間短，金額小;約會詐騙相對時間長，金額大。

除了前述的 LINE 之外,本文介紹兩個跟色情誘騙有關的案例:
一個是利用免費觀看成人網站為誘餌,誘騙使用者以手機掃描 QR Code看更多
另一個是警告受害者觀看色情影片過程已經被側錄
駭客只有一個目的:「給我錢!」

ChaosCC 駭客集團精心策劃性愛勒索騙局，要求受害者支付 700 美元的比特幣

案例一:見到 QR Code 就掃?! 當心遇到性愛勒索

第一個案例是日本色情業者利用行動條碼（QR Code）誘騙付費,關不掉的色情網站,讓愛看好料的網友有點尷尬。攻擊者會先發送垃圾郵件給受害者，郵件內包含一個免費影片網站的連結。這個網站會秀出聳動標題的免費影片來誘使點擊。但當出現一個「觀看更多」的連結時，會將使用者重新導到另一個要求註冊成為會員的頁面。

其中一個網址,包含了一個行動條碼（Quick Response，QR）和這訊息：「請利用手機來訪問這個網站」。

透過手機訪問後會跳出一個成人網站, 畫面顯示已經將受害者行動設備上的資料傳送出去,並要求支付 49,800日元 ,否則成人網站的視窗將無法關閉。

案例二:駭客集團精心策劃性愛勒索騙局，要求受害者支付 700 美元的比特幣

根據最近一篇報導，一個名為「ChaosCC」的駭客集團在一起電子郵件詐騙當中向受害者表示他們已經駭入受害者的電腦並錄下受害者在觀賞色情網站時的過程。根據 Bleeping Computer 的報導，在這起性愛勒索詐騙中，歹徒要求受害者支付價值 700 美元的比特幣 (Bitcoin)。

駭客反諷:下次逛色情網站時務必將裝置相機貼起來

這場性愛勒索騙局，受害者會先收到一封宣稱來自 ChaosCC 駭客集團的電子郵件 ,告訴受害者，他們在瀏覽色情網站時，裝置的相機已自動開啟並錄下他們觀賞色情內容的過程，並宣稱這段錄影已自動上傳到駭客集團的伺服器。最後，郵件會警告受害者如果不匯 700 美元到駭客的比特幣錢包，就要將這段錄影發給受害者通訊錄上的聯絡人。

繼續閱讀