資安趨勢部落格 – 第 20 頁 – 手機病毒/電腦病毒防禦密技,不只守護網路安全,還提供各種實用3C實用小秘訣,由資安/防毒軟體領導品牌趨勢科技 Trend Micro 每日更新

你我都可能成為像素裡的人質！揭開 AI 名人換臉術與「AI 皮條客」的新型犯罪

2024 年 06 月 05 日2024 年 10 月 30 日趨勢科技 TrendMicro

Deepfake 罪犯眼中的「頂級獵物」不只是A咖名人,當心公開影像被製作成AI深偽色情進行勒索

圖片來源：iStock

在這個AI技術爆炸性發展的時代，你很可能已經遇過這種驚心動魄的場景：當你悠閒地滑著社群媒體或漫遊於網際網路時，螢幕上突然跳出一段令人瞠目結舌的影片—赫然是那位你崇拜已久的巨星，正陷入一個尷尬至極的處境！

更令人咋舌的是，下一秒，你看到的可能是同一位名人，神采奕奕地代言著某款新產品，或是熱情洋溢地邀請你加入一個”千載難逢”的投資良機。影片中的一舉一動、一顰一笑，無不栩栩如生，彷彿那位偶像就在眼前，直接與你對話。

然而，當驚訝退去，理智漸漸回籠時，你內心泛起一絲異樣的感覺—這影片雖然真實得可怕，卻又微妙地透露出某種說不出的違和感。在AI主宰的數位叢林中，你正面臨著一個棘手的難題：眼見不一定為真，真相往往隱藏於細微之處。

什麼是 AI 名人深偽與 AI 色情？

那個令你目瞪口呆的場景嗎？那正是 AI 名人深偽（AI Celebrity Deepfakes）與 AI 色情（AI Porn）肆虐的寫照，一個充滿危機與隱憂的數位新世界。隨著 AI 深偽技術（Deepfake）的驚人進步，創作者們如今已能打造出逼真到匪夷所思的假影片和假照片。其中最令人不安的手法，就是將某人的「臉」巧妙地嫁接到另一人的「身體」上，彷彿那個人真的在做某件事，但實際上一切都是虛幻的幻象。

這項技術模糊了現實與虛構的界線，讓人難辨真偽。深偽技術初衷是為了娛樂，如製作電影特效，但如今已淪為不法之徒的工具。受害者遍及各階層，從光鮮亮麗的明星、呼風喚雨的企業執行長，到天真無邪的兒童，再到芸芸眾生的普通女性，所有人都可能成為這場數位暴力中的犧牲品，被強迫成為色情內容的主角。

繼續閱讀

趨勢科技守護全球AI驅動私有資料中心

2024 年 06 月 02 日2024 年 06 月 03 日趨勢科技 TrendMicro

全新採用NVIDIA NIM的資安解決方案在 COMPUTEX 亮相

【2024年6月2日，台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704)今天宣布將於COMPUTEX 2024展示一套全新採用NVIDIA技術的資料中心解決方案來協助正在善用AI威力但卻擔心資安問題的企業和政府客戶。這是多款在COMPUTEX 2024首次亮相的 AI 資安解決方案之一。

【圖說一】趨勢科技於Computex展示採用NVIDIA NIM的資安解決方案，守護AI驅動私有資料中心。 — 【圖說一】趨勢科技於COMPUTEX 展示採用NVIDIA NIM的資安解決方案，守護AI驅動私有資料中心。

Trend Vision One™-Sovereign and Private Cloud (SPC)將與NVIDIA AI Enterprise軟體平台當中的NVIDIA Inference Microservice(NIM)整合。NIM是一套容易使用的微服務，專為協助雲端、資料中心及工作站加快部署生成式AI而設計。

趨勢科技執行長暨共同創辦人陳怡樺表示：「業界許多人都宣稱他們在AI資安領域已獲得進展，而我們已發展出此領域的關鍵應用案例。隨著世界各地的企業紛紛採用生成式AI，Trend Vision One Sovereign and Private Cloud與NVIDIA NIM的整合將為企業基礎架構變革注入其所需的強大動能。」

NVIDIA策略企業夥伴副總裁Pat Lee表示：「頂尖的企業都認知到要在主權私有雲等不同環境中部署生成式AI相當重要，他們同時也正在發展將資安整合至AI應用的策略計畫。趨勢科技與NIVIDIA的NIM整合關鍵在於讓企業使用生成式AI來為他們的客戶在各種企業架構環境中提升資安防護力。」

趨勢科技這套解決方案能滿足政府機關與私人企業日益成長的需求，讓他們在企業內資料中心導入AI來提高員工生產力，創造一種由AI驅動的創新使用體驗，然而該領域的投資卻隱藏著攻擊面擴大的風險。

繼續閱讀

兒子來電聲稱手機壞掉,要重新加LINE?七旬老翁急匯款 38 萬,險遭AI詐騙

2024 年 06 月 02 日2024 年 06 月 03 日趨勢科技 TrendMicro

新北市一名男子日前接到自稱是兒子的來電，表示手機壞掉需要重新加LINE好友，男子不疑有他便照做，並依指示匯款38萬元給對方。幸好，銀行行員機警察覺有異，及時攔阻了這場AI人聲詐騙。
根據台視新聞報導，新北市一名男子日前前往銀行準備匯款給兒子時向行員表示，兒子要買電腦設備急用錢。不過，行員在核對匯款資料時，發現兩人是在幾天前才剛加好友。

圖片截圖來源：台視

行員覺得情況有異，懷疑這是一場詐騙。隨即聯絡警方到場，經警方調查後發現，男子的兒子根本沒有打電話給他，而是一名詐騙集團利用AI技術模擬人聲，冒充男子的兒子行騙。
警方表示，詐騙集團近年來經常利用AI技術進行詐騙，手法十分逼真，民眾應提高警覺，不要輕易相信陌生人的來電或訊息，如有任何疑慮，應主動向警方或銀行查證。

無獨有偶,四月高雄一名79歲男子日前接到一通自稱是他姪子的來電，對方表示換了新電話，並想借錢投資。男子一聽聲音確實像自己的姪子，便前往銀行匯款。不料，姪子收到錢後又來電要求再借一筆。男子再次前往銀行匯款時，行員察覺有異，立即通報員警。經調查後證實，這是一個詐騙集團利用AI技術仿冒姪子聲音，企圖詐取長輩的錢財。

（以上2024/5/24更新）

「媽，我被綁架了！」小心你上傳的短影片, 3秒就被AI 做成「分聲」詐騙你媽

電影《捍衛戰士》第二集中飾演冰人的方基墨因為罹患喉癌而幾乎無法開口講話，片中的對話台詞其實是藉由AI模擬出的對話台詞。

知名美劇《黑鏡（Black Mirror）》中，主角藉著已經過世丈夫生前在社群媒體上的貼文，而由 AI 生成宛若重生的亡夫語氣跟主角互動。而這場景,也被專家預測有實現的可能。

最令人憂心的是,詐騙集團利用AI語音複製/AI仿聲術,進行相似度高達九成的電話語音詐騙。

近年來，科技的進步讓電腦複製人類語音達到了難以置信準確的程度。這項技術被稱為AI語音複製/AI仿聲術,並且已經有相當多實際的應用，但同時也催生了一種任何人都可以利用語音複製功能進行的新型詐騙, 柏克萊加州大學電腦科學教授 Hany Farid表示，這項詐騙成本每月只需五元。根據美國聯邦貿易委員會(FTC)統計資料顯示，去年美國人被AI 仿聲詐騙金額高達26億美元，平均一戶家庭被詐騙1萬1000美元。

詐騙者利用AI語音複製技術詐騙金錢或敏感資訊屢屢得逞。騙徒透過社交媒體搜尋獵物，以公開的個人資訊及影片檔案,製成可信度極高的語音詐騙,美國聯邦貿易委員會（Federal Trade Commission，縮寫：FTC）警告,詐騙者利用 TikTok 帳戶或Instagram社群媒體上的短影音片段就可以在3 秒內輕易地建立「分聲」，然後利用這些連哭聲都一模ㄧ樣的聲音,向心急如焚的父母勒索大筆贖金。