那個令你目瞪口呆的場景嗎？那正是 AI 名人深偽（AI Celebrity Deepfakes）與 AI 色情（AI Porn）肆虐的寫照，一個充滿危機與隱憂的數位新世界。隨著 AI 深偽技術（Deepfake）的驚人進步，創作者們如今已能打造出逼真到匪夷所思的假影片和假照片。其中最令人不安的手法，就是將某人的「臉」巧妙地嫁接到另一人的「身體」上，彷彿那個人真的在做某件事，但實際上一切都是虛幻的幻象。
【2024年6月2日，台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704)今天宣布將於COMPUTEX 2024展示一套全新採用NVIDIA技術的資料中心解決方案來協助正在善用AI威力但卻擔心資安問題的企業和政府客戶。這是多款在COMPUTEX 2024首次亮相的 AI 資安解決方案之一。
Trend Vision One™-Sovereign and Private Cloud (SPC)將與NVIDIA AI Enterprise軟體平台當中的NVIDIA Inference Microservice(NIM)整合。NIM是一套容易使用的微服務，專為協助雲端、資料中心及工作站加快部署生成式AI而設計。
趨勢科技執行長暨共同創辦人陳怡樺表示：「業界許多人都宣稱他們在AI資安領域已獲得進展，而我們已發展出此領域的關鍵應用案例。隨著世界各地的企業紛紛採用生成式AI，Trend Vision One Sovereign and Private Cloud與NVIDIA NIM的整合將為企業基礎架構變革注入其所需的強大動能。」
知名美劇《黑鏡（Black Mirror）》中，主角藉著已經過世丈夫生前在社群媒體上的貼文，而由 AI 生成宛若重生的亡夫語氣跟主角互動。而這場景,也被專家預測有實現的可能。
最令人憂心的是,詐騙集團利用AI語音複製/AI仿聲術,進行相似度高達九成的電話語音詐騙。
近年來，科技的進步讓電腦複製人類語音達到了難以置信準確的程度。這項技術被稱為AI語音複製/AI仿聲術,並且已經有相當多實際的應用，但同時也催生了一種任何人都可以利用語音複製功能進行的新型詐騙, 柏克萊加州大學電腦科學教授 Hany Farid表示，這項詐騙成本每月只需五元。根據美國聯邦貿易委員會(FTC)統計資料顯示，去年美國人被AI 仿聲詐騙金額高達26億美元，平均一戶家庭被詐騙1萬1000美元。
【2024年5月23日，台北訊】生成式AI的應用與 AI PC 持續成長，全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704)今天公布消費性防護產品的未來規劃。為因應AI所帶來的機會與風險，趨勢科技將規劃策略以協助消費者安全地擁抱生成式AI以及相關應用，降低消費者使用AI或因AI遭到濫用而蒙受損害的風險。此外，趨勢科技也將針對自家防護產品及服務持續研發並利用AI創新，提升資安防護成效和效率。
