你是不是也常在臉書、IG 分享孩子的可愛照片？
小心，這個看似平常的舉動，如今可能正把孩子推向危險。而且這不只是英國的個案警告——從矽谷科技大老到學術研究，全世界都在對這件事發出同一個訊號。
如果你沒有時間看完這篇文章，請先看這支影片，看看9 歲的艾拉，如何用 AI 告訴經常在社群上分享她生活點滴的父母，「長大版的艾拉」會遇到什麼事。
AI 生成兒童性虐待影像爆炸性成長260 倍
英國國家打擊犯罪局（NCA）與兒童安全組織「網路觀察基金會」（IWF）近期發布最新指南，示警一項令人不安的趨勢：不法之徒正利用公開流傳的兒童照片，透過 AI 技術合成兒童性虐待影像（CSAM）。
根據 IWF 統計，2025 年共發現超過 8,000 件逼真的 AI 生成兒童性虐待照片與影片，較前一年成長 14%。更驚人的是，AI 生成的虐待影片數量從 2024 年的 13 部，暴增至 2025 年的 3,440 部——短短一年成長超過 260 倍。
繼續閱讀什麼是深偽影片？
深偽影片是一種逼真到讓人不容易起疑的影片，這類影片人類肉眼越來越難分辨它們是 AI 所生成的，對資料安全帶來了極大的風險。
深偽技術是利用人工智慧 (AI) 與機器學習 (Machine Learning, ML) 合成的新媒體形式。透過「換臉」、控制嘴唇動作、或植入假造的音源檔等手段，它能產生模仿人們講話或動作的超逼真影片或音訊，使其看起來就像是當事人真的說過或做過這些事情一樣。
要製作深偽影片，通常需要先對原始內容進行深度的分析。一些必要的細節，如臉部特徵與動作、尺寸比例、膚色、髮色與眼睛顏色，以及肢體語言，都盡可能準確地輸入 AI 模型當中，以生成盡可能準確的擬真影像。同樣的原則也適用於影片的背景，如果目標對象出現的場景是知名的地點，那麼駭客就會利用一些原始影像和影片來盡可能準確地加以呈現。
最初，這項技術被用於製作色情、政治宣傳或嘲諷影片，且網路上流傳著上萬個深偽造假內容。隨著「換臉」軟體的普及，深度偽造內容也愈來愈多，甚至被廣泛用於犯罪。
「深度偽造 (Deepfake)技術能產生模仿人們講話或動作的超逼真影片或音訊，使其看起來就像是當事人真的說過或做過這些事情一樣。現在甚至出現「換臉」軟體，也讓深度偽造 (deepfake)惡搞影片愈來愈多,甚至被用來犯罪。
與生成深偽影片一樣，駭客也能用網路上找到的材料來訓練 AI 生成聲音。其參考來源通常是被模仿對象的語音郵件訊息、電話內容、參加 Podcast 與新聞訪談的錄音，以及真實影片當中的聲音。
生成的聲音有時聽起來非常逼真，跟原始材料中的聲音非常相似，讓人難辨真假。駭客使用的生成式 AI 工具會分析聲音的一些關鍵細節，包括：口氣、音調、說話特徵、口齒清晰度，以及原始對象講話的聲音情緒。
這項利用人工智慧和機器學習(Machine learning,ML)（AI/ML）合成的媒體資訊（圖片、聲音、影像等），將明星、政客等知名人物的臉孔和聲音合成進成人影片，這種「影片換臉」的技術，不知情的人乍看之下就像以為被盜肖像的受害者 ，真的參與了A片演出。現在網路犯罪集團正利用深偽技術進行視訊電話詐騙，目的是獲取財務利益、欺騙與操縱他人，對一般個人和企業機構構成嚴重風險。
⭕️ 重點預覽
你今天在社群媒體上分享的微笑照片，可能就是明天AI詐騙集團用來勒索你家人的恐怖工具。聯邦調查局（FBI）發出最高級別的緊急警告：透過一張公開照片，結合AI深偽（Deepfake）技術，詐騙者正打造出栩栩如生的『虛擬綁架』影片，讓你成為人質，進而對你的親人實施情感與金錢勒索。這不再是傳統的詐騙，而是一場衝著你和你的家人而來、結合高科技的『數位綁架風暴』。請立即閱讀，了解如何防範這場結合AI技術的新型犯罪！
「八點檔男神」曾子益，出現在視訊的另一頭! 沒想到竟然是詐騙集團利用「AI深偽影片」或「仿造真人語音」，要求你匯款、提供驗證碼或洩漏個資!
根據英國廣播公司（BBC）的報導，AI深偽影片（Deepfake Videos）在英國引發了日益增長的環境與倫理憂慮。 隨著人工智慧技術的飛速發展，影音內容的生成變得前所未有的逼真且容易。然而，這項技術的普及不僅在個人權利與社會道德層面投下了陰影，其背後龐大的運算需求，更對地球資源造成了不容忽視的壓力。
在英國，關於 AI深偽影片（Deepfake Videos）的憂慮主要集中在兩個方面：倫理道德和環境影響。
繼續閱讀
【2025年7月10日，台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704)今天發表一份新的報告，揭露採用深偽(deepfake)技術的網路犯罪規模和成熟度。隨著生成式AI工具變得更強大、更便宜、也更容易取得，駭客集團正迅速利用這些工具來支援各種攻擊，從商業詐騙、勒索，到身分盜用等。
請點選以下連結來閱讀這份完整報告「用深偽造假，直到成功為止：全面解析新式AI犯罪工具」Deepfake it ’til You Make It: A Comprehensive View of the New AI Criminal Toolset
繼續閱讀