您是不是也曾經在滑社群媒體時無意間看到令人驚豔的 AI 內容？AI 正悄悄地開始隨處出現在我們的日常生活當中。現在有一個名叫「Character AI」的平台，由 Noam Shazeer 和 Daniel De Freitas 在 2021 年所創立，它正透過活生生的 AI 人物，革命性改變數位互動的方式。那麼，什麼是 Character AI？Character AI 安全嗎？想知道答案就請繼續往下閱讀。
使用 Smartmockups 合成 Character AI 的情境圖。
什麼是 Character AI？
大家都聽過 AI，但什麼是「Character AI」呢？Character AI 是一種人工智慧的聊天機器人平台，讓使用者可以創建並與各種虛擬角色互動。這些角色可以是真實的人、虛構的人物，甚至是完全原創的形象。你可以和這些角色聊天、討論各種話題，甚至發展出獨特的關係。簡單來說，Character AI 就是讓您擁有屬於自己的虛擬好友，一個跟您聊天並回答您問題的對象，甚至幫您生成一些故事和對話之類的內容。您與科技的互動將更上層樓，您的裝置不止變得更酷，而且幾乎就像個數位隨從一般。
我們的研究報告「雲端 GPU 威脅以及它對 AI、HPC 與雲端運算的衝擊調查」(A Survey of Cloud-Based GPU Threats and Their Impact on AI, HPC and Cloud Computing) 深入探討了當前 GPU 面臨的威脅環境，並提出一些資安建議來解決這些資安挑戰。
隨著近年生成式AI技術發展，AI也成為駭客進行不法攻擊的幫手。企業須面對原本待解決的資安難題外，更陷入駭客社交工程攻擊手法更加快速及攻擊面不斷擴大的窘境。 趨勢科技將於Risk to Resilience「AI世代的資安風險管理」世界巡迴研討會中，說明新興風險管理策略以保持營運韌性。 ➤ 把握最後席次，即刻報名 2024 Risk to Resilience World Tour https://trend-tw.com/WorldTour2024_ownmedia/line0724-2/blog82658
那個令你目瞪口呆的場景嗎？那正是 AI 名人深偽（AI Celebrity Deepfakes）與 AI 色情（AI Porn）肆虐的寫照，一個充滿危機與隱憂的數位新世界。隨著 AI 深偽技術（Deepfake）的驚人進步，創作者們如今已能打造出逼真到匪夷所思的假影片和假照片。其中最令人不安的手法，就是將某人的「臉」巧妙地嫁接到另一人的「身體」上，彷彿那個人真的在做某件事，但實際上一切都是虛幻的幻象。
知名美劇《黑鏡（Black Mirror）》中，主角藉著已經過世丈夫生前在社群媒體上的貼文，而由 AI 生成宛若重生的亡夫語氣跟主角互動。而這場景,也被專家預測有實現的可能。
最令人憂心的是,詐騙集團利用AI語音複製/AI仿聲術,進行相似度高達九成的電話語音詐騙。
近年來，科技的進步讓電腦複製人類語音達到了難以置信準確的程度。這項技術被稱為AI語音複製/AI仿聲術,並且已經有相當多實際的應用，但同時也催生了一種任何人都可以利用語音複製功能進行的新型詐騙, 柏克萊加州大學電腦科學教授 Hany Farid表示，這項詐騙成本每月只需五元。根據美國聯邦貿易委員會(FTC)統計資料顯示，去年美國人被AI 仿聲詐騙金額高達26億美元，平均一戶家庭被詐騙1萬1000美元。
【2024年5月23日，台北訊】生成式AI的應用與 AI PC 持續成長，全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704)今天公布消費性防護產品的未來規劃。為因應AI所帶來的機會與風險，趨勢科技將規劃策略以協助消費者安全地擁抱生成式AI以及相關應用，降低消費者使用AI或因AI遭到濫用而蒙受損害的風險。此外，趨勢科技也將針對自家防護產品及服務持續研發並利用AI創新，提升資安防護成效和效率。
趨勢科技在Computex 展出多項 AI資安相關技術 – Connecting AI Security, 6/4~6/7
