網路駭客濫用生成式 AI (GenAI) 的情況正在急速攀升，就在我們介紹了 Gen AI 如何被用於網路犯罪的短短幾個禮拜之後，隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake（深偽技術），不僅數量更多、範圍也更廣。
網路駭客濫用生成式 AI (GenAI) 的狀況正在急速攀升，就在我們介紹了 Gen AI 如何被用於網路犯罪的短短幾個禮拜之後，隨即又出現了新的重大進展。駭客正在大量推出各種犯罪用大型語言模型 (LLM) 以及Deepfake（深偽技術）視訊詐騙，不僅數量更多、範圍也更廣。
以下是有關這項議題的最新發展。
繼續閱讀隨著 Microsoft、Nuance、Mix 及 Google CCAI Insights 等全球知名企業紛紛導入大型語言模型 (LLM) 與生成式預訓練轉換器 (GPT，如 ChatGPT)，業界也掀起了一波革命性轉變。當這些新的技術越來越普遍，很重要的就是要了解其關鍵的行為、優勢以及相關的風險。
GPT 屬於 LLM 的一種，是目前人工智慧 (AI) 發展的最前線，這類模型由 OpenAI 在 2018 年率先推出，採用轉換器 (transformer) 架構，並且預先經過未標記文字資料集的大量訓練，因而能夠產生類似人類的反應。這些模型擅長理解使用者提示的細微差異、文法與情境。到了 2023 年左右，GPT 已經成為 LLM 的標竿，從此之後幾乎無所不在 。
【2024年8月13日，台北訊】全球網路資安解決方案領導廠商趨勢科技(東京證券交易所股票代碼：4704)啟動多項措施，以塑造企業與政府機關未來的AI應用。全新解決方案包含結合了NVIDIA AI Enterprise軟體平台當中NIM微服務的Trend Vision OneTM Sovereign Private Cloud，讓企業在AI世代的潛能十足發揮，同時保有營運韌性。
趨勢科技共同創辦人暨執行長陳怡樺表示：「我們不單只是在適應AI驅動的世界，而是在創造一個這樣的世界，幫助確保任何人都能在安全的環境下實現創新。新科技的落地應強化營運韌性，而非增加業務風險。如同過去我們守護雲端安全，這次，我們率先運用AI來打造資安防護，並開發專為AI應用設計的資安防護。」
繼續閱讀「深偽」(Deepfake) 一詞是深度學習 (deep learning) 與偽造 (fake) 的合體，由 Reddit 的一名使用者在 2017 年所創。深偽可以是一個模仿某人外貌或聲音的偽造照片、影片或錄音，其目的是要用於欺騙或娛樂大眾。在先進的機器學習加持下，深偽有時非常逼真。過去，深偽主要是在社群媒體上作為娛樂用途，但其濫用的潛力很快就被人發現。現在，深偽已成為隱私、安全及資訊傳播的一大威脅。趨勢科技在 2024 年 6 月做了一份研究指出，有 71% 的人對於深偽抱持負面的看法，相信任人們製作深偽的首要原因就是為了詐騙1。
製作深偽需要用到一種叫做「生成對抗網路」(Generative Adversarial Network，簡稱 GAN) 的高階電腦程式來製作逼真的影像。主要分成四大步驟：
【2024年8月8日，台北訊】全球網路資安解決方案領導廠商趨勢科技(東京證券交易所股票代碼：4704)持續引領網路資安平台創新，守護企業使用AI相關應用的安全，今日宣布與領導性新創AI原生 GPU雲端供應商GMI Cloud合作，該公司致力開發專為AI及ML工作負載最佳化的垂直整合平台。這項合作旨在強化AI建置環境的資安措施，保護高運算環境中的敏感資料。此外，為了履行AI的使用責任與規範，趨勢科技也宣布與Google、NVIDIA、Microsoft、IBM等合作夥伴一起加入「安全AI聯盟」(Coalition for Secure AI，簡稱CoSAI)。
趨勢科技營運長Kevin Simzer表示：「今日，網路資安產業在整合AI時大多以聊天機器人、警報摘要或其他基本功能的形式呈現。很少廠商投入資源來保護實際的AI建置環境，或者善用該技術來減輕資安團隊的壓力，協助他們面對日益攀升的資安複雜性和風險。我們的AI策略將這項需求拉到檯面上，成為趨勢科技資安平台演進的支柱，並與業界夥伴合作來改善企業使用AI時的風險管理。」
憑藉著長久以來與合作夥伴共同協助客戶的經驗，趨勢科技與GMI Cloud採用Trend Vision One™平台守護其使用AI的客戶的創新夥伴密切合作。整合NVIDIA NIM微服務與加速運算的「Trend Vision One™ – Companion」AI助理至GMI Cloud的Cluster Engine介面，將能提供主動式威脅偵測及回應，即使在非連網的環境也適用。
繼續閱讀