重新思考生成式 AI 與大型語言模型 (LLM) 時代的學習指標並培養批判性思考
最近我在南非和一群教育工作者進行了一場關於人工智慧 (特別是 ChatGPT 和類似產品) 的對話，他們都擔心這套軟體可能會讓學生更容易作弊。
我們討論到兩種 ChatGPT 的替代選擇：第一，老師可以要求學生繳交手寫的作業，這樣會強迫學生在交作業之前至少會讀過一次作業的內容。第二，老師在打分數時，最高只給到 89 分 (也就是 B)，但如果要拿到 A，學生必須站在全班面前用口頭方式說明他的內容、研究方法以及結論，並回答老師或同學可能提出的任何問題。(有了口頭方式為自己的想法辯護，老師甚至完全不需要學生繳交書面作業！)
OWASP 針對大型語言模型 AI 聊天機器人首次提出了一份風險清單，再次證明生成式 AI 正迅速邁入主流階段，而這份清單也象徵著保護企業、防範 AI 相關威脅的重要一步。
20 多年來，「開放網站應用程式安全計畫」(Open Web Application Security Project，簡稱 OWASP) 的十大風險清單一直是企業改善軟體安全最指標性的一份參考資料。這也難怪當今年春季初 OWASP 發布最新的十大風險清單並聚焦大型語言模型 AI 漏洞時，開發人員和網路資安專業人士都紛紛密切關注。
OWASP 此一動作再次證明了 AI 聊天機器人正迅速邁入主流階段。根據一項調查，有將近一半 (48%) 的受訪企業表示他們在 2023 年 2 月左右已經開始採用 ChatGPT 來「取代勞工」，而這距離 ChatGPT 發表以來才不過短短的三個月。許多觀察家都憂心指出，AI 的普及既倉促、又缺乏對相關風險的了解，因此 OWASP 的十大 AI 風險清單來得正是時候，也有其必要。
繼續閱讀看看分析師如何更準確、更快、更有效地偵測到威脅。
駭客會一直不斷調整自己的攻擊手法、技巧及程序 (TTP) 以躲避資安機制的偵測。除了常見的勒索病毒和變臉詐騙攻擊（BEC)之外，雙重與分散式阻斷服務 (DDoS) 攻擊的威脅也與日俱增。這使得主動搜尋威脅以縮短其滯留時間的需求變得更加迫切。
同時，企業的威脅追蹤人員也正忙著應付組織盲點、工具不連貫，以及混合環境日益複雜的問題。
這每一道障礙都會讓分析師更難發掘及解決威脅。但如果有適當的工具與集中的資料來源作輔助，那麼威脅追蹤人員就能好好發揮他們的專業能力，更早發掘及控制威脅，讓攻擊的潛在衝擊與成本降至最低。
Trend Vision One™ – Companion 是一個新的生成式 AI 資安助理，來自 Trend Vision One™ 網路資安平台背後全球頂尖專家們的心血結晶，透過一套直覺的聊天介面讓任何技術程度的分析人員都能提高工作績效。
繼續閱讀本文概略介紹虛擬綁架的構成元素，以及駭客如何運用社交工程手法、AI 聲音模仿工具和 ChatGPT 來從事虛擬綁架。
新技術的發明通常是為了提高生產力、效率及改善我們的生活，例如人工智慧 (AI) 和機器學習 (ML)，只可惜，網路駭客同樣也會想盡辦法利用這些技術來獲取不法利益。最近，駭客在攻擊和詐騙中使用了 AI 技術來逼真地模仿人類。
近來 AI 技術遭駭客利用的案例越來越多，本月稍早，美國聯邦調查局 (FBI) 才警告民眾要小心網路駭客利用深偽 (deepfake) 技術來篡改照片和影片以從事色情勒索，因為這類犯罪獲利驚人。根據美國聯邦貿易委員會 (FTC) 的數字，假冒身分的詐騙是 2022 年通報損失第二高的詐騙，高達 26 億美元。
這類假冒身分的詐騙使用了 AI 生成的偽造音檔 (也就是深偽語音)，通常駭客只需從公開來源內容當中擷取少量的個人特徵資訊就能生成這類音檔，這些來源包括：TikTok、Facebook、Instagram、其他平台以及政府的入口網站。駭客可利用像 VoiceLab 這樣的 AI 工具來擷取個人聲音的特徵，就能產生與本人非常相似的深偽語音 (又稱為「聲音模仿」)，然後用於勒索、恐嚇與詐騙。
有能力製作深偽語音的駭客，會使用一段有人在哭泣、尖叫，或極度悲傷的現成對白作為輸入 (例如電影對白)，然後用 AI 讓對白中的聲音聽起來好像某人小孩的聲音。接著，駭客就拿著這段深偽語音來向受害者證明其小孩在他們手裡，藉此逼迫受害者匯一大筆贖金給他們。
本文概略介紹虛擬綁架的構成元素，以及駭客如何運用社交工程手法、AI 聲音模仿工具和 ChatGPT 來從事虛擬綁架。
繼續閱讀【2023年6月20日，台北訊】全球網路資安領導廠商趨勢科技 (東京證券交易所股票代碼：4704) 推出次世代網路資安平台，為強化企業資安與威脅防禦樹立全新標竿。全新Trend Vision One™平台的推出象徵企業網路資安的一大躍進，內含強大的受攻擊面風險管理、專為混合環境設計的多層式防護以及次世代延伸式偵測及回應(Extended Detection and Response，XDR)，並新增了生成式AI技術來強化防護。
· 報名參加趨勢科技於7月11日起在台灣登場的Risk to Resilience World Tour了解Trend Vision One為企業帶來的效益
該平台先進的延伸式偵測及回應(XDR)功能擁有最廣泛的原生資安感測器來提供最完整的跨領域威脅防護。透過彙整來自內部及第三方的資料，搭配進階的AI與機器學習數據分析以及交叉關聯偵測模型，為企業帶來次世代的XDR。
