去年ChatGPT的問世成為人們熱議的話題，徹底改變了人們使用AI人工智慧以及和網路互動的方式，甚至影響了我們的日常生活 – 無論是個人或工作上。趨勢科技發表了許多關於ChatGPT的文章：從它的運作原理到網路釣魚詐騙；從後果到教育，再到OpenAI發生的資料外洩事件。使用 Chatbot 前請先衡量風險和好處 。
ChatGPT是一項了不起的發明，具備了改變和優化我們生活、工作及娛樂的無限潛力。但同時，在日常生活中使用先進的AI技術也帶來了安全隱患。接下來我們會介紹使用 ChatGPT 和其他 AI 技術時,要如何確保您的安全和隱私受到保護。
本文說明駭客集團如何在 Facebook 上刊登大型語言模型 (LLM) 主題的付費廣告來散布惡意程式，其目的是要安裝一個不肖的瀏覽器擴充功能來竊取受害者的登入憑證。
今日，大型語言模型 (LLM) 因為通用人工智慧的出現而正夯。早期採用者將因而獲得強大的競爭優勢，包括創意產業在內，例如：行銷、撰稿，以及資料分析與處理。然而，AI 技術的普及也為網路駭客開啟了新的契機，利用人們對 LLM 越來越高的關注度作亂。
本文說明駭客集團如何在 Facebook 上刊登大型語言模型 (LLM) 主題的付費廣告來散布惡意程式，其目的是要安裝一個不肖的瀏覽器擴充功能來竊取受害者的登入憑證。駭客利用 rebrand.ly 之類的短網址來執行網址重導，並使用 Google 的網站代管以及 Google Drive 和 Dropbox 這類的雲端儲存來存放惡意檔案。
趨勢科技已經將研究結果提供給 Meta，他們追查了這個集團以及他們的攻擊手法、技巧與程序 (TTP)，目前我們通報的網頁和廣告都已經被移除。Meta 表示他們會持續利用其內部和外部的威脅研究來強化其偵測系統以發掘類似的詐騙廣告和網頁。此外，Meta 最近也分享了一些最新消息指出他們如何保護那些可能在網路上遭到惡意程式攻擊的企業，並提供一些建議來協助使用者維持安全。
繼續閱讀重新思考生成式 AI 與大型語言模型 (LLM) 時代的學習指標並培養批判性思考
最近我在南非和一群教育工作者進行了一場關於人工智慧 (特別是 ChatGPT 和類似產品) 的對話，他們都擔心這套軟體可能會讓學生更容易作弊。
我們討論到兩種 ChatGPT 的替代選擇：第一，老師可以要求學生繳交手寫的作業，這樣會強迫學生在交作業之前至少會讀過一次作業的內容。第二，老師在打分數時，最高只給到 89 分 (也就是 B)，但如果要拿到 A，學生必須站在全班面前用口頭方式說明他的內容、研究方法以及結論，並回答老師或同學可能提出的任何問題。(有了口頭方式為自己的想法辯護，老師甚至完全不需要學生繳交書面作業！)
OWASP 針對大型語言模型 AI 聊天機器人首次提出了一份風險清單，再次證明生成式 AI 正迅速邁入主流階段，而這份清單也象徵著保護企業、防範 AI 相關威脅的重要一步。
20 多年來，「開放網站應用程式安全計畫」(Open Web Application Security Project，簡稱 OWASP) 的十大風險清單一直是企業改善軟體安全最指標性的一份參考資料。這也難怪當今年春季初 OWASP 發布最新的十大風險清單並聚焦大型語言模型 AI 漏洞時，開發人員和網路資安專業人士都紛紛密切關注。
OWASP 此一動作再次證明了 AI 聊天機器人正迅速邁入主流階段。根據一項調查，有將近一半 (48%) 的受訪企業表示他們在 2023 年 2 月左右已經開始採用 ChatGPT 來「取代勞工」，而這距離 ChatGPT 發表以來才不過短短的三個月。許多觀察家都憂心指出，AI 的普及既倉促、又缺乏對相關風險的了解，因此 OWASP 的十大 AI 風險清單來得正是時候，也有其必要。
繼續閱讀看看分析師如何更準確、更快、更有效地偵測到威脅。
駭客會一直不斷調整自己的攻擊手法、技巧及程序 (TTP) 以躲避資安機制的偵測。除了常見的勒索病毒和變臉詐騙攻擊（BEC)之外，雙重與分散式阻斷服務 (DDoS) 攻擊的威脅也與日俱增。這使得主動搜尋威脅以縮短其滯留時間的需求變得更加迫切。
同時，企業的威脅追蹤人員也正忙著應付組織盲點、工具不連貫，以及混合環境日益複雜的問題。
這每一道障礙都會讓分析師更難發掘及解決威脅。但如果有適當的工具與集中的資料來源作輔助，那麼威脅追蹤人員就能好好發揮他們的專業能力，更早發掘及控制威脅，讓攻擊的潛在衝擊與成本降至最低。
Trend Vision One™ – Companion 是一個新的生成式 AI 資安助理，來自 Trend Vision One™ 網路資安平台背後全球頂尖專家們的心血結晶，透過一套直覺的聊天介面讓任何技術程度的分析人員都能提高工作績效。
繼續閱讀