OWASP 針對大型語言模型 AI 聊天機器人首次提出了一份風險清單，再次證明生成式 AI 正迅速邁入主流階段，而這份清單也象徵著保護企業、防範 AI 相關威脅的重要一步。
20 多年來，「開放網站應用程式安全計畫」(Open Web Application Security Project，簡稱 OWASP) 的十大風險清單一直是企業改善軟體安全最指標性的一份參考資料。這也難怪當今年春季初 OWASP 發布最新的十大風險清單並聚焦大型語言模型 AI 漏洞時，開發人員和網路資安專業人士都紛紛密切關注。
OWASP 此一動作再次證明了 AI 聊天機器人正迅速邁入主流階段。根據一項調查，有將近一半 (48%) 的受訪企業表示他們在 2023 年 2 月左右已經開始採用 ChatGPT 來「取代勞工」，而這距離 ChatGPT 發表以來才不過短短的三個月。許多觀察家都憂心指出，AI 的普及既倉促、又缺乏對相關風險的了解，因此 OWASP 的十大 AI 風險清單來得正是時候，也有其必要。
繼續閱讀越來越多組織開始考慮在組織中使用ChatGPT。本文將聚焦於安全防護方面，說明企業組織在使用ChatGPT時應注意的要點。本次是針對ChatGPT回答內容的正確性，探討相關注意要點。
🔻重點預覽：
火紅的聊天機器人ChatGPT自幾個月前發表以來一直都是新聞的焦點，正面和負面的報導都有。雖然使用者可以用ChatGPT做出許多令人驚奇的事情，但人們也因為安全、隱私問題以及網路犯罪分子和線上詐騙者的使用而感到擔憂。三星公司和義大利政府等不同機構都已經開始禁止使用ChatGPT，也有專家呼籲暫停AI的開發。
最近，當AI教父Geoffrey Hinton公開退出Google，以便以客觀身份警告ChatGPT和Google Bard等AI系統的潛在風險時，也讓這類報導達到巔峰。Hinton指出：「這項技術會帶來龐大好處，但全世界也必須在AI安全及控制方面進行大量且緊急的投資。」
如果這些對母公司OpenAI來說還不算什麼，那現在ChatGPT遭遇了第一次資料外洩事件。
繼續閱讀隨著 AI 工具的爆紅，駭客集團也開始相中這些工具。無論企業或一般使用者在下載及使用任何應用程式和工具時，都應該隨時保持警戒,避免點選可疑廣告或下載未經確認或非官方來源的應用程式，尤其利用 google 搜尋關鍵字時,更要提防夾帶惡意程式的網頁廣告。
ChatGPT 之類的人工智慧 (AI) 工具突然爆紅，使得它們被駭客相中，成為其社交工程（social engineering ）陷阱誘餌，誘騙受害者下載惡意程式植入器，最終感染 Vidar 和 Redline 之類的資訊竊取程式。
最近，我們一直在觀察 Google 搜尋引擎上與 AI 工具 (如 Midjourney 和 ChatGPT) 相關的惡意廣告。圖 1 顯示使用者在 Google 上搜尋「midjourney」這個關鍵字時可能看到的惡意廣告 (註： Midjourney 是一種 AI 繪圖生成工具，可讓使用者透過自然語言描述來產生自己想要的圖片)。
繼續閱讀
