最近,我們一直在觀察 Google 搜尋引擎上與 AI 工具 (如 Midjourney 和 ChatGPT) 相關的惡意廣告。圖 1 顯示使用者在 Google 上搜尋「midjourney」這個關鍵字時可能看到的惡意廣告 (註: Midjourney 是一種 AI 繪圖生成工具,可讓使用者透過自然語言描述來產生自己想要的圖片)。
OpenAI 和 ChatGPT 的強大威力,讓生成式 AI 和 LLM 成了大會的焦點。 雖然 AI 在對抗網路釣魚及勒索病毒攻擊方面已經展現了具體的成果,但這項創新也激發了更多利用 AI 來改善資安與資安分析師工作體驗的全新契機。這波新的浪潮引發了有關 AI 可以有什麼全新應用來協助對抗駭客攻擊的討論,當然,免不了的還有駭客如何濫用 AI。