隨著 AI 工具的爆紅，駭客集團也開始相中這些工具。無論企業或一般使用者在下載及使用任何應用程式和工具時，都應該隨時保持警戒,避免點選可疑廣告或下載未經確認或非官方來源的應用程式，尤其利用 google 搜尋關鍵字時,更要提防夾帶惡意程式的網頁廣告。
ChatGPT 之類的人工智慧 (AI) 工具突然爆紅，使得它們被駭客相中，成為其社交工程（social engineering ）陷阱誘餌，誘騙受害者下載惡意程式植入器，最終感染 Vidar 和 Redline 之類的資訊竊取程式。
最近，我們一直在觀察 Google 搜尋引擎上與 AI 工具 (如 Midjourney 和 ChatGPT) 相關的惡意廣告。圖 1 顯示使用者在 Google 上搜尋「midjourney」這個關鍵字時可能看到的惡意廣告 (註： Midjourney 是一種 AI 繪圖生成工具，可讓使用者透過自然語言描述來產生自己想要的圖片)。
繼續閱讀除了瘋狂示愛,把記者嚇到失眠,再進化後的聊天機器人還可憑著用戶上傳的冰箱食材照片，提供食譜與烹飪教學。
ChatGPT最近幾個月來備受新聞媒體關注。本（資安趨勢）部落格也報導了ChatGPT-3的推出以及它對兒童和教育的影響，更別提還有關於假ChatGPT應用程式及網頁氾濫的文章。現在ChatGPT-4已經問世，讓我們將目光放到這個最新版本上。他用ChatGPT「成功救愛犬性命」,失業的會是獸醫嗎？「ChatGPT-4 會搶走我的工作嗎？」如果你擔心這個問題,看看ChatGPT 怎麼說。
在去年11月30日推出的ChatGPT是由OpenAI開發的聊天機器人，這家新創公司由Elon Musk等人於2015年共同創立，並且獲得微軟等公司的資金投入。這些強大的工具將對溝通、教育及許多其他領域產生重大影響。AI聊天機器人也是一門大生意：Google自家的Bard只錯誤回答了一個問題，就讓該公司市值損失了1,000億美元。
不出所料地，人們也有著許多的疑問：從對新聞和學術誠信的擔憂，到家長對ChatGPT這類工具對學校教育、錯誤資訊及網路安全所造成影響的擔憂。本文也談談它對孩子所帶來的影響。
ChatGPT是一種自然語言處理工具，這強大的生成式AI可以使用從網路上獲取的資料來撰寫自己的回答。它幾乎可以回答任何問題，並產生幾乎任何內容，包括文章、電子郵件、歌曲和詩歌等等。用它自己的話來說：
「ChatGPT是OpenAI開發的AI語言模型，能夠根據給定的輸入生成類似人類的回答。該模型經過大量文字資料的訓練，可以回答問題、總結長文、撰寫故事等等。它通常用於對話型AI應用，模擬與使用者的人類對話。」
AI聊天機器人已經出現了一段時間，第一個聊天機器人ELIZA早在六十年代就誕生。ChatGPT也不會是最後一個，但它是迄今為止最先進的（和其他有一定差距），並且只會越來越好 – 下一個版本GPT-4預計會在今年晚些時候發布。
繼續閱讀在 2022 年 11 月開始掀起的喧囂與評論聲浪中，我們檢視了 OpenAI 的 ChatGPT 對網路資安產業將帶來的可能性與影響，並且拿它與先前的產品 (如 GPT-3) 做一番比較。
自從一年多前 GTP-3 在全球造成轟動開始，我們就仔細研究了這項 AI 技術，並分析它為網路犯罪產業帶來了什麼能力與潛力。這些討論都收錄在我們的「Codex Exposed」系列部落格文章中，該系列特別從資安的角度來探討幾個最重要的技術面向：
