隨著 AI 工具的爆紅，駭客集團也開始相中這些工具。無論企業或一般使用者在下載及使用任何應用程式和工具時，都應該隨時保持警戒,避免點選可疑廣告或下載未經確認或非官方來源的應用程式，尤其利用 google 搜尋關鍵字時,更要提防夾帶惡意程式的網頁廣告。
ChatGPT 之類的人工智慧 (AI) 工具突然爆紅，使得它們被駭客相中，成為其社交工程（social engineering ）陷阱誘餌，誘騙受害者下載惡意程式植入器，最終感染 Vidar 和 Redline 之類的資訊竊取程式。
最近，我們一直在觀察 Google 搜尋引擎上與 AI 工具 (如 Midjourney 和 ChatGPT) 相關的惡意廣告。圖 1 顯示使用者在 Google 上搜尋「midjourney」這個關鍵字時可能看到的惡意廣告 (註： Midjourney 是一種 AI 繪圖生成工具，可讓使用者透過自然語言描述來產生自己想要的圖片)。
一點選關鍵字搜尋廣告,即被引導至惡意網站
當使用者點選這些贊助廣告時，使用者的 IP 位址就會被發送至某個後台伺服器，接著使用者會被帶到一個惡意網站 (圖 2)。
這些惡意廣告的後台伺服器有的可以過濾前來瀏覽網頁的 IP 是不是機器人，目的是要盡可能防止被偵測。如果前往這些假 Midjourney 網址的 IP 位址被判定為機器人而遭阻擋，或是手動在瀏覽器輸入網址試圖瀏覽這些網頁 (也就是不經由 Google 的廣告)，伺服器就會顯示一個無害的網頁。
螢幕出現 Midjourney 正在安裝的假視窗，其實已經將 Redline 資訊竊取程式引狼入室
請注意，Midjourney 並無桌上型電腦版本的程式，因此使用者光憑這一點就應該加以懷疑。
這起攻擊使用了 Telegram 通訊軟體的 API 來與幕後操縱 (C&C) 伺服器通訊。這是一種躲避網路偵測的技巧，可以讓 C&C 伺服器的通訊融入正常流量當中，有助於躲避網路資安產品的偵測。
當受害者執行下載的安裝程式 (Midjourney-x64.msix) 時，螢幕上會出現一個假的安裝視窗，但背後其實是在執行惡意 PowerShell 腳本來下載檔案。請注意，Midjourney 並無桌上型電腦版本的程式，因此使用者光憑這一點就應該加以懷疑。
趨勢科技的行為監控技術主動加以攔截
圖 6 顯示從 Trend Vision One™ 主控台上看到的整起攻擊感染過程 (一路到執行 PowerShell 腳本)。趨勢科技的行為監控技術已有能力主動加以攔截。
受害者一旦下載並執行了冒牌的 Midjourney 安裝程式，其系統最終會感染 Redline 資訊竊取程式 。
這個假的 MSIX 安裝程式 (Midjourney-x64.msix) 會試圖執行一個加密編碼的 PowerShell 腳本 (frank_obfus.ps1)。該腳本解碼之後會從某伺服器 (openaijobs[.]ru) 下載並執行 Redline 程式。
腳本一旦下載並執行了 Redline 資訊竊取程式，該程式就會將一些敏感資訊外傳，例如：瀏覽器儲存的 Cookie、密碼、虛擬加密貨幣錢包資料、檔案資訊等等。
結論與建議
隨著 AI 工具的爆紅，駭客集團也開始相中這些工具。因此，企業和一般使用者不論在下載及使用任何應用程式和工具時，都應該隨時保持警戒。使用者應避免點選可疑廣告或下載未經確認或非官方來源的應用程式，因為這些程式很可能讓系統感染惡意程式或導致其他惡意行為。許多 AI 工具 (如 ChatGPT 和 Midjourney) 都並未提供桌上型電腦或行動裝置版本的程式，所以如果有人宣稱提供這類程式供您下載，它有很高機率是惡意程式。
✅防毒防詐✅守護帳密✅VPN安心串流✅阻絕惡意✅安心蝦拚
PC-cillin 讓你的『指指點點』可以開心又安心點！
一套多層式資安方法可協助企業防止惡意程式經由各種管道入侵系統，以下資安解決方案可偵測惡意元件與可疑行為來保護企業。
- Trend Vision One™ 提供了多層式防護與行為偵測來攔截可疑行為和工具，不讓它們有機會造成破壞。
- Trend Micro Apex One™ 提供了更上層樓的自動化威脅偵測及回應來防範進階威脅以確保端點安全。
入侵指標 (IoC)
如需本文當中提到的入侵指標，請參閱 此處。
原文出處：Malicious AI Tool Ads Used to Deliver Redline Stealer 作者：Junestherry Dela Cruz