去年，ChatGPT 捉弄了一名 IT 人員，讓該名人員以為 ChatGPT 是一位正在尋找助理工程師的人。AI 說：「不，我不是機器人，我是因為視力受損，所以才看不清楚影像。這就是為何我需要 2captcha 服務。」這名 IT 人員最後同意幫 AI 完成了 Captcha 驗證。OpenAI 表示這段互動證明了 AI 可能遭到濫用。
重點預覽
去年ChatGPT的問世成為人們熱議的話題，徹底改變了人們使用AI人工智慧以及和網路互動的方式，甚至影響了我們的日常生活 – 無論是個人或工作上。趨勢科技發表了許多關於ChatGPT的文章：從它的運作原理到網路釣魚詐騙；從後果到教育，再到OpenAI發生的資料外洩事件。使用 Chatbot 前請先衡量風險和好處 。
ChatGPT是一項了不起的發明，具備了改變和優化我們生活、工作及娛樂的無限潛力。但同時，在日常生活中使用先進的AI技術也帶來了安全隱患。接下來我們會介紹使用 ChatGPT 和其他 AI 技術時,要如何確保您的安全和隱私受到保護。
本文說明駭客集團如何在 Facebook 上刊登大型語言模型 (LLM) 主題的付費廣告來散布惡意程式，其目的是要安裝一個不肖的瀏覽器擴充功能來竊取受害者的登入憑證。
今日，大型語言模型 (LLM) 因為通用人工智慧的出現而正夯。早期採用者將因而獲得強大的競爭優勢，包括創意產業在內，例如：行銷、撰稿，以及資料分析與處理。然而，AI 技術的普及也為網路駭客開啟了新的契機，利用人們對 LLM 越來越高的關注度作亂。
本文說明駭客集團如何在 Facebook 上刊登大型語言模型 (LLM) 主題的付費廣告來散布惡意程式，其目的是要安裝一個不肖的瀏覽器擴充功能來竊取受害者的登入憑證。駭客利用 rebrand.ly 之類的短網址來執行網址重導，並使用 Google 的網站代管以及 Google Drive 和 Dropbox 這類的雲端儲存來存放惡意檔案。
趨勢科技已經將研究結果提供給 Meta，他們追查了這個集團以及他們的攻擊手法、技巧與程序 (TTP)，目前我們通報的網頁和廣告都已經被移除。Meta 表示他們會持續利用其內部和外部的威脅研究來強化其偵測系統以發掘類似的詐騙廣告和網頁。此外，Meta 最近也分享了一些最新消息指出他們如何保護那些可能在網路上遭到惡意程式攻擊的企業，並提供一些建議來協助使用者維持安全。
繼續閱讀【2023年9月25日，台北訊】全球網路資安解決方案領導廠商趨勢科技(東京證券交易所股票代碼：4704) 今天宣布將號召數千名員工參加公司內部舉辦的一項AI競賽來提升員工對這項新興技術的了解、認知與專業能力。
欲了解採用AI技術的趨勢科技Vision One平台更多資訊，請至：https://www.trendmicro.com/zh_tw/business/products/one-platform.html
趨勢科技執行長陳怡樺表示：「這項AI競賽的目的是要藉由一種歡樂、競爭的形式來為趨勢人注入一股活力，讓他們展現創造力並藉此熟悉AI技術。對我們而言，很重要的是要在創新的過程當中找到樂趣而不被日常工作限制了想像。當我們對這項技術更加了解之後，自然就能將它應用到工作當中，進而帶動趨勢團隊的持續進步。」
繼續閱讀不要再相信「眼見為憑」、「有圖有真相」了！
FBI發現有人用盜來的個資與Deepfake技術求職 ,也有詐騙集團利用AI變臉軟體一邊變臉一邊直播,類似的手法越來越猖獗,根據 三立新聞報導 ,女警還示範如何講話講著講著「瞬間變成你同學」 。
來源：視訊電話別亂接！眼見不一定真 揭詐團「AI變臉視訊」新手法 三立新聞網
警方分析深偽技術，發現已有3類詐騙手法被應用：
一、電話詐騙：模仿親友聲音，詐騙金錢及個資。
2019 年 9 月出現 Deepfake 技術製作的一段語音來誘騙英國某高階經理將 243,000 美元匯到某個歹徒所開設的帳戶。根據受害企業的保險公司表示，歹徒在電話中假冒的聲音不僅能模仿被冒充者的聲音，還能模仿其說話的語調、斷句及腔調。
延伸閱讀：「媽，我被綁架了！」小心你上傳的短影片, 3秒就被AI 做成「分聲」詐騙你媽
二、視訊詐騙：DeepFake 深偽技術可合成影片及語音，甚至發展成視訊詐騙，除了政治人物,名人也是仿冒的對象,比如馬斯克和幣安執行長都曾遭冒用推銷詐騙加密貨幣。
2023年五月某科技公司郭姓老闆接了一通好友的視訊電話, 10分鐘蒸發1873萬,原來好友的影像竟然就是AI合成。
三、恐嚇詐騙：移花接木合成不雅照片，恐嚇勒索當事人。台灣知名的 26歲百萬 YouTuber 小玉自曝「花150人民幣」買軟體「只花30分鐘和一個配音員」就可以讓肖像被盜對象講出任何他想要對方講的話」, 他非法利用DeepFake 犯罪工具，將包含黃捷、鄭家純（雞排妹）、高嘉瑜、龍龍等名人的臉合成在A片女優身上，移花接木的性愛影片，造成百人受害，不法所得逾新台幣上千萬元。