自從ChatGPT在幾個月前推出以來，人工智慧的利與弊一直是網路上熱門的話題。趨勢科技新聞部落格也持續地在這話題上追蹤報導：從最近的ChatGPT資料外洩到Snapchat的My AI，更不用說聊天機器人和人工智慧對教育帶來的影響了。本文整理概述四種AI威脅。
🔻本文預覽：
📌 一.AI 語音複製詐騙（Voice Cloning）
📌 二.假AI軟體/工具的網路釣魚廣告
📌 三.AI生成圖片詐騙
[警告] 三種運用 AI 技術的網路威脅和詐騙
分類: AI 詐騙/AI惡意程式/AI資安
OpenAI 確認 ChatGPT 出現資料外洩
火紅的聊天機器人ChatGPT自幾個月前發表以來一直都是新聞的焦點，正面和負面的報導都有。雖然使用者可以用ChatGPT做出許多令人驚奇的事情，但人們也因為安全、隱私問題以及網路犯罪分子和線上詐騙者的使用而感到擔憂。三星公司和義大利政府等不同機構都已經開始禁止使用ChatGPT，也有專家呼籲暫停AI的開發。
最近，當AI教父Geoffrey Hinton公開退出Google，以便以客觀身份警告ChatGPT和Google Bard等AI系統的潛在風險時，也讓這類報導達到巔峰。Hinton指出：「這項技術會帶來龐大好處，但全世界也必須在AI安全及控制方面進行大量且緊急的投資。」
如果這些對母公司OpenAI來說還不算什麼，那現在ChatGPT遭遇了第一次資料外洩事件。
繼續閱讀Google 搜尋「midjourney」AI 繪圖生成工具,當心假下載真偷個資
隨著 AI 工具的爆紅，駭客集團也開始相中這些工具。無論企業或一般使用者在下載及使用任何應用程式和工具時，都應該隨時保持警戒,避免點選可疑廣告或下載未經確認或非官方來源的應用程式，尤其利用 google 搜尋關鍵字時,更要提防夾帶惡意程式的網頁廣告。
ChatGPT 之類的人工智慧 (AI) 工具突然爆紅，使得它們被駭客相中，成為其社交工程（social engineering ）陷阱誘餌，誘騙受害者下載惡意程式植入器，最終感染 Vidar 和 Redline 之類的資訊竊取程式。
最近，我們一直在觀察 Google 搜尋引擎上與 AI 工具 (如 Midjourney 和 ChatGPT) 相關的惡意廣告。圖 1 顯示使用者在 Google 上搜尋「midjourney」這個關鍵字時可能看到的惡意廣告 (註： Midjourney 是一種 AI 繪圖生成工具，可讓使用者透過自然語言描述來產生自己想要的圖片)。
繼續閱讀《資安新聞周報》辦公室上百支桌機狂響 詐騙集團來電聲稱「健保卡異常」/升級後的GPT-4可能讓網路犯罪也升級/外媒警告與 ChatGPT 聊天千萬別做這 4 件事
本周資安新聞週報重點摘要，本文分享上週資安新聞及事件。你將會看到新聞的簡短摘要及原文連結來閱讀更詳細的見解。
資安趨勢部落格一周精選
- 勒索病毒演進深入剖析：威脅情勢將出現革命性轉變(下篇)
- 趨勢科技最新研究點出企業在網路資安、業務營收與人力管理方面的矛盾認知
- 勒索病毒演進深入剖析:商業模式改變背後的誘因 (中篇)
- 勒索病毒演進深入剖析:從假防毒軟體到多重勒索(上篇)
- 「汽燃費逾期徴收通知」、「信箱收到小七禮券」、「請登入gmail重設密碼」、「你的 IG 帳號被投訴」、「你的連線不是私人連線」這些是詐騙嗎？
- 資安主管請注意：勒索病毒再進化的 4 類資安風險
- 趨勢科技公佈三大網路犯罪組織類型
- 《上週資安新聞周報》直擊駭客競賽 VICONE防堵車輛資安漏洞/用 LINE 玩 ChatGPT 小心詐騙，過幾天你會發現 AI 機器人變真人了! /FBI 示警：別用機場USB充手機 帶「這2物」最安全
資安新聞精選
點擊「eTag賬單自動扣款失敗」簡訊 恐被盜刷騙個資 ETtoday新聞雲
《我見我思》資安長慎防AI網路攻擊 工商時報
Europol報告指出，升級後的GPT-4可能讓釣魚郵件、詐騙以及網路犯罪也升級 T客邦
別被騙！AI生成圖片太逼真「怎麼判斷真假」 用4招看出破綻 三立新聞網
最新測試：11 字元純數字密碼 AI 瞬間破解，擁抱無密碼功能才是王道 科技新報
快更新 Windows 電腦！微軟一次修補 97 個安全漏洞 駭客已出手攻擊 自由時報電子報
【快訊】Amazon 參戰！推出 AI 平台「Bedrock」闖進 AIGC 軍備競賽 INSIDE
ChatGPT 可快速「量產」超危險惡意軟體，任何人都能發動國家級駭客攻擊 科技新報網
小心被 AI 出賣！外媒警告與 ChatGPT 聊天千萬別做這 4 件事 自由時報電子報
【資安日報】4月17日，ChatGPT付費帳號在駭客之間炙手可熱，相關買賣在地下論壇不斷出現 iThome
AI成電信詐騙最強助手 手機用戶是最大目標 TechNice 科技島
零經驗也能扮駭客 ChatGPT漏洞成隱憂 TechNice 科技島
【資安日報】4月14日，駭客透過臉書廣告贊助貼文，假借提供ChatGPT、Google Bard聊天機器人程式的名義，散布竊資軟體 iThome
槓上微軟！亞馬遜提供免費人工智慧寫程式助手 TechNice 科技島
邊聊邊查！微軟將 Bing 納入Android 和 iOS 輸入法中 TechNice 科技島
微軟正透過 PowerToys 將 ChatGPT 整合到 Windows 11 和 Windows 10 中 電腦王阿達
微軟力推製造業AI 資安承諾最受矚 電子時報
不讓中國專美於前 美參院領袖起草AI管理規定 中央通訊社
微軟與Cohesity深化AI合作 增強資安與資料應用 電子時報
AI Expo首日開幕 毛治國：OpenAI打開潘朵拉盒子 直球對決更勝禁用阻絕 電子時報網
黃天牧：8月出檯金融科技發展方案2.0 擬將AI納管 工商時報電子報
有條件解禁ChatGPT 義大利：最快4/30開放 自由時報電子報
全國首例 桃園1999案件以ChatGPT分析 自由時報電子報
蘋果Mac用戶被盯上！ 駭客集團開發「針對Mac病毒軟體」首曝光 ETtoday新聞雲
蘋果遭疑釣魚！狂要求輸入AppleID密碼 客服回應了 ETtoday新聞雲
Mercedes-Benz總裁：賓士不只是汽車，更可能變成軟體公司 Luxury Watcher
駭客組織3種類型曝光 大型集團年營收至少15億台幣 自由時報電子報
Android 新型惡意軟體現身Google Play！67款App 暗竊個資讓手機狂噴電 自由時報電子報
廣告一邊賣美白牙齒產品一邊賣迷姦藥 FB：不回應 ETtoday新聞雲
【資安日報】4月19日，駭客挾持YouTube頻道散布竊資軟體Aurora，過程中利用惡意程式載入工具迴避資安系統偵測 iThome
台灣人去年被騙69億！社群平台成詐騙溫床 專家教你如何破解 ETtoday新聞雲
個資外洩遭詐84萬「上法院也討不回」！為何買了什麼詐騙集團都知 ETtoday新聞雲
智慧轉型強化韌性，踏上製造進化旅程 電子時報網
謀財駭命鎖定製造業 聯合新聞網
車輛中心給工業電腦大廠、資安公司強化車用資安 台灣新生報
在動盪時代掌握成長契機的「新營運思維」：景氣低谷投資「資安」，如何讓企業踩下彎道超車的油門？ 報橘
數位時代人才講求「跨」，資安廠又如何看跨領域人才？ 科技新報網
Windows最新更新引發相容性問題 微軟緊急修補 TechNice 科技島
駭客欲嗑蘋果 專家示警M1用戶留意 TechNice 科技島
Apple Card模式 在台行不通 經濟日報網
iPhone的Lockdown模式 有效阻止間諜軟體攻擊 TechNice 科技島
手機iMessage成詐騙新管道 國家隊三竹資訊致力研發防詐策略 工商時報網
馬斯克要發展AI聊天機器人TruthGPT iThome
繼續閱讀AI聊天機器人遭詐騙集團利用，ChatGPT 出現山寨手機App版本，下載竟盜刷用戶信用卡上千元
用戶在應用程式商店下載了AI聊天機器人ChatGPT後，信用卡帳單不只莫名奇妙被刷上千元，還多出好幾筆小額支付，一查才發現自己竟然載錯軟體被盜刷了！
ChatGPT在剛開始推出時，因主打可以免費跟AI聊天機器人進行對話，甚至回答使用者各種疑難雜症而爆紅。然而，詐騙集團利用ChatGPT的知名度，推出了一堆冒牌的服務，甚至是連ChatGPT官方都沒有的App版本，並以此來盜取使用者的個人資料和信用卡資訊。
什麼是ChatGPT？
ChatGPT是由人工智慧研究機構OpenAI團隊於2022年11月發布，是一款最近在AI聊天機器人領域爆紅的服務，透過自然語言跟使用者對話。它運用了GPT（Generative Pre-training Transformer）技術，可以根據對話內容生成回應，並且不斷地學習和提高自己的對話能力。