AI (人工智慧) - 資安趨勢部落格

雙面刃!AI 及 ML被拿來犯罪

2020 年 12 月 07 日2020 年 12 月 03 日趨勢科技 TrendMicro

本文探討今日人工智慧 (AI) 及機器學習(Machine learning,ML) 如何遭到不肖利用及濫用，並且提出一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。

趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol)

人工智慧 (AI) 正促使全球快速邁向一個更充滿活力的世界。AI 是電腦科學底下一個與其他學門息息相關的子領域，蘊含著提升效率以及促進自動化與自主性的龐大潛力。簡而言之，AI 是第四次工業革命的核心技術，也是一把雙面刃。至於機器學習(Machine learning,ML) 則是 AI 底下的一個專門藉由大量資料分析與演算法來找尋模式和規律的子領域，可讓企業機構與政府機關實現一些重大計畫，最終將驅動創新並改善營運。

下載「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence)

AI 及 ML 在商業領域的結合相當普遍，事實上，截至 2020 年為止，已有 37% 的企業和機構以某種形式將 AI 整合到他們的系統與流程當中。有了這類技術的工具，企業就能更準確地預測客戶的購買行為，進而增加營收。某些企業在 ML 與 AI 工具的協助下，創造了驚人的業務，Amazon 即是一例，該公司 2018 年的市值已經達到一兆美元。

儘管 AI 和 ML 扮演了企業、關鍵基礎建設以及各種產業的重要支柱，並且協助人類因應一些重大的挑戰 (如 Covid-19 疫情)，但這些技術卻也讓各式各樣的數位、實體以及政治威脅浮上檯面。企業機構及一般個人若想確保自身安全、防範 AI 技術遭不肖之徒利用或濫用，就必須學習認識並了解 AI 系統遭惡意濫用的風險。

由趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol) 聯合製作的研究報告「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence) 一文，不僅探討了當今 AI 與 ML 技術遭到不肖利用及濫用的現況，更提出了一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。

AI 與 ML 遭到不肖利用及濫用的現況

AI 與 ML系統對企業來說不可或缺的一些功能，例如藉由大數據分析來自動產生預測並發掘一些不斷出現的模式和規律，剛好就是網路犯罪集團用來謀取不法獲利的功能。

繼續閱讀

不單只有 DeepFake ! 最新研究報告發現歹徒利用人工智慧犯罪

2020 年 11 月 28 日2020 年 11 月 28 日趨勢科技 TrendMicro

歐洲刑警組織 (Europol)、聯合國區域犯罪與司法研究院 (UNICRI) 及趨勢科技共同揭露今日及未來的 AI 威脅及反制建議

【2020年11月26日，台北訊】一份由歐洲刑警組織 (Europol)、聯合國區域犯罪與司法研究院 (UNICRI) 及全球網路資安解決方案領導廠商趨勢科技 (東京證券交易所股票代碼：4704) 共同製作的研究報告在今天正式出爐，內容揭露了歹徒如何利用今日的人工智慧 (AI) 技術來犯罪，並預測其未來的可能發展。該報告點出了今日及未來一些可能運用 AI 技術的網路攻擊，並提供相關建議給執法人員、政策制定單位以及其他機構知道該如何降低這類風險。

繼續閱讀

從移花接木的 Deepfake 影音,看機器學習與網路攻擊

2020 年 03 月 18 日2021 年 12 月 23 日趨勢科技 TrendMicro

換臉、控制嘴唇,植入假造的音源檔,流傳在網路上萬個造假影片,用 #Deepfake #深偽技術製造的。如果你的老闆在 Youtube 上有很多影音,得當心被利用了
這項技術已被網路犯罪集團用來圖利，已出現的案例是模仿大老闆的聲音，語調、斷句及腔調,進行語音網路釣魚,騙走 24.3 萬美金。😰

本文說明幾種運用機器學習技術的駭客概念驗證與真實攻擊案例來說明當前機器學習在網路威脅領域的應用現況與未來可能性。

資安廠商正運用機器學習(Machine learning,ML)技術來改善其威脅偵測能力，協助企業強化惡意程式、漏洞攻擊、網路釣魚郵件、甚至未知威脅的防禦能力。Capgemini Research Institute 針對機器學習在資安上的應用做了一份研究，他們發現在所有受訪的 10 個國家 850 位資深高階經理當中，約有 20% 在 2019 年之前便已開始運用機器學習技術，另有 60% 將在 2019 年底前開始採用。

機器學習在網路資安領域的應用已證明相當有效，更別說在其他眾多產業也獲得了相當的成果。不過這項技術卻也存在著被犯罪集團吸收利用的風險。儘管機器學習變成大規模犯罪武器的可能性似乎還很遙遠，但有關這方面的研究，尤其是利Deepfake 深度偽造技術來從事勒索或散布假訊息，近來在 IT 業界與一般大眾之間已掀起了一波熱議。

為了進一步說明當前機器學習在網路威脅領域的應用現況與未來可能性，以下說明近幾年來一些運用機器學習技術的駭客概念驗證與真實攻擊案例：

繼續閱讀

微調良性皮膚病變影像像素,竟誤導AI辨別為惡性病變!對抗式攻擊如何破壞機器學習?

2019 年 05 月 06 日2019 年 05 月 06 日趨勢科技 TrendMicro

科學 (Science) 期刊所發表的一份研究報告中，提到可能被用於破壞機器學習 (Machine learning,ML) 系統的進階技巧警告。這份研究詳細說明如何建構並部署對抗式攻擊 (也就是用來破壞 ML 系統的技巧)，於機器學習和人工智慧 (AI) 技術使用率日益提高的醫療產業中。在示範中，有一個良性的皮膚病變影像，影像中有一小部分的像素經過修改，結果誤導了診斷的 AI 系統，將其辨別為惡性病變。

機器學習和 AI 系統遭到對抗式攻擊( adversarial attacks )入侵的例子，並不只侷限於醫療產業的應用。舉例來說，原應協助保護企業資源與資料的機器學習系統，也可能遭到這類的攻擊。

[請參閱：Clustering Malicious Network Flows With Machine Learning]

發生在安全系統的對抗式攻擊

Dark Reading 近期發表的一篇文章中，點出了網路罪犯可能用來顛覆企業資安防衛的攻擊方法。例如，攻擊者可能利用使用機器學習的自動化滲透測試工具深度滲透 (Deep Exploit) 來嘗試滲透組織，而且只要 20 至 30 秒就能找出企業防衛中的資安漏洞。這種攻擊方法如此快速，是因為其利用機器學習模型，快速吸收並分析資料，同時產生最適合用於下一個攻擊階段的結果。

繼續閱讀

《病毒30演變史》「一封郵件騙走一棟房子」老闆,別再成詐騙集團金雞母 ! 2018年趨勢科技首創 AI 技術防禦BEC 詐騙

2018 年 10 月 16 日2018 年 10 月 19 日趨勢科技 TrendMicro

趨勢科技成立之初,當年出現的病毒,是靠磁碟片傳播的
今年(2018年)趨勢科技成立滿 30 年,我們一同回顧 30年病毒/資安威脅演變史。
本篇來到 2013年開始興起的 BEC 電子郵件詐騙,及趨勢科技如何使用人工智慧 (AI) 及機器學習來防禦這類詐騙

2017年 10 月新竹一間長期與中國代工廠合作的科技公司，原本都用對方「xxx@ximhan.net」信箱聯絡，沒想到歹徒另創立名稱相似的「xxx@xlmhan.net」假帳號，以定期更換受款帳戶，以免遭洗錢犯罪利用為由，要求更改受款帳戶。該公司不疑有他，一時眼花, i 跟 l 分不清,損失新台幣2千餘萬元!這是變臉詐騙攻擊或稱為商務電子郵件入侵(Business Email Compromise 簡稱 BEC) 常用的手法。一封郵件騙走一棟房子一點都不誇張。