本文探討今日人工智慧 (AI) 及機器學習(Machine learning,ML) 如何遭到不肖利用及濫用，並且提出一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。
趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol)
人工智慧 (AI) 正促使全球快速邁向一個更充滿活力的世界。AI 是電腦科學底下一個與其他學門息息相關的子領域，蘊含著提升效率以及促進自動化與自主性的龐大潛力。簡而言之，AI 是第四次工業革命的核心技術，也是一把雙面刃。至於機器學習(Machine learning,ML) 則是 AI 底下的一個專門藉由大量資料分析與演算法來找尋模式和規律的子領域，可讓企業機構與政府機關實現一些重大計畫，最終將驅動創新並改善營運。
AI 及 ML 在商業領域的結合相當普遍，事實上，截至 2020 年為止，已有 37% 的企業和機構以某種形式將 AI 整合到他們的系統與流程當中。有了這類技術的工具，企業就能更準確地預測客戶的購買行為，進而增加營收。某些企業在 ML 與 AI 工具的協助下，創造了驚人的業務，Amazon 即是一例，該公司 2018 年的市值已經達到一兆美元。
儘管 AI 和 ML 扮演了企業、關鍵基礎建設以及各種產業的重要支柱，並且協助人類因應一些重大的挑戰 (如 Covid-19 疫情)，但這些技術卻也讓各式各樣的數位、實體以及政治威脅浮上檯面。企業機構及一般個人若想確保自身安全、防範 AI 技術遭不肖之徒利用或濫用，就必須學習認識並了解 AI 系統遭惡意濫用的風險。
由趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol) 聯合製作的研究報告「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence) 一文，不僅探討了當今 AI 與 ML 技術遭到不肖利用及濫用的現況，更提出了一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。
AI 與 ML 遭到不肖利用及濫用的現況
AI 與 ML系統對企業來說不可或缺的一些功能，例如藉由大數據分析來自動產生預測並發掘一些不斷出現的模式和規律，剛好就是網路犯罪集團用來謀取不法獲利的功能。
Deepfake 深度偽造技術
一項目前廣獲駭客青睞的 AI 技術就是 Deepfake 深度偽造技術，這是一種用來創造或變造影音內容使其看起來幾可亂真的 AI 技術。Deepfake 結合了「深度學習」與「影音變造」兩項技術，由於它所製作出來的影音內容幾可亂真，即使有科技的幫助也很難分辨真偽，因此未來很可能被用於散布假訊息。而在幾乎人人都會使用網際網路與社群媒體的情況下，Deepfake 將以前所未有的速度觸及全球數百萬人口。
Deepfake 技術很容易被有心人士用來扭曲事實以滿足其不良意圖，一個很好的案例就是一段據稱是某位馬來西亞政治人物助理與內閣官員之間的性愛影片。該影片在 2019 年被人釋出，並要求調查該名內閣官員的貪腐行為。重要的是，該影片的出現導致了聯合政府的動盪，證明 Deepfake 確實可能造成政治效應。還有另一個案例是英國能源公司被騙匯了將近 20 萬英鎊 (約合 26 萬美元) 到一個匈牙利銀行帳戶，歹徒利用一段Deepfake 音訊假冒成該公司的執行長來核准這筆匯款。
由於 Deepfake 這樣的 AI 技術隨時可能被歹徒利用，因此一般人有必要知道像這樣的內容可以真實到何種程度，以及歹徒的運用方式。有趣的是，Deepfake 也可用來教導人們認識其不肖用途：2018 年，網路媒體 Buzzfeed 與演員兼導演 Jordan Peele 合作製作了一段美國前總統歐巴馬的 Deepfake 影片，來提醒人們注意 Deepfake 的潛在問題，要人們小心不要輕易相信網際網路上的內容，包括看似真實的影片。
延伸閱讀:
什麼是Deepfake（深偽技術）? A 片女主角也可以造假!
從移花接木的 Deepfake 影音,看機器學習與網路攻擊
運用 AI 猜測密碼
網路犯罪集團正利用 ML 來提升其猜測使用者密碼的準確度。目前已經有一些較為傳統的方法，如：HashCat 及 John the Ripper 可根據密碼雜湊值的比對來成功猜出某個雜湊值所對應的密碼。然而，在神經網路與生成對抗網路 (Generative Adversarial Network，簡稱 GAN) 的協助下，網路犯罪集團將可分析大量的密碼資料並產生符合統計分布的密碼變化。未來，這將使得密碼的猜測更加精準，進而提高歹徒的獲利機會。
根據一篇 2020 年 2 月發布在地下論壇上的貼文，我們發現有個 GitHub 儲存庫提供了一個密碼分析工具能夠藉由分析 14 億筆登入憑證來產生密碼變化規則。
在社群網路平台上假冒成人類
網路犯罪集團也會利用 AI 來模仿人類行為，例如，AI 能模仿人類使用應用程式的行為來騙過社群媒體平台 (如 Spotify) 的機器人偵測系統。網路犯罪集團會利用這類 AI 技術來製造假流量以捧紅特定藝人，進而從中牟利。
某個名為「nulled.to」的論壇上刊登了一個採用 AI 技術的 Spotify 機器人，宣稱可同時模仿多名 Spotify 使用者，它運用了多個代理器來躲避偵測。像這樣的機器人可用來增加特定歌曲的點播次數，進而賺取收入。此外，它還有另一招躲避偵測的技巧就是在建立播放清單時會模仿人類的音樂品味，而不是隨機將歌曲加入清單，因為這樣看起來才不會像是機器人所產生的。
一篇「blackhatworld.com」論壇上的貼文探討了是否有可能建立一種 Instagram 機器人來產生假的帳號、按讚次數及互相追蹤。這類機器人所運用的 AI 技術也可用來模仿人類的滑鼠操作，例如選取和拖放動作。
將 AI 技術運用到駭客攻擊
網路犯罪集團正試圖利用 AI 來攻擊主機漏洞，例如，我們在 Torum 論壇上看到有使用者想知道如何運用 DeepExploit 這項具備機器學習能力的滲透測試工具。不僅如此，該名使用者還想知道如何讓 DeepExploit 能夠與 Metasploit 滲透測試平台結合，以便用來蒐集資訊，以及建立並測試漏洞攻擊。
我們在「rstforums.com」上看到一則關於「PWnagotchi 1.0.0」的討論串，這原本是一個用來運用解除認證 (de-authentication) 手法駭入 Wi-Fi 網路的工具。PWnagotchi 1.0.0 利用了神經網路模型以及遊戲化 (gamification) 機制，來提高破解的成功率。當系統成功解除某個 Wi-Fi 認證時，就會獲得獎勵，進而自動改善其自身的運作。
除此之外，我們也在「cracked.to」論壇上看到一則貼文列出了一大串開放原始碼駭客工具。這些工具當中包含了一個採用 AI 技術的軟體，可分析經由資料外洩取得的大量密碼資料。此軟體會利用 GAN 來學習人類修改密碼的方式，例如：將「hello123」改成「h@llo123」，接著再改成「h@llo!23」。
AI 與 ML 未來如何遭到不肖利用及濫用?
我們預料，未來犯罪集團會將 AI 運用到各種用途，例如網路犯罪集團很可能利用 AI 來提升其攻擊的範圍和規模，並且用來躲避偵測。此外，AI 不但是他們的攻擊工具，也是攻擊目標。
我們預料犯罪集團會將 AI 用於各種專門詐騙企業機構的社交工程（social engineering ）手法。網路犯罪集團會利用 AI 來產生內容，進而將攻擊的前置作業自動化。此外還可改善企業情報的蒐集、加快偵測潛在受害者與企業流程遭到駭入的速度。如此就能更快、更準確地利用各種攻擊手法，如網路釣魚(Phishing)與變臉詐騙攻擊 (Business Email Compromise, BEC)來詐騙企業。
不僅如此，AI 也可能被用來操弄虛擬加密貨幣的交易，例如，我們在「blackhatworld.com」論壇上看到一則貼文在討論如何利用 AI 機器人從歷史資料當中學習成功的交易策略，進而提升預測與獲利能力。
除此之外，AI 未來還可能被用於造成人身傷害，事實上，目前已有人在開發一種具備 AI 臉部辨識功能並且攜帶一公克炸藥的超小型無人機。這些無人機是仿照小鳥或昆蟲的大小來設計，因此不容易讓人起疑，而且還可以很準確地只轟炸某個人，同時還可利用手機經由網際網路操控。
其實，AI 和 ML 技術在許多領域都能帶來不少正面的用途，包括：影像辨識、語音辨識、語言翻譯、模式偵測以及決策支援等等，而且遍及各種不同領域和產業，只不過這些技術也正遭人用於不法用途。這就是為何我們迫切需要了解這些技術能做到些什麼、可能被歹徒用於哪些情境，以及歹徒的攻擊途徑。了解得越透徹，我們就越能做好萬全準備，進而防範進階攻擊與不當濫用，保障系統、裝置及社會大眾的安全。
有關 Deepfake 技術的更多資訊，以及 AI 與 ML 如何遭到不肖利用及濫用，還有我們對這些技術的一些相關未來預測，請參閱我們的研究報告。
下載「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence)
原文出處：Exploiting AI