換臉、控制嘴唇,植入假造的音源檔,流傳在網路上萬個造假影片,用 #Deepfake #深偽技術 製造的。如果你的老闆在 Youtube 上有很多影音,得當心被利用了
這項技術已被網路犯罪集團用來圖利，已出現的案例是模仿大老闆的聲音，語調、斷句及腔調,進行語音網路釣魚,騙走 24.3 萬美金。😰
本文說明幾種運用機器學習技術的駭客概念驗證與真實攻擊案例來說明當前機器學習在網路威脅領域的應用現況與未來可能性。
資安廠商正運用機器學習(Machine learning,ML)技術來改善其威脅偵測能力，協助企業強化惡意程式、漏洞攻擊、網路釣魚郵件、甚至未知威脅的防禦能力。Capgemini Research Institute 針對機器學習在資安上的應用做了一份研究，他們發現在所有受訪的 10 個國家 850 位資深高階經理當中，約有 20% 在 2019 年之前便已開始運用機器學習技術，另有 60% 將在 2019 年底前開始採用。
機器學習在網路資安領域的應用已證明相當有效，更別說在其他眾多產業也獲得了相當的成果。不過這項技術卻也存在著被犯罪集團吸收利用的風險。儘管機器學習變成大規模犯罪武器的可能性似乎還很遙遠，但有關這方面的研究，尤其是利Deepfake 深度偽造技術來從事勒索或散布假訊息，近來在 IT 業界與一般大眾之間已掀起了一波熱議。
為了進一步說明當前機器學習在網路威脅領域的應用現況與未來可能性，以下說明近幾年來一些運用機器學習技術的駭客概念驗證與真實攻擊案例：
繼續閱讀科學 (Science) 期刊所發表的一份研究報告中，提到可能被用於破壞機器學習 (Machine learning,ML) 系統的進階技巧警告。這份研究詳細說明如何建構並部署對抗式攻擊 (也就是用來破壞 ML 系統的技巧)，於機器學習和人工智慧 (AI) 技術使用率日益提高的醫療產業中。在示範中，有一個良性的皮膚病變影像，影像中有一小部分的像素經過修改，結果誤導了診斷的 AI 系統，將其辨別為惡性病變。
機器學習和 AI 系統遭到對抗式攻擊( adversarial attacks )入侵的例子，並不只侷限於醫療產業的應用。舉例來說，原應協助保護企業資源與資料的機器學習系統，也可能遭到這類的攻擊。
[請參閱：Clustering Malicious Network Flows With Machine Learning]
Dark Reading 近期發表的一篇文章中，點出了網路罪犯可能用來顛覆企業資安防衛的攻擊方法。例如，攻擊者可能利用使用機器學習的自動化滲透測試工具深度滲透 (Deep Exploit) 來嘗試滲透組織，而且只要 20 至 30 秒就能找出企業防衛中的資安漏洞。這種攻擊方法如此快速，是因為其利用機器學習模型，快速吸收並分析資料，同時產生最適合用於下一個攻擊階段的結果。
繼續閱讀趨勢科技成立之初,當年出現的病毒,是靠磁碟片傳播的
今年(2018年)趨勢科技成立滿 30 年,我們一同回顧 30年病毒/資安威脅演變史。
本篇來到 2013年開始興起的 BEC 電子郵件詐騙,及趨勢科技如何使用人工智慧 (AI) 及機器學習來防禦這類詐騙
2017年 10 月新竹一間長期與中國代工廠合作的科技公司，原本都用對方「xxx@ximhan.net」信箱聯絡，沒想到歹徒另創立名稱相似的「xxx@xlmhan.net」假帳號，以定期更換受款帳戶，以免遭洗錢犯罪利用為由，要求更改受款帳戶。該公司不疑有他，一時眼花, i 跟 l 分不清,損失新台幣2千餘萬元!這是變臉詐騙攻擊或稱為商務電子郵件入侵(Business Email Compromise 簡稱 BEC) 常用的手法。一封郵件騙走一棟房子 一點都不誇張。
刑事局受理的 BEC 詐騙案件，到今(2018)年 10月5日為止，已有 45 件，平均算起來，大約每周都會有一家臺灣企業遇害報案，而遭到詐騙的金額更是已經超過2億元。
美國南俄勒岡大學在 201 7年 4 月底因BEC 詐騙轉帳損失190萬美元。他們以為轉帳對象是負責建設學生娛樂中心的建築公司。但該公司從未收到過該款項
原因是騙子冒充既定廠商，向大學財務處發送支付帳戶變更通知郵件
趨勢科技看過各種 BEC 詐騙手法,包含用”採購訂單”當網路釣魚檔名;網路釣魚執行檔易被起疑心, 改用 HTML 附件讓你上鉤!;2017年男大生認罪, 利用 Limitless鍵盤側錄程式危駭數千企業! 趨勢科技FTR 團隊協助逮捕;
今日的科技及分析領域中許多最先進的作法都應用了人工智慧（AI）與機器學習（ML）。這些創新方法所能進行的技術應用幾乎有無限的可能性：從消除人力工作，到讓軟體能夠根據具體效能指標來做出準確的預測。
所以人工智慧與機器學習（無論是單獨使用或互相結合）會應用在跨產業領域的技術上也就不奇怪了。隨著技術的不斷發展，相關人士及決策者都必須了解如何將其應用在業務上及所可能帶來的優勢。
為此，讓我們深入一點來探討人工智慧和機器學習，特別是產業必須的法規遵循及防止垃圾郵件方面。
人工智慧（AI）和機器學習（ML）：重疊但不能互相置換
在我們深入法規遵循及解決垃圾郵件問題前，技術及高階主管必須要先對人工智慧和機器學習概念有基本的了解。這很重要，因為現今的人工智慧和機器學習在許多領域重疊，而模糊了彼此的界線。
正如TechRadar撰稿人Mike Moore所說，人工智慧包含使用強大的演算法來讓電腦可以比人類更準確、更有效地完成任務，替自動化及其他關鍵流程開啟了大門。Moore解釋說，人工智慧讓硬體可以用自己的方式思考。
另一方面，機器學習更進一步地讓電腦不僅能夠完成以前需要人工干預的工作，還可以根據這些工作經驗及用於完成工作的資料來學習和推進。
技術專家Patrick Nguyen在Adweek上做出很好的結論。
Nguyen說：「人工智慧是任何能夠讓系統展現出人類智慧的技術。機器學習是一種使用數學模型加上資料訓練來做出決策的人工智慧。隨著有越多的資料可用，機器學習模型可以做出更好的決策。」
從上面我們可以得知，雖然人工智慧和機器學習經常會放在一起討論，但它們並不是相同的概念。
CME報導現在有15%的企業使用人工智慧，另外有31%的企業計劃在明年內使用。此外，有47%的成熟數位化公司已經制定了人工智慧策略。
機器學習的使用也在不斷增長 – The Enterprisers Project指出有90%的企業領導者認為利用機器學習進行自動化可以大大提升準確率和決策力。此外，27%的高階主管會聘請智慧機器方面的專家來協助進行機器學習計劃。
隨著人工智慧和機器學習在企業軟體和重要業務策略扮演越來越重的角色，了解它們彼此間的差異及它們能力的使用案例是很重要的。讓我們來看看幾個例子，包括了將人工智慧使用在法規遵循及利用機器學習來協助識別和消除垃圾郵件。
