天氣不好或是疫情升溫無法出去玩時,你會請語音助理建議玩些室內遊戲嗎?當心別碰上這樣的事情…
Amazon(亞馬遜) AI 語音助理Alexa竟然向一名10歲女孩「發出挑戰」，要她拿銅板碰觸通電插座。這建議是在小女孩要求做一項「挑戰」時的回應:「將手機充電器插進牆上插座一半，然後用硬幣碰觸暴露的插腳」。Amazon聲稱已經修復了這個錯誤。
繼續閱讀標籤: AI
雙面刃!AI 及 ML被拿來犯罪
本文探討今日人工智慧 (AI) 及機器學習(Machine learning,ML) 如何遭到不肖利用及濫用，並且提出一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。
趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol)
人工智慧 (AI) 正促使全球快速邁向一個更充滿活力的世界。AI 是電腦科學底下一個與其他學門息息相關的子領域，蘊含著提升效率以及促進自動化與自主性的龐大潛力。簡而言之，AI 是第四次工業革命的核心技術，也是一把雙面刃。至於機器學習(Machine learning,ML) 則是 AI 底下的一個專門藉由大量資料分析與演算法來找尋模式和規律的子領域，可讓企業機構與政府機關實現一些重大計畫，最終將驅動創新並改善營運。
AI 及 ML 在商業領域的結合相當普遍，事實上，截至 2020 年為止，已有 37% 的企業和機構以某種形式將 AI 整合到他們的系統與流程當中。有了這類技術的工具，企業就能更準確地預測客戶的購買行為，進而增加營收。某些企業在 ML 與 AI 工具的協助下，創造了驚人的業務，Amazon 即是一例，該公司 2018 年的市值已經達到一兆美元。
儘管 AI 和 ML 扮演了企業、關鍵基礎建設以及各種產業的重要支柱，並且協助人類因應一些重大的挑戰 (如 Covid-19 疫情)，但這些技術卻也讓各式各樣的數位、實體以及政治威脅浮上檯面。企業機構及一般個人若想確保自身安全、防範 AI 技術遭不肖之徒利用或濫用，就必須學習認識並了解 AI 系統遭惡意濫用的風險。
由趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol) 聯合製作的研究報告「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence) 一文，不僅探討了當今 AI 與 ML 技術遭到不肖利用及濫用的現況，更提出了一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。
AI 與 ML 遭到不肖利用及濫用的現況
AI 與 ML系統對企業來說不可或缺的一些功能，例如藉由大數據分析來自動產生預測並發掘一些不斷出現的模式和規律，剛好就是網路犯罪集團用來謀取不法獲利的功能。
響應 SID 全球網路安全日，趨勢科技發布 Deepfakes 防禦三招
【2020年2月11日，台北訊】今日為由歐盟發起、目前全世界已經超過130個國家共同響應的全球網路安全日 (SID, Safer Internet Day)，全球網路資安解決方案領導品牌以及SID長期合作夥伴趨勢科技(東京證券交易所股票代碼：4704)，特別與Cool English 酷英英語線上學習平台合作，推出系列網路安全宣導動畫，是趨勢科技2020 ISKF 兒童與家庭網路安全計畫 （Internet safety for kids and family）首波主打。並同時針對網路上最新、利用AI技術行高明詐騙的Deepfakes，提供「停、問、舉報」三招，從根本上遏止其流傳。
趨勢科技台灣區暨香港區總經理洪偉淦表示：「網路與社群已經高度融入孩子的學習與生活，網路安全不只是在軟硬體上架設防護網，更重要的是使用者的認知與行為，全球網路安全日的宗旨是創造更好、更安全的網路世界，趨勢科技也在此呼籲所有家長、教育單位、學童與社會大眾共同關切與參與。」
繼續閱讀微調良性皮膚病變影像像素,竟誤導AI辨別為惡性病變!對抗式攻擊如何破壞機器學習?
科學 (Science) 期刊所發表的一份研究報告中，提到可能被用於破壞機器學習 (Machine learning,ML) 系統的進階技巧警告。這份研究詳細說明如何建構並部署對抗式攻擊 (也就是用來破壞 ML 系統的技巧)，於機器學習和人工智慧 (AI) 技術使用率日益提高的醫療產業中。在示範中，有一個良性的皮膚病變影像，影像中有一小部分的像素經過修改，結果誤導了診斷的 AI 系統，將其辨別為惡性病變。
機器學習和 AI 系統遭到對抗式攻擊( adversarial attacks )入侵的例子，並不只侷限於醫療產業的應用。舉例來說，原應協助保護企業資源與資料的機器學習系統，也可能遭到這類的攻擊。
[請參閱：Clustering Malicious Network Flows With Machine Learning]
發生在安全系統的對抗式攻擊
Dark Reading 近期發表的一篇文章中，點出了網路罪犯可能用來顛覆企業資安防衛的攻擊方法。例如，攻擊者可能利用使用機器學習的自動化滲透測試工具深度滲透 (Deep Exploit) 來嘗試滲透組織，而且只要 20 至 30 秒就能找出企業防衛中的資安漏洞。這種攻擊方法如此快速，是因為其利用機器學習模型，快速吸收並分析資料，同時產生最適合用於下一個攻擊階段的結果。
繼續閱讀