人工智慧 - 資安趨勢部落格

「GPT4 救了我的狗」獸醫要失業了？GPT-4 自認將取代的20種工作

2023 年 03 月 28 日2023 年 03 月 30 日趨勢科技 TrendMicro

除了瘋狂示愛,把記者嚇到失眠,再進化後的聊天機器人還可憑著用戶上傳的冰箱食材照片，提供食譜與烹飪教學。
ChatGPT最近幾個月來備受新聞媒體關注。本（資安趨勢）部落格也報導了ChatGPT-3的推出以及它對兒童和教育的影響，更別提還有關於假ChatGPT應用程式及網頁氾濫的文章。現在ChatGPT-4已經問世，讓我們將目光放到這個最新版本上。他用ChatGPT「成功救愛犬性命」,失業的會是獸醫嗎？「ChatGPT-4 會搶走我的工作嗎？」如果你擔心這個問題,看看ChatGPT 怎麼說。

繼續閱讀

回顧這一年 ChatGPT 從 GPT-3 學到了什麼

2023 年 03 月 03 日2023 年 03 月 07 日趨勢科技 TrendMicro

在 2022 年 11 月開始掀起的喧囂與評論聲浪中，我們檢視了 OpenAI 的 ChatGPT 對網路資安產業將帶來的可能性與影響，並且拿它與先前的產品 (如 GPT-3) 做一番比較。

自從一年多前 GTP-3 在全球造成轟動開始，我們就仔細研究了這項 AI 技術，並分析它為網路犯罪產業帶來了什麼能力與潛力。這些討論都收錄在我們的「Codex Exposed」系列部落格文章中，該系列特別從資安的角度來探討幾個最重要的技術面向：

蒐集敏感資料：本文試圖揭露當使用者利用這套語言模型來產生程式碼時，可能看到哪些隱藏在訓練用原始程式碼中的敏感資料。
模仿遊戲：本文藉由測試 GPT Codex 產生與理解程式碼的能力極限，試圖從架構的角度了解該語言模型對電腦程式碼的理解程度如何。
工作自動化與輸出一致性：本文試圖利用 Codex 的 API 來撰寫程式看看它是否能在無人監督的情況下執行一些重複性工作。
幫忙訓練駭客：本文探討及分析利用大型語言模型來協助訓練及支援新手駭客的可能性。

繼續閱讀

AI 也學壞了?Amazon語音助理Alexa叫10歲小女孩嚐試觸電挑戰!

2022 年 01 月 13 日2022 年 01 月 12 日趨勢科技 TrendMicro

天氣不好或是疫情升溫無法出去玩時,你會請語音助理建議玩些室內遊戲嗎?當心別碰上這樣的事情…

Amazon(亞馬遜) AI 語音助理Alexa竟然向一名10歲女孩「發出挑戰」，要她拿銅板碰觸通電插座。這建議是在小女孩要求做一項「挑戰」時的回應:「將手機充電器插進牆上插座一半，然後用硬幣碰觸暴露的插腳」。Amazon聲稱已經修復了這個錯誤。

繼續閱讀

趨勢科技與MIH為電動車開發安全打底

2021 年 10 月 20 日2021 年 10 月 22 日趨勢科技 TrendMicro

攜手建構全球最新以安全為設計基礎 (Secure by Design) 的Open EV Platform電動車開放平台

【2021年10月20日，台北訊】全球網路資安解決方案領導廠商趨勢科技 (東京證券交易所股票代碼：4704) 與MIH Consortium共同宣布，為了兼顧汽車安全及資訊安全，攜手建構全球首創以安全為設計基礎的「EVKit」電動車開放平台。

未來的電動車主流是透過軟體定義，應用人工智慧，大數據及車聯網，以提供各式各樣創新的個人化駕駛體驗。趨勢科技和 MIH 的合作，結合趨勢科技全球的車聯網資安專業，首度以安全為設計基礎 (Secure by Design) 概念制定並實作EVKit軟體的安全架構以及介面，除了提供一個安全的軟體執行環境，並可讓各項資料與數據得以安全的傳輸與存取，且在EVKit中提供車廠及第三方應用開發者方便、安全且具備認證機制的開發環境。

「為有效縮短開發周期和降低進入門檻，MIH正透過軟體定義車輛 (Software-Defined Vehicles – SDV) 的方式替開發者創建 Open EV Platform電動車開放平台。Open EV Platform 由硬體和軟體組成，應用範圍涵蓋了完整的電動車開發與測試的生命週期，並提供開發者一個 Open EV marketplace。」MIH 技術長魏國章表示。「身為MIH在車輛安全上最重要的夥伴之一，趨勢科技憑藉著領先全球的資安專業，協助MIH定義屬於電動車的通用安全框架，不但全面支援車載網路的入侵檢測、系統保護以及網路威脅防護等，更統一了開發者介面，幫助全球從事資安解決方案的合作夥伴，大幅降低參與建構MIH安全生態系統的門檻，以吸引更多優秀的開發者加入。」

趨勢科技核心技術執行副總裁兼首席資訊長鄭奕立表示：「研究指出，至2035年時全球銷售的汽車中，聯網智能汽車佔比預計高達80%^註1，2030年時行車數據所帶來的年增值可望達到4,000億美元^註2。利之所在，往往威脅之所趨，資訊安全勢必將成為聯網汽車最關鍵的要素之一，然而目前傳統汽車業常採用的外掛資安方案對未來的資安威脅並不是最有效的方式。解決連網智能汽車資訊安全的最有效方式就是直接在軟體架構上採用以安全為設計基礎、具備資安防護機制的開發平台，才能有效提升未來汽車的資安。為了提供安全無虞的電動車開放平台，趨勢科技也特別建立專業的車聯網資訊安全技術團隊，與MIH共同為EVKit平台提供與時俱進的安全架構。」

趨勢科技與MIH以安全為設計基礎 (Secure by Design) 概念，為EVKit建構與設計車內資安軟體架構，包括：

協助制定EVKit平台的安全架構與介面，以期提供安全的車端軟體安全執行環境，保護車端到雲端的資料傳輸、存取與身分驗證機制。
提供具身份認証的雲端大數據管理及存取功能，車廠可以很容易的建立各種 AI 及大數據應用，如遠端監測，預測型維護及 VSOC等。
提供 EVKiT平台的資安功能存取介面，以便車廠軟體及第三方應用軟體可以直接融入以安全為設計的開放平台架構中，並可很容易的符合各國汽車安規範。
制定並提供符合資安規範的遠端全車韌體升級引擎 (Secure OTA engine)。
提供在 EVKit 平台上的軟體主動安全防護機制，包含入侵主動偵測，人工智慧主動異常偵測，通訊異常偵測等。

註1：Fuji Keizai：コネクテッドカー(つながる車)の世界市場を調査

註2：McKinsey & Co: Unlocking the full life-cycle value from connected-car data

雙面刃!AI 及 ML被拿來犯罪

2020 年 12 月 07 日2020 年 12 月 03 日趨勢科技 TrendMicro

本文探討今日人工智慧 (AI) 及機器學習(Machine learning,ML) 如何遭到不肖利用及濫用，並且提出一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。

趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol)

人工智慧 (AI) 正促使全球快速邁向一個更充滿活力的世界。AI 是電腦科學底下一個與其他學門息息相關的子領域，蘊含著提升效率以及促進自動化與自主性的龐大潛力。簡而言之，AI 是第四次工業革命的核心技術，也是一把雙面刃。至於機器學習(Machine learning,ML) 則是 AI 底下的一個專門藉由大量資料分析與演算法來找尋模式和規律的子領域，可讓企業機構與政府機關實現一些重大計畫，最終將驅動創新並改善營運。

下載「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence)

AI 及 ML 在商業領域的結合相當普遍，事實上，截至 2020 年為止，已有 37% 的企業和機構以某種形式將 AI 整合到他們的系統與流程當中。有了這類技術的工具，企業就能更準確地預測客戶的購買行為，進而增加營收。某些企業在 ML 與 AI 工具的協助下，創造了驚人的業務，Amazon 即是一例，該公司 2018 年的市值已經達到一兆美元。

儘管 AI 和 ML 扮演了企業、關鍵基礎建設以及各種產業的重要支柱，並且協助人類因應一些重大的挑戰 (如 Covid-19 疫情)，但這些技術卻也讓各式各樣的數位、實體以及政治威脅浮上檯面。企業機構及一般個人若想確保自身安全、防範 AI 技術遭不肖之徒利用或濫用，就必須學習認識並了解 AI 系統遭惡意濫用的風險。

由趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol) 聯合製作的研究報告「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence) 一文，不僅探討了當今 AI 與 ML 技術遭到不肖利用及濫用的現況，更提出了一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。