人工智慧 - 資安趨勢部落格

ChatGPT 突顯教育體系的缺陷

2023 年 08 月 28 日2023 年 08 月 29 日趨勢科技 TrendMicro

重新思考生成式 AI 與大型語言模型 (LLM) 時代的學習指標並培養批判性思考

防止學生利用 ChatGPT 作弊的兩個替代選擇

最近我在南非和一群教育工作者進行了一場關於人工智慧 (特別是 ChatGPT 和類似產品) 的對話，他們都擔心這套軟體可能會讓學生更容易作弊。

我們討論到兩種 ChatGPT 的替代選擇：第一，老師可以要求學生繳交手寫的作業，這樣會強迫學生在交作業之前至少會讀過一次作業的內容。第二，老師在打分數時，最高只給到 89 分 (也就是 B)，但如果要拿到 A，學生必須站在全班面前用口頭方式說明他的內容、研究方法以及結論，並回答老師或同學可能提出的任何問題。(有了口頭方式為自己的想法辯護，老師甚至完全不需要學生繳交書面作業！)

繼續閱讀

「GPT4 救了我的狗」獸醫要失業了？GPT-4 自認將取代的20種工作

2023 年 03 月 28 日2023 年 03 月 30 日趨勢科技 TrendMicro

除了瘋狂示愛,把記者嚇到失眠,再進化後的聊天機器人還可憑著用戶上傳的冰箱食材照片，提供食譜與烹飪教學。
ChatGPT最近幾個月來備受新聞媒體關注。本（資安趨勢）部落格也報導了ChatGPT-3的推出以及它對兒童和教育的影響，更別提還有關於假ChatGPT應用程式及網頁氾濫的文章。現在ChatGPT-4已經問世，讓我們將目光放到這個最新版本上。他用ChatGPT「成功救愛犬性命」,失業的會是獸醫嗎？「ChatGPT-4 會搶走我的工作嗎？」如果你擔心這個問題,看看ChatGPT 怎麼說。

繼續閱讀

回顧這一年 ChatGPT 從 GPT-3 學到了什麼

2023 年 03 月 03 日2023 年 03 月 07 日趨勢科技 TrendMicro

在 2022 年 11 月開始掀起的喧囂與評論聲浪中，我們檢視了 OpenAI 的 ChatGPT 對網路資安產業將帶來的可能性與影響，並且拿它與先前的產品 (如 GPT-3) 做一番比較。

自從一年多前 GTP-3 在全球造成轟動開始，我們就仔細研究了這項 AI 技術，並分析它為網路犯罪產業帶來了什麼能力與潛力。這些討論都收錄在我們的「Codex Exposed」系列部落格文章中，該系列特別從資安的角度來探討幾個最重要的技術面向：

蒐集敏感資料：本文試圖揭露當使用者利用這套語言模型來產生程式碼時，可能看到哪些隱藏在訓練用原始程式碼中的敏感資料。
模仿遊戲：本文藉由測試 GPT Codex 產生與理解程式碼的能力極限，試圖從架構的角度了解該語言模型對電腦程式碼的理解程度如何。
工作自動化與輸出一致性：本文試圖利用 Codex 的 API 來撰寫程式看看它是否能在無人監督的情況下執行一些重複性工作。
幫忙訓練駭客：本文探討及分析利用大型語言模型來協助訓練及支援新手駭客的可能性。

繼續閱讀

AI 也學壞了?Amazon語音助理Alexa叫10歲小女孩嚐試觸電挑戰!

2022 年 01 月 13 日2022 年 01 月 12 日趨勢科技 TrendMicro

天氣不好或是疫情升溫無法出去玩時,你會請語音助理建議玩些室內遊戲嗎?當心別碰上這樣的事情…

Amazon(亞馬遜) AI 語音助理Alexa竟然向一名10歲女孩「發出挑戰」，要她拿銅板碰觸通電插座。這建議是在小女孩要求做一項「挑戰」時的回應:「將手機充電器插進牆上插座一半，然後用硬幣碰觸暴露的插腳」。Amazon聲稱已經修復了這個錯誤。

繼續閱讀

趨勢科技與MIH為電動車開發安全打底

2021 年 10 月 20 日2021 年 10 月 22 日趨勢科技 TrendMicro

攜手建構全球最新以安全為設計基礎 (Secure by Design) 的Open EV Platform電動車開放平台

【2021年10月20日，台北訊】全球網路資安解決方案領導廠商趨勢科技 (東京證券交易所股票代碼：4704) 與MIH Consortium共同宣布，為了兼顧汽車安全及資訊安全，攜手建構全球首創以安全為設計基礎的「EVKit」電動車開放平台。

未來的電動車主流是透過軟體定義，應用人工智慧，大數據及車聯網，以提供各式各樣創新的個人化駕駛體驗。趨勢科技和 MIH 的合作，結合趨勢科技全球的車聯網資安專業，首度以安全為設計基礎 (Secure by Design) 概念制定並實作EVKit軟體的安全架構以及介面，除了提供一個安全的軟體執行環境，並可讓各項資料與數據得以安全的傳輸與存取，且在EVKit中提供車廠及第三方應用開發者方便、安全且具備認證機制的開發環境。

「為有效縮短開發周期和降低進入門檻，MIH正透過軟體定義車輛 (Software-Defined Vehicles – SDV) 的方式替開發者創建 Open EV Platform電動車開放平台。Open EV Platform 由硬體和軟體組成，應用範圍涵蓋了完整的電動車開發與測試的生命週期，並提供開發者一個 Open EV marketplace。」MIH 技術長魏國章表示。「身為MIH在車輛安全上最重要的夥伴之一，趨勢科技憑藉著領先全球的資安專業，協助MIH定義屬於電動車的通用安全框架，不但全面支援車載網路的入侵檢測、系統保護以及網路威脅防護等，更統一了開發者介面，幫助全球從事資安解決方案的合作夥伴，大幅降低參與建構MIH安全生態系統的門檻，以吸引更多優秀的開發者加入。」

趨勢科技核心技術執行副總裁兼首席資訊長鄭奕立表示：「研究指出，至2035年時全球銷售的汽車中，聯網智能汽車佔比預計高達80%^註1，2030年時行車數據所帶來的年增值可望達到4,000億美元^註2。利之所在，往往威脅之所趨，資訊安全勢必將成為聯網汽車最關鍵的要素之一，然而目前傳統汽車業常採用的外掛資安方案對未來的資安威脅並不是最有效的方式。解決連網智能汽車資訊安全的最有效方式就是直接在軟體架構上採用以安全為設計基礎、具備資安防護機制的開發平台，才能有效提升未來汽車的資安。為了提供安全無虞的電動車開放平台，趨勢科技也特別建立專業的車聯網資訊安全技術團隊，與MIH共同為EVKit平台提供與時俱進的安全架構。」

趨勢科技與MIH以安全為設計基礎 (Secure by Design) 概念，為EVKit建構與設計車內資安軟體架構，包括：