2022年11月推出的ChatGPT是由OpenAI開發的聊天機器人，OpenAI是一家成立於2015年的新創公司。ChatGPT是所謂的自然語言處理工具，它強大的AI功能會使用網路資料來編寫回答。它幾乎能夠回答任何問題，並產生幾乎任何內容。目前的版本是GPT-3，而下個版本GPT-4預定在今年晚些時候發表。
繼續閱讀標籤: AI
ChatGPT 聊天機器人對孩子有什麼影響？
在去年11月30日推出的ChatGPT是由OpenAI開發的聊天機器人，這家新創公司由Elon Musk等人於2015年共同創立，並且獲得微軟等公司的資金投入。這些強大的工具將對溝通、教育及許多其他領域產生重大影響。AI聊天機器人也是一門大生意：Google自家的Bard只錯誤回答了一個問題，就讓該公司市值損失了1,000億美元。
不出所料地，人們也有著許多的疑問：從對新聞和學術誠信的擔憂，到家長對ChatGPT這類工具對學校教育、錯誤資訊及網路安全所造成影響的擔憂。本文也談談它對孩子所帶來的影響。
ChatGPT是什麼？它和AI（人工智慧）有何關係？
ChatGPT是一種自然語言處理工具，這強大的生成式AI可以使用從網路上獲取的資料來撰寫自己的回答。它幾乎可以回答任何問題，並產生幾乎任何內容，包括文章、電子郵件、歌曲和詩歌等等。用它自己的話來說：
「ChatGPT是OpenAI開發的AI語言模型，能夠根據給定的輸入生成類似人類的回答。該模型經過大量文字資料的訓練，可以回答問題、總結長文、撰寫故事等等。它通常用於對話型AI應用，模擬與使用者的人類對話。」
AI聊天機器人已經出現了一段時間，第一個聊天機器人ELIZA早在六十年代就誕生。ChatGPT也不會是最後一個，但它是迄今為止最先進的（和其他有一定差距），並且只會越來越好 – 下一個版本GPT-4預計會在今年晚些時候發布。
繼續閱讀回顧這一年 ChatGPT 從 GPT-3 學到了什麼
在 2022 年 11 月開始掀起的喧囂與評論聲浪中，我們檢視了 OpenAI 的 ChatGPT 對網路資安產業將帶來的可能性與影響，並且拿它與先前的產品 (如 GPT-3) 做一番比較。
自從一年多前 GTP-3 在全球造成轟動開始，我們就仔細研究了這項 AI 技術，並分析它為網路犯罪產業帶來了什麼能力與潛力。這些討論都收錄在我們的「Codex Exposed」系列部落格文章中，該系列特別從資安的角度來探討幾個最重要的技術面向：
- 蒐集敏感資料：本文試圖揭露當使用者利用這套語言模型來產生程式碼時，可能看到哪些隱藏在訓練用原始程式碼中的敏感資料。
- 模仿遊戲：本文藉由測試 GPT Codex 產生與理解程式碼的能力極限，試圖從架構的角度了解該語言模型對電腦程式碼的理解程度如何。
- 工作自動化與輸出一致性：本文試圖利用 Codex 的 API 來撰寫程式看看它是否能在無人監督的情況下執行一些重複性工作。
- 幫忙訓練駭客：本文探討及分析利用大型語言模型來協助訓練及支援新手駭客的可能性。
雙面刃!AI 及 ML被拿來犯罪
本文探討今日人工智慧 (AI) 及機器學習(Machine learning,ML) 如何遭到不肖利用及濫用，並且提出一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。
趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol)
人工智慧 (AI) 正促使全球快速邁向一個更充滿活力的世界。AI 是電腦科學底下一個與其他學門息息相關的子領域，蘊含著提升效率以及促進自動化與自主性的龐大潛力。簡而言之，AI 是第四次工業革命的核心技術，也是一把雙面刃。至於機器學習(Machine learning,ML) 則是 AI 底下的一個專門藉由大量資料分析與演算法來找尋模式和規律的子領域，可讓企業機構與政府機關實現一些重大計畫，最終將驅動創新並改善營運。
AI 及 ML 在商業領域的結合相當普遍，事實上，截至 2020 年為止，已有 37% 的企業和機構以某種形式將 AI 整合到他們的系統與流程當中。有了這類技術的工具，企業就能更準確地預測客戶的購買行為，進而增加營收。某些企業在 ML 與 AI 工具的協助下，創造了驚人的業務，Amazon 即是一例，該公司 2018 年的市值已經達到一兆美元。
儘管 AI 和 ML 扮演了企業、關鍵基礎建設以及各種產業的重要支柱，並且協助人類因應一些重大的挑戰 (如 Covid-19 疫情)，但這些技術卻也讓各式各樣的數位、實體以及政治威脅浮上檯面。企業機構及一般個人若想確保自身安全、防範 AI 技術遭不肖之徒利用或濫用，就必須學習認識並了解 AI 系統遭惡意濫用的風險。
由趨勢科技、聯合國區域犯罪與司法研究院 (UNICRI) 以及歐洲刑警組織 (Europol) 聯合製作的研究報告「人工智慧的不肖利用及濫用」(Malicious Uses and Abuses of Artificial Intelligence) 一文，不僅探討了當今 AI 與 ML 技術遭到不肖利用及濫用的現況，更提出了一些網路犯罪集團未來如何利用這些技術來謀取不法獲利的可能情境。
AI 與 ML 遭到不肖利用及濫用的現況
AI 與 ML系統對企業來說不可或缺的一些功能，例如藉由大數據分析來自動產生預測並發掘一些不斷出現的模式和規律，剛好就是網路犯罪集團用來謀取不法獲利的功能。