ChatGPT 聊天機器人對孩子有什麼影響?

在去年11月30日推出的ChatGPT是由OpenAI開發的聊天機器人,這家新創公司由Elon Musk等人於2015年共同創立,並且獲得微軟等公司的資金投入。這些強大的工具將對溝通、教育及許多其他領域產生重大影響。AI聊天機器人也是一門大生意:Google自家的Bard只錯誤回答了一個問題,就讓該公司市值損失了1,000億美元。
不出所料地,人們也有著許多的疑問:從對新聞和學術誠信的擔憂,到家長對ChatGPT這類工具對學校教育、錯誤資訊及網路安全所造成影響的擔憂。本文也談談它對孩子所帶來的影響。

ChatGPT是什麼?它和AI(人工智慧)有何關係?


ChatGPT是一種自然語言處理工具,這強大的生成式AI可以使用從網路上獲取的資料來撰寫自己的回答。它幾乎可以回答任何問題,並產生幾乎任何內容,包括文章、電子郵件、歌曲和詩歌等等。用它自己的話來說

「ChatGPT是OpenAI開發的AI語言模型,能夠根據給定的輸入生成類似人類的回答。該模型經過大量文字資料的訓練,可以回答問題、總結長文、撰寫故事等等。它通常用於對話型AI應用,模擬與使用者的人類對話。」

AI聊天機器人已經出現了一段時間,第一個聊天機器人ELIZA早在六十年代就誕生。ChatGPT也不會是最後一個,但它是迄今為止最先進的(和其他有一定差距),並且只會越來越好 – 下一個版本GPT-4預計會在今年晚些時候發布。

繼續閱讀

AI聊天機器人遭詐騙集團利用,ChatGPT 出現山寨手機App版本,下載竟盜刷用戶信用卡上千元

用戶在應用程式商店下載了AI聊天機器人ChatGPT後,信用卡帳單不只莫名奇妙被刷上千元,還多出好幾筆小額支付,一查才發現自己竟然載錯軟體被盜刷了!

ChatGPT在剛開始推出時,因主打可以免費跟AI聊天機器人進行對話,甚至回答使用者各種疑難雜症而爆紅。然而,詐騙集團利用ChatGPT的知名度,推出了一堆冒牌的服務,甚至是連ChatGPT官方都沒有的App版本,並以此來盜取使用者的個人資料和信用卡資訊。

什麼是ChatGPT?


ChatGPT是由人工智慧研究機構OpenAI團隊於2022年11月發布,是一款最近在AI聊天機器人領域爆紅的服務,透過自然語言跟使用者對話。它運用了GPT(Generative Pre-training Transformer)技術,可以根據對話內容生成回應,並且不斷地學習和提高自己的對話能力。

繼續閱讀

回顧這一年 ChatGPT 從 GPT-3 學到了什麼

在 2022 年 11 月開始掀起的喧囂與評論聲浪中,我們檢視了 OpenAI 的 ChatGPT 對網路資安產業將帶來的可能性與影響,並且拿它與先前的產品 (如 GPT-3) 做一番比較。

自從一年多前 GTP-3 在全球造成轟動開始,我們就仔細研究了這項 AI 技術,並分析它為網路犯罪產業帶來了什麼能力與潛力。這些討論都收錄在我們的「Codex Exposed」系列部落格文章中,該系列特別從資安的角度來探討幾個最重要的技術面向:

  1. 蒐集敏感資料:本文試圖揭露當使用者利用這套語言模型來產生程式碼時,可能看到哪些隱藏在訓練用原始程式碼中的敏感資料。
  2. 模仿遊戲:本文藉由測試 GPT Codex 產生與理解程式碼的能力極限,試圖從架構的角度了解該語言模型對電腦程式碼的理解程度如何。
  3. 工作自動化與輸出一致性:本文試圖利用 Codex 的 API 來撰寫程式看看它是否能在無人監督的情況下執行一些重複性工作。
  4. 幫忙訓練駭客:本文探討及分析利用大型語言模型來協助訓練及支援新手駭客的可能性。
繼續閱讀

你跟著一窩蜂「開房間」了嗎?聊聊Clubhouse等線上語音聊天社群APP的六個資安風險

近來 Clubhouse大量洗版,「開房間」、「邀請碼」等關鍵字成為超夯的社交用語,這款爆紅的語音聊天社群應用程式正迅速地吸引目光,但跟隨而來的是安全隱憂。比如說在帳號認證功能出現前,已經看到有假冒帳號的出現。本文介紹六個可能的資安風險,並提供用戶「開房間」前要注意的三件事,及建議服務商可以強化的資安重點。


你跟著一窩蜂「開房間」了嗎?聊聊Clubhouse等線上語音聊天社群APP的六個資安風險

語音社群應用程式如 ClubhouseRiffrListenAudlistHearMeOut 等在近幾年吸發大量的關注。但就跟其他熱門的社群軟體一樣,也伴隨著安全風險。而且這些風險多數都能夠自動化快速地散播惡意威脅。要注意的是,這些應用本身並非惡意軟體。威脅來自網路犯罪分子會尋求利用這些平台的方法。

本文將分析這些語音社群應用程式(主要是Clubhouse,也包括Riffr、Listen、Audlist和HearMeOut)的可能風險及相關建議。

趨勢科技的研究於今年2月8日至11日間進行。裡面所提到的問題在本文發表時可能已經或正被應用程式廠商修復。我們也已經將研究結果通報給相關廠商。史丹佛大學的網路觀測計畫(SIO)也發表了相關但獨立的研究。Clubhouse已經迅速回應了SIO及其他研究人員所提出的疑慮。

此外,趨勢科技也獨立取得並分析了聲稱可將 Clubhouse 語音內容公開的軟體工具,該事件被媒體重點報導並被Clubhouse迅速地封鎖。我們要強調的是,這並不是個安全漏洞。該事件是開發者建立了一個鏡像網站,其他人可以用開發者的帳號收聽而非使用自己的帳號。雖然這肯定違反了服務條款,但並沒有使用任何特定的安全漏洞,更重要的是,鏡像網站並未進行錄音:聲音是從Clubhouse伺服器串流到請求的客戶端,從未經過鏡像網站。換句話說,該網站只是個客戶端,不過是基於JavaScript而非iOS。儘管這類型的服務濫用可能會變得越來越難,但網路服務或社群網路都很難徹底加以禁絕,因為沒有技術方法能有效地封鎖濫用行為,而不會影響到正常使用者。

繼續閱讀