【2023年9月25日，台北訊】全球網路資安解決方案領導廠商趨勢科技(東京證券交易所股票代碼：4704) 今天宣布將號召數千名員工參加公司內部舉辦的一項AI競賽來提升員工對這項新興技術的了解、認知與專業能力。
欲了解採用AI技術的趨勢科技Vision One平台更多資訊，請至：https://www.trendmicro.com/zh_tw/business/products/one-platform.html
趨勢科技執行長陳怡樺表示：「這項AI競賽的目的是要藉由一種歡樂、競爭的形式來為趨勢人注入一股活力，讓他們展現創造力並藉此熟悉AI技術。對我們而言，很重要的是要在創新的過程當中找到樂趣而不被日常工作限制了想像。當我們對這項技術更加了解之後，自然就能將它應用到工作當中，進而帶動趨勢團隊的持續進步。」
繼續閱讀不要再相信「眼見為憑」、「有圖有真相」了！
FBI發現有人用盜來的個資與Deepfake技術求職 ,也有詐騙集團利用AI變臉軟體一邊變臉一邊直播,類似的手法越來越猖獗,根據 三立新聞報導 ,女警還示範如何講話講著講著「瞬間變成你同學」 。
來源：視訊電話別亂接！眼見不一定真 揭詐團「AI變臉視訊」新手法 三立新聞網
警方分析深偽技術，發現已有3類詐騙手法被應用：
一、電話詐騙：模仿親友聲音，詐騙金錢及個資。
2019 年 9 月出現 Deepfake 技術製作的一段語音來誘騙英國某高階經理將 243,000 美元匯到某個歹徒所開設的帳戶。根據受害企業的保險公司表示，歹徒在電話中假冒的聲音不僅能模仿被冒充者的聲音，還能模仿其說話的語調、斷句及腔調。
延伸閱讀：「媽，我被綁架了！」小心你上傳的短影片, 3秒就被AI 做成「分聲」詐騙你媽
二、視訊詐騙：DeepFake 深偽技術可合成影片及語音，甚至發展成視訊詐騙，除了政治人物,名人也是仿冒的對象,比如馬斯克和幣安執行長都曾遭冒用推銷詐騙加密貨幣。
2023年五月某科技公司郭姓老闆接了一通好友的視訊電話, 10分鐘蒸發1873萬,原來好友的影像竟然就是AI合成。
三、恐嚇詐騙：移花接木合成不雅照片，恐嚇勒索當事人。台灣知名的 26歲百萬 YouTuber 小玉自曝「花150人民幣」買軟體「只花30分鐘和一個配音員」就可以讓肖像被盜對象講出任何他想要對方講的話」, 他非法利用DeepFake 犯罪工具，將包含黃捷、鄭家純（雞排妹）、高嘉瑜、龍龍等名人的臉合成在A片女優身上，移花接木的性愛影片，造成百人受害，不法所得逾新台幣上千萬元。
【2023年8月31日，台北訊】全球網路資安領導廠商趨勢科技(東京證券交易所股票代碼：4704)發表2023上半年資安總評報告，表示AI工具已成為歹徒簡化詐騙流程、自動過濾目標以及擴大攻擊規模的利器。勒索病毒集團之間合作更加頻繁，也越來越常在攻擊當中「自帶含漏洞的驅動程式」(BYOVD)，攻擊GoAnywhere、3CX、PaperCut和MOVEit等軟體的零時差漏洞，並經常利用強度不足或預設的密碼來入侵企業。報告亦指出，台灣上半年偵測到約4,400萬筆惡意連結，高居全球第三，次於日本與美國。
取得完整報告「預先防範風險：2023上半年資安總評」(Stepping ahead of risk:2023 Midyear Security Roundup)：AI創新為犯罪分子實現攻擊自動化、提升犯罪效率
繼續閱讀重新思考生成式 AI 與大型語言模型 (LLM) 時代的學習指標並培養批判性思考
最近我在南非和一群教育工作者進行了一場關於人工智慧 (特別是 ChatGPT 和類似產品) 的對話，他們都擔心這套軟體可能會讓學生更容易作弊。
我們討論到兩種 ChatGPT 的替代選擇：第一，老師可以要求學生繳交手寫的作業，這樣會強迫學生在交作業之前至少會讀過一次作業的內容。第二，老師在打分數時，最高只給到 89 分 (也就是 B)，但如果要拿到 A，學生必須站在全班面前用口頭方式說明他的內容、研究方法以及結論，並回答老師或同學可能提出的任何問題。(有了口頭方式為自己的想法辯護，老師甚至完全不需要學生繳交書面作業！)
OWASP 針對大型語言模型 AI 聊天機器人首次提出了一份風險清單，再次證明生成式 AI 正迅速邁入主流階段，而這份清單也象徵著保護企業、防範 AI 相關威脅的重要一步。
20 多年來，「開放網站應用程式安全計畫」(Open Web Application Security Project，簡稱 OWASP) 的十大風險清單一直是企業改善軟體安全最指標性的一份參考資料。這也難怪當今年春季初 OWASP 發布最新的十大風險清單並聚焦大型語言模型 AI 漏洞時，開發人員和網路資安專業人士都紛紛密切關注。
OWASP 此一動作再次證明了 AI 聊天機器人正迅速邁入主流階段。根據一項調查，有將近一半 (48%) 的受訪企業表示他們在 2023 年 2 月左右已經開始採用 ChatGPT 來「取代勞工」，而這距離 ChatGPT 發表以來才不過短短的三個月。許多觀察家都憂心指出，AI 的普及既倉促、又缺乏對相關風險的了解，因此 OWASP 的十大 AI 風險清單來得正是時候，也有其必要。
繼續閱讀