作者：姜理得 (Peter Chiang)
趨勢科技首席客戶體驗長（Chief Consumer Experience Officer, TrendLife)
近來圍繞 AI 安全性的討論，引出了一個超越科技的重要問題：當 AI 開始代替我們採取行動時，會發生什麼事？
AI 代理人 (AI Agent) 是一種能夠主動執行任務的軟體，例如管理預訂、安排流程，甚至協助完成付款等工作。
當媒體報導 AI 代理人 執行了未經授權的行為時，這些事件值得我們認真調查與深入理解。人們有權了解問題如何發生，以及未來如何防止類似情況再次出現。
日常使用的 AI 代理人可能會誤解我們的需求，或執行超出授權範圍的行動。犯罪分子也可能利用 AI，讓詐騙手法更具真實性與說服力，同時也能快速的接觸更多人。此外，讓 AI 代理人變得更符合並了解生活需求的個人資訊，例如人際關係、生活習慣與商業往來資料，也同樣需要受到保護，因為這些資訊也可能被用來欺騙我們。事實上，這些風險往往相互交織。舉例來說，若詐騙者掌握家庭旅遊計畫或企業供應商資訊，就更容易偽造看似可信的要求，不論是針對個人本身，還是針對代表個人執行任務的 AI 助理。
面對這些挑戰，需要的是對技術理解且嚴謹的工程方法，和能驗證保護機制成效的評估制度。空泛的承諾或過於樂觀的預測，無法協助人們理解自己真正面對的風險。我們需要足夠的透明度與細節，幫助人們做出明智決策，同時誠實說明哪些問題仍存在不確定性。
AI 帶來機會，也帶來新的責任
近期我在澳洲介紹 TrendLife Kaleida 時，分享了為什麼這些議題對我而言特別重要。成為父親後，我開始思考 如何透過AI 培養兒子的好奇心，並幫助他建立自己的判斷力。同時，我也看見 AI 為高齡族群帶來的可能性。科技可以協助他們維持自主生活能力，並依照自己的意願持續與家人、朋友及有意義的活動保持連結。
對小型企業經營者來說，這樣的承諾可能代表更快完成繁瑣的行政工作，或有更多時間服務客戶。然而，這其中涉及的客戶資料、資金流向與企業聲譽，往往是多年辛苦經營累積而來的成果，因此相關安全防護措施也必須反映這份重要性。
讓 AI 理解界線，而不只是遵守指令
這也是我支持黃仁勳 (Jensen Huang) 與 NVIDIA 強調「將 AI 代理人安全視為工程責任」的原因。趨勢科技執行長陳怡樺 (Eva Chen) 曾表示，有信心透過資安技術，讓 AI 代理人變得安全且實用。我也抱持同樣的信念。在趨勢科技 TrendLife，我們的工作就是將這種嚴謹的方法，帶進我們每天使用的數位工具之中。
NVIDIA 安全架構中的一項重要原則是 ，不能單靠指令作為限制 AI 代理人權限的唯一界線。我們應該教導 AI 理解我們的意圖，並尊重我們設定的限制。同時，周邊機制也必須在 AI 犯錯或遭到惡意誤導時，強制執行這些限制。同樣的謹慎態度也應該套用在資訊存取上：AI 助理應僅能取得完成任務所需的個人或企業最小限度資訊。
想像一位企業主使用 AI 助理處理收到的發票。AI 助理可以將發票與訂單進行比對，並預先準備好付款資訊供企業主審核。然而，若涉及變更供應商的銀行資料或實際匯出款項，就必須經過企業主事先設定的獨立驗證。一封聲稱來自供應商、內容看似可信的電子郵件，不應該因此授予 AI 助理新的權限。企業主應該能夠查看 AI 助理獲准執行哪些操作、修改這些權限，並在發現異常時立即中止 AI 的行動。這也正是保護個人隱私至關重要的原因。想像一位長者收到一則緊急求助訊息，內容精準提及兒孫的名字，甚至是家族近期才完成的真一趟旅行。這些真實細節確實讓故事顯得極具說服力，但並不代表訊息真的來自家人。真正有用的安全防護，應該是協助長者透過他們原本就信任的管道進行驗證，同時將最終決定權保留在長者自己手中。AI 應該因為更了解我們而變得更有用，而不是因為知道得更多，反而讓我們更容易受騙。
AI 能否真正契合人的需求，也體現在那些安靜而日常的時刻。當一名青少年請 AI 協助寫作文時，他需要的往往是引導想法、啟發靈感，而不是讓 AI 直接代替他完成思考。同時，孩子也該清楚知道哪些對話會受到隱私保護，以及哪些內容家長看得見。而家長則需要適度了解孩子的學習狀況，以提供支持，並尊重青少年日益增強的自主意識要讓 AI 真正符合人們的需求，就必須認真看待這些不同的需求，並在AI 偏離重點時，隨時給人們修正它的空間。
真正有效的防護，需要經得起驗證
再完美的防護架構，終究需透過實證檢驗其成效。我們需要具體的量化解答：詐騙防護機制的漏報率與誤報率為何？權限撤銷後，AI 代理人是否確實無法再執行資金調撥？輔助學習工具能否真正提升使用者的理解與表達能力？
評估安全機制，必須依據真實場景的量測結果，並清楚標示數據的有效邊界。此外，風險對價同樣重要，漏報高風險請求與阻斷低風險操作，付出的成本完全不同。防護措施應落實風險分級管理：從設定提醒到資金匯出，必須搭配相應嚴謹度的驗證機制。
建立值得信任的 AI
有些風險至今仍然難以量化。《國際 AI 安全報告》指出我們對於 AI 潛在風險的認知仍存在不少盲點。正因如此，我們更該將這些「未知」轉化為前進的契機，用來指引更深入的測試、設定更嚴謹的邊界；若安全防護尚未到位，甚至應果斷決定延後推出該功能。
這正是我想在趨勢科技 TrendLife 貫徹的標準：保護個人隱私、協助人們辨識欺騙，並讓 AI 與日常數位工具變得更安全、更容易使用。趨勢科技 TrendLife Kaleida 在家庭生活中實踐了這樣的理念。而隨著中小企業逐漸成為趨勢科技 TrendLife 不斷拓展的使命之一，這份責任也延伸到了廣大的企業經營者身上。無論是家還是庭企業主，都應該能直接享有嚴謹資安技術所帶來的便利與保護，而不必先把自己變成資安專家。
每一個人的觀點都很重要，因為我們身為科技建構者所做的選擇，會確實影響許多人的生活。我仍然對 AI 能為我的兒子、社區中的長者，以及我們所服務的大眾帶來的無限可能性抱持希望。要贏得大家的信任，需要工程師的嚴謹、研究者的好奇心，以及深刻體會利害關係者的溫暖關懷。這正是我想讓 大眾認識趨勢科技 TrendLife 的方式：讓人們能夠安心擁抱 AI 的無限可能，同時守護他們最在乎的人、資訊與生活方式。