商傳媒｜責任編輯／綜合外電報導
社群媒體巨擘 Meta 近日證實，旗下一個內部AI代理程式（AI agent）因提供錯誤指引，導致一名工程師在公司內部環境中，將大量敏感的公司與用戶資料意外暴露給其他未獲授權的員工。這起事件觸發了內部最高等級的 Sev-1 警報，資料外洩持續約兩小時，所幸 Meta 聲明資料並未外洩至公司外部，且問題已獲得控制。
這起事件發生在一次例行性查詢內部AI代理程式的過程中。該AI系統建議的步驟，使得原本不應存取這些資料的員工，得以檢視敏感資訊。資安專家指出，這起案例凸顯了企業在管理自主型AI代理程式與保護資料存取方面，存在更廣泛的弱點。許多廠商與研究人員認為，現今企業在開發、支援與營運環節部署AI代理程式時，往往未將其視為需要特殊控管的獨立實體。
資安公司 Bonfy.AI 執行長暨共同創辦人 Gidi Cohen 表示，Meta 的事件精準反映了在缺乏資料中心防護措施的情況下，放任AI代理程式處理敏感資料的後果。他強調，這並非複雜的通用人工智慧（AGI）失效，而是由於工程師與代理程式都缺乏對資料存取權限的長期概念，導致大量資料暴露給不應見到的內部人員。傳統的端點資料外洩防護（DLP）、雲端存取安全代理（CASB）及角色權限管理等措施，在資料流經AI代理程式的推論步驟與工具呼叫時，可能無法有效監控。
Delinea 亞太區副總裁 Cynthia Lee 指出，Meta 事件再次提醒各界，AI風險已是當前營運挑戰。她表示，AI代理程式能迅速且精確地執行任務，但缺乏人類對後果的理解、機構記憶、判斷力及對風險的感知，卻被賦予越來越多關鍵系統的存取權限。Delinea 最近一項研究顯示，多達九成的澳洲企業和九成五的新加坡企業正加速採用AI，同時卻面臨資安團隊需放寬身份控管的壓力。這種在缺乏必要保障下賦予AI代理程式更大存取權限和自主性的做法，形成了危險的失衡。
專家普遍認為，每一個AI代理程式都應被視為一個新的身份，能夠存取關鍵資料、觸發工作流程並採取特權行動。面對AI同時放大生產力與錯誤的挑戰，解決之道並非減緩創新，而是強化控管。這意味著企業應以對待人類使用者同等的嚴謹態度來管理AI代理程式，包括實施最小權限原則、確保即時可視性，並採納零信任（Zero Trust）安全架構。隨著AI深度嵌入企業環境，資安治理而非速度，將成為企業韌性的關鍵。Meta此次事件，為台灣乃至全球加速佈局AI的企業，提供了重要啟示，凸顯了在享受AI帶來的效率之餘，更需嚴肅面對其可能帶來的潛在資安與用戶隱私風險。
