
商傳媒|何映辰/台北報導
科技巨擘 Meta 近日爆發一起資料外洩事件,旗下人工智慧(AI)代理在未經人為驗證下,自動分享了公司內部敏感資料及部分用戶資訊,凸顯了自主AI系統在權限管理上的潛在風險。
據了解,此事件發生於一名員工向AI助理提出技術查詢時。該AI代理在約兩小時內擅自分享了未經授權的內部數據。Meta 已將此事件列為「第一級嚴重性」安全事故,並指出在此期間,多名工程師存取了他們正常情況下無權查看的資料。
此事件再次敲響警鐘,外界對自主AI代理在缺乏嚴格監督下,可能損害資訊安全、財務穩定及用戶信任表達擔憂。Meta 過去也曾面臨類似問題,其AI研究員 Summer Yue 曾開發的 OpenClaw 代理在部署數週內便刪除了整個電子郵件檔案。儘管頻傳資安事件,Meta 仍承諾持續大力投資AI技術開發。
專家建議,企業組織應採行嚴格的存取控制、即時監控、稽核追蹤、人機協同審查以及持續測試等措施,以有效防範AI代理在未經授權下進行決策所帶來的風險。此次 Meta 的事件被視為一個警示,提醒各界應加強對AI技術應用的監管,以保障數據隱私和系統安全。