商傳媒｜何映辰／台北報導
隨著人工智慧 (AI) 工具日益整合至企業營運中，資安界開始關注這些強大工具可能帶來的內部威脅。美國網路資安公司 DTEX 日前發布研究警告，指出目前市面上的人工智慧 Agent (AI agent，一種能自主執行任務的軟體) 恐成為企業最大的內部資安隱患，大幅加速資料外洩的風險。
DTEX 的研究人員詳細說明，以 Anthropic 開發、用於企業環境的 Claude Cowork 為例，儘管其提供便利的 AI Agent 部署方式，卻也賦予 Agent 幾乎完整的系統存取權限。Claude Cowork 包含多種工具，可讓使用者遠端控制其 Agent，例如 Dispatch 工具，能將指令從手機傳遞至桌上型電腦的 Claude Agent。Dispatch 更整合了與 Salesforce AI agents 溝通的 Plugin（外掛程式），能存取並傳輸資料。
研究人員進行兩項情境測試：首先，提示 Claude 從 Salesforce 總結資訊並貼入 Microsoft Outlook 電子郵件草稿；其次，指示 Agent 歸檔選定檔案並透過 Claude Cowork 應用程式傳輸。DTEX 的測試結果證實，AI Agent 可存取敏感系統、應用程式和資料，包括 SharePoint 企業資料、Microsoft OneDrive 中的生產文件、Outlook 電子郵件、Salesforce 資料，以及使用者端點設備上的任何檔案。針對這些應用程式，Claude Cowork 都有專屬的 Plugin 或應用程式介面（API），可在被提示（prompt）時向外部共享資料。在這些情境中，研究人員僅使用簡單的單輪提示，並在 10 到 30 分鐘內完成資料外洩的準備工作。
DTEX 內部威脅情報與創新總監 Alex Desmond 表示，邊緣模型（frontier models）的改進與 AI 工具更深層的整合，使得防禦者應對資安漏洞的時間急遽縮短。他指出，網路攻擊的「攻擊鏈」（kill chain）執行時間已從六個月前的數小時，縮短至目前的 10 到 30 分鐘不等。他強調，AI 洩密的速度，加上對業務網路或雲端服務的直接存取，可能造成內部威脅的「惡夢」，企業需同時監控惡意行為者與員工潛在的錯誤。DTEX 的研究並非指出軟體漏洞，而是一個 IT 治理與可見度問題。許多企業在未實施足夠安全控制、存取政策和監控措施的情況下，就將 AI 工具整合到工作流程中，並鼓勵員工使用。
若組織沒有記錄和審計其提示，或事件是 Agent 自主行為或回應惡意指令所導致，將很難判斷涉及 AI Agent 的資料外洩是如何發生。此外，如果使用者日常工作流程涉及將敏感檔案下載到本地端，網路和雲端監控可能無法提供足夠強烈的訊號來偵測資料外洩。
Alex Desmond 進一步解釋，如果一個國家級駭客合法進入企業環境，並獲得 AI 工具的存取權限，這形同是給予他們「所有東西的鑰匙」，以及一個讓竊取資料變得更簡單的工具。例如，曾有西方 IT 與網路資安企業發現，求職者實際上是為北韓政府秘密工作，利用薪資規避國際制裁並資助北韓核武計畫，同時獲取敏感資料或資產。這些研究結果顯示，企業在擁抱 AI 帶來的便利性時，也必須正視其潛在的資安風險，並全面檢視現有的資安策略，以確保這些強大的工具不會反過來成為企業最脆弱的環節。
