微軟（Microsoft）發布最新《Cyber Pulse報告》，揭露AI代理人（AI Agents）正以驚人速度跨越國界與產業藩籬，成為驅動全球企業的新核心。報告數據顯示，在《財富》500強（Fortune500）企業中，已有高達80%利用低程式碼或無程式碼（low-code/no-code）工具建置並實際運用AI代理人。然而，隨著應用場景急速擴張，一種新型態的「雙面間諜」（Double Agents）資安危機也隨之浮現，恐將企業信賴的數位助手轉化為內部潛伏的破口。
三大產業搶先布局：製造、金融與零售
微軟調查發現，AI代理人的成長動能遍布各行各業，其中以製造、金融與零售業的採用率最為顯著，顯示企業正積極透過AI優化核心營運流程。製造業目前佔全球活躍代理人總數的13%，位居各產業之冠。這意味著AI代理人已深入工廠產線、供應鏈管理及能源營運等實體場景，直接參與生產決策。金融服務業（涵蓋銀行、資本市場與保險）則佔11%，緊追在後；零售業佔9%，主要應用於改善客戶體驗、庫存管理以及輔助第一線人員的日常作業。這些數據證實，AI代理人已非單純的實驗性專案，而是支撐企業運作的關鍵骨幹。
當心「雙面間諜」與影子AI危機
然而，隨著部署規模呈指數級成長，微軟報告特別點出一項致命隱憂：「雙面間諜」風險。攻擊者可能利用或劫持企業內部原本合法、受信任的AI代理人，將其「策反」為攻擊工具。由於這些代理人往往握有存取敏感數據或執行關鍵流程的高權限，一旦遭惡意操弄，將從得力助手瞬間變節為內部破壞者，執行竊取資料或擾亂營運的指令，且因其具備合法身分，企業往往難以在第一時間察覺。
此外，AI開發權的「民主化」也加劇了治理難度。由於許多代理人是由非技術背景的員工自行開發，這些未經IT部門嚴格審查的「影子AI」，常在缺乏監控的情況下握有過高權限。
對智慧代理實施零信任原則
微軟表示，人工智慧代理的擴展速度遠超過預期，這種可見性差距構成了一項業務風險。企業迫切需要有效的治理和安全措施，才能安全地部署人工智慧代理，促進創新並降低風險。與人類使用者一樣，人工智慧代理也需要透過完整的可視性與權限控管，並基於「零信任原則」的強大安全措施來保護。企業在應用AI時，必須將業務、IT、安全和開發團隊緊密合作，掌握組織內AI代理人的全貌，才能建構足以抵禦「雙面間諜」威脅的安全防護網。
對智慧代理實施零信任意味著：
- 最小權限原則： 只授予每個使用者、AI 代理或系統所需的權限—不多不少；
- 明確驗證： 始終使用身分、設備健康狀況、位置、風險等級來確認要求存取的人或事物；
- 假設系統可能遭到入侵： 設計系統時要考慮到攻擊者可能會入侵系統內部。
為了避免AI產生行為偏差的原因，KPMG安侯建業聯合會計師事務所執行董事林大馗也建議，企業現在至少要先做好三件事：先管住「誰可以用AI做什麼」、 關鍵決策一定要有人類點頭，及定期模擬AI被誘導時會發生什麼事。同時參考國際通用的AI風險管理框架與ISO發布的ISO/IEC 42001，從治理層級建立AI管控機制。
完整報告請見：Microsoft: Cyber Pulse: An AI Security Report.
|
