新報告警示：未受控的Agentic AI成為關鍵安全風險

新報告警示：未受控的Agentic AI成為關鍵安全風險

隨著科技的迅速進步，代理型人工智慧（Agentic AI）日益受到關注，而一份最新報告強調了該技術在未受控的情況下可能引發的重大安全風險。代理型AI不再僅僅被動執行指令，而是如同數位共事者般具備高度自主性。這種強大的自主性雖然帶來了技術的革新，卻同時帶來了全新的風險，亟需企業採取措施來應對。

代理型AI的潛在風險

根據JumpCloud公司的報告顯示，目前有超過八成的企業已經在使用人工智慧代理人，但只有不到一半的企業制定了正式的管理政策。這種治理和採用上的脫節，使得企業面臨新的威脅類型，而無法迅速因應。

Agentic AI的重大危險在於其能夠獨立行事的能力。如果缺乏適當的控制，AI可能會在未經人類監控的情況下引發數據外洩、財務損失甚至是合規性違規等問題。JumpCloud產品管理高級副總裁Joel Rennich指出，"若缺乏適當的防護措施，代理型AI可能在不被察覺的情況下就造成不可預知的資料遺失或違反合規的事件。"

身份優先的治理模式

報告主張引入"身份優先"的治理架構，認為應將AI代理人視為數位身份來進行管理，如同對待人類員工和非人類身份（NHI）一樣。不僅要為每個代理分配獨一無二的身份，同時必須實時監控他們的行為，以確保安全。

《Who Let the Bot In?》這本電子書籍，是專為IT和安全領導者而寫，旨在幫助他們了解代理型AI獨特的風險並建立主動的治理模式。另外，電子書中還包含了一個《風險預備檢核表》來幫助組織評估他們的準備情況。

對策與建議

針對代理型AI的風險，報告強調了導入管理策略的重要性，包括對AI代理人的活動進行實時監控、建立角色基礎的訪問控制以及採用多重身份認證等措施。同時，報告指出，必須定期審查和更新這些規範以適應AI技術的快速變化。此外，企業也應重視員工的教育和訓練，以確保他們了解這些技術的風險以及相關的保障措施。

JumpCloud公司的角色

JumpCloud公司提供了一個整合的身份、裝置與訪問管理平台，以便企業能夠在單一平台上安全地管理其組織內的身份、裝置和訪問權限。這意味著無論員工在何處工作，跨Windows、Apple、Linux和Android等裝置，皆能確保安全性和便利性。

這篇報導於2025年由JumpCloud發佈，旨在提醒各行各業對代理型AI技術進行警惕和適當的管理措施，以免陷入潛在的安全陷阱。隨著科技的進步，保持對新技術的監控與管理是每個企業不可或缺的責任。