企業 AI:Agent 治理

TL;DR

• 企業採用的兩個書擋:一端是個人生產力 agent(找資訊、代做小事),另一端是 CIO/CTO 組織自建、跑完整安全掃描與審核流程的 high-code agent。兩端都動得起來,中間那一大片才是還沒解鎖的。
• 為什麼中間卡住:兩個書擋之所以可行,是因為 agent 都在沿用使用者身分行動,企業既有的 IAM 自然生效。一旦 agent 被分享出去、或多個 agent 跨部門協作,「誰的權限」就崩解了——我把能讀薪資的 agent 分享給權限更低的同事會怎樣?反過來,分享給權限更高的同事又會怎樣?
• 治理三問:visibility(這其實是新的 shadow IT——員工從網路上下載一個 skill 就用,你看得到嗎?)、control(least agency:查假期餘額可以、改薪資不行,而且要細到任務層級)、security(能不能主動降低風險、偵測惡意行為?出事誰負責——你能開除一個 agent 嗎?)。
• Google Cloud 的解法是把 agent 塞進既有的企業流程,而不是另建一套:為每個 agent 鑄造專屬身分(agent identity),於是 IAM、存取控制、kill switch 全部沿用;像員工在 LDAP 有 ID 一樣註冊每個 agent;靜態與 runtime 都要可觀測。
• 關鍵轉變:從靜態權限到 runtime 權限檢查。 使用者入職一次設好權限就結束;agent 不行,查假期餘額和寫入薪資資料庫必須被區分。由 Agent Gateway + IAM 在任務發生的當下做檢查;Model Armor 在 runtime 做非確定性的政策分析(prompt injection、PII 外洩),再加上離線的異常稽核。
• 結論:投資治理不是踩煞車,而是油門——「better governance unlocks more agent autonomy」。

重點整理

現況:技術跑得快,組織走得慢(約 00:27–00:29)

他先講了一個對照:還記得手機曾經不准帶進企業、不能連內部系統嗎?現在 AI 面對的是更大的問號,但解法已經在路上了。

談新技術時,大家花很多時間討論「這技術是什麼、會顛覆什麼」,接著是「我能拿它做出什麼產品」,但很少人想 day two——部署完之後怎麼營運、怎麼管理。技術 × 產品 × 營運三者的交集,才是真正拉高採用率的甜蜜點。

企業客戶的問題在這幾年明顯換了三次:三、四年前是「證明給我看 AI 真的有用」;很快變成「教我怎麼用、怎麼做成產品」;現在他跟資深主管談的都是「我知道我會大規模部署,幫我管理這個規模」。

兩個書擋,以及中間那片空白(約 00:29–00:30)

• 一端:個人生產力產品——快速找到資訊、代為執行動作,個人或企業場景都有。
• 另一端:CIO / CTO 組織自建的 high-code agent,走完整測試、安全掃描與審核流程,再部署給組織使用。

兩端都在動:員工端由個人生產力驅動,組織端由新投資驅動。但中間有一大片還沒被解鎖,原因就是治理。

框架:把 agent 當實習生(約 00:30–00:31)

這是他建議產品設計時採用的心智模型。實習生進公司,你信任他做某些事、但不會給全部權限,同時也期待他交付成果。一個好的實習生會告訴你三件事:

1. 我交付了什麼
2. 我需要幫忙的地方 → 這就是你的 human in the loop
3. 我解不開的地方 → 這就是你的 error analysis

而管理者這一端要能給回饋。每一次 human-in-the-loop 的互動,都是一次擷取殘餘知識、讓下一輪自動化更好的機會;error analysis 同理。把這些回饋迴路內建進組織,agent 的專業度會長得非常快。

他預期的終局:每一項任務、每一位員工,都配有一支 agent 大軍——可能是我的個人 agent,可能是替我做事的 agent,也可能是取代「去問那位專家同事」這個動作的 agent。

治理缺口一:agent 分享時的權限落差(約 00:31–00:32)

現在能運作的兩個書擋,都是因為 agent 用的是使用者身分——使用者能存取什麼,agent 就存取什麼,企業既有的身分與存取管理自然覆蓋。

但當我建了一個 agent 並分享給同事:

• 我的權限比較高:agent 會碰到同事看不到的資料。直接拒絕存取很容易,但那就給了同事一個壞掉的 agent。
• 同事的權限比較高(他稱這是更棘手的情況):我把一個「更新薪資資訊」的 agent 給了權限更高的人,他就真的能改了。

治理缺口二:跨部門的多 agent 協作(約 00:32–00:33)

例子:一個合約生成 agent 掌握定價方案與折扣資格;業務團隊有另一個 agent 在看客戶帳戶。兩者若能協作直接生成完美合約,組織鏈上的人工交接就少很多。但一旦跨越部門穀倉,問題就變成:哪些資料會被曝光、哪些功能會被曝光、彼此被允許做到哪裡?

蒸餾出的三個需求:visibility / control / security(約 00:33–00:35)

企業現況是同時跑多個 LLM、不同 agent 做不同事用不同模型,底下再接一堆 MCP、API endpoint 與 CLI。要用一致的方式管理這一切,CIO 與資安長問的就是三件事:

• Visibility:「我花了大把時間解決 shadow IT,現在這根本是 shadow AI。員工從網路上下載一個他喜歡的 skill 拿來內部用,我怎麼知道?它又在存取什麼?」
• Control:如何限制到 least agency?查我的假期餘額可以;更新假期餘額我或許能接受風險;但絕不允許自主 agent 更新薪資資訊。這需要理解任務本身、理解資料限制,再做細粒度控制。
• Security:如何主動降低風險、偵測惡意行為?而且未必是 agent 失控——「以前出事大家怪實習生,現在怪 agent」,但究竟誰要負責?組織裡做壞事會被開除,那你能開除一個 agent 嗎?

他強調:要真正解鎖 agent 自主性,必須同時處理技術、流程與人的心態。

Google Cloud 的治理堆疊(約 00:35–00:41)

底層是 Gemini Enterprise agent 平台(可低代碼 / 無代碼建 agent),治理則是被當成基礎建材、可組合的多個模組:

1. 身分是一切的起點。過去控制點是使用者身分;新世界裡他們為每個在企業內運作的 agent 鑄造專屬身分。這樣做的意義在於:企業現有的 IAM 流程可以無縫套用——你能識別一個 agent、能對它拉 kill switch、能用現有 IAM 管它的存取控制。
2. 註冊(registry):就像每位員工在 LDAP 目錄裡有 ID,每個 agent 也要註冊,才知道它有哪些控制、存取與權限。
3. 可觀測性:不只在 agent 被鑄造出來的當下靜態檢查,runtime 也要觀測。
4. 前後端接點:agent 可透過各種介面曝光(chat、Slack 等),後端接到各式資料源——能不能接得到,同樣回到身分。
5. 從靜態權限到 runtime 權限檢查(他認為這是真正的新東西):使用者入職時設定一組權限就結束了,但 agent 需要情境感知、任務感知的權限。「查假期餘額」和「對薪資資料庫做寫入」是完全不同的兩件事,所以要在任務正在發生的當下判斷。他們用 Agent Gateway 搭配 IAM 授權來做這件事。
6. Model Armor:在 IAM 這種一次設定好的政策之上,加一層非確定性的企業政策分析——檢查 prompt injection、驗證 PII 是否洩漏、什麼東西正被帶出模型或資料。runtime 之外還要有離線檢查來找異常活動。
7. 沿用既有的 API 安全機制:幾乎每家公司在「從內部資料庫走向行動裝置 / 面向消費者的 app」時,就已經在 API 層解決過「把身分綁定到可存取資料」這個問題。這些底層原語直接拿來用。

收尾:「用你既有的基礎設施,但上面要加一些特調醬料。投資治理,會讓你在這條 agentic 旅程上跑得更快。」

金句

"You could not bring your own device into the enterprise and connect it to your enterprise systems. Think of what it took to get over that hump — and we are in an even bigger question mark at this point in AI."(約 00:27)

用 BYOD 的歷史類比:企業對新技術的抗拒是可以被跨越的,但這次的問號更大。

"It used to be the case when something went wrong people would blame it on the intern. Now people blame it on an agent. But ultimately who's actually accountable for it? … With an agent, can you fire an agent?"(約 00:34)

全場最尖銳的一問——組織的問責機制建立在「做壞事會被開除」上,而 agent 不在這個機制裡。

"The best context is the smallest context that gets the job done."(約 01:28,panel 環節)

他在後續 panel 回答 sovereign AI 時說的,可視為這場演講的補注:資料不一定要進模型,你可以在主權環境裡用前沿模型。

"Investing in governance will actually help you accelerate as you go through this agentic journey."(約 00:41)

演講的結論句,也是他的招牌主張「better governance unlocks more agent autonomy」的另一種說法。