推進技術前沿:企業級 Agentic AI 的邊界

TL;DR

• 多 agent 框架有四類 agent:understanding(理解環境與客戶需求)、planner(握有 API、知識與 Capital One 政策,規劃如何滿足需求)、evaluator(獨立驗證計畫是否合規、是否安全,可退回給 planner 甚至 understanding agent)、explainer(把 agent 之間的語言翻譯成人話)。他強調 evaluator 是「secret sauce」。
• 這不是把 RPA 換皮:「這不是把 robotic 那套換成 agent 重做一遍,這是一個本質上非決定性(non-deterministic)的 agent 系統協作達成結果。」
• 已在生產環境:兩個已上線案例——全美經銷商後端使用的購車 chat concierge(車輛需求、庫存、預約、換車,24/7/365 全自主),以及消費金融的詐騙相關對話輔助(理解客訴、建議行員採取的動作、摘要對話形成學習語料)。

重點整理

定位:一家有深厚技術根柢、又懂風險管理的銀行(約 02:00–02:02)

Capital One 一向自我定位為 technology-first 公司,他的判斷是銀行業的贏家會是一家科技公司——同時具備深厚技術根柢與管理風險的能力。技術轉型的路走了一段時間:第一家把業務全面搬上公有雲的大型銀行、現代化資料生態系,以及從創立之初就有的資料驅動分析文化。過去三年半在 generative AI 與 agentic AI 上投入巨大資源,並且是最早把 agentic AI 送進生產環境的企業之一。

他帶的組織叫 AI Foundations,成員以 AI 研究員、應用 AI 工程師、資料科學家為主,目標是「用科學創新換取商業影響」:

• 今年在主要研討會與期刊發表 65 篇以上論文(ICML、ICLR、NeurIPS、ACM 等)。
• 與學界合作:University of Southern California、University of Illinois Urbana-Champaign、Columbia University 等,聚焦在推進 safe AI。

近期論文舉例(他只快速帶過):

• 多 agent 環境下多輪對話的資料集生成——他強調這和單輪、單 agent 的合成資料生成是完全不同的問題。
• 把生成資料路由到多個模型——「你可以把它想成 mixture of models,而不是 mixture of experts」(發表於 ACL)。
• critic-guided distillation 用於穩健推理(發表於 ICML)。

他的核心信念是:真正的差異化只來自用自家資料客製化整條 AI stack——「Capital One 的 AI 優勢,就是把 Capital One 的資料優勢轉換成 AI 優勢。」

框架:四類 agent 與那個獨立的 evaluator(約 02:04–02:06)

Capital One 兩年半前開始探索 agentic AI,去年一月就有第一個 multi-agent 生產系統。他們的整體框架(字幕聽作 "MACA",拼法待確認)由四類 agent 組成:

1. Understanding agent — 與環境或客戶互動,弄清楚對方到底需要什麼。
2. Planner agent — 握有所有 API、所有知識與 Capital One 的政策,規劃如何滿足這個需求。
3. Evaluator agent — 他說「一部分祕方在這裡」:一個完全獨立的 agent,用一個很簡單的 world model 驗證這個計畫執行下去是否符合 Capital One 政策、是否安全;不合格就退回 planner,planner 也可以再退回 understanding agent 去跟客戶要更多輸入。
4. Explainer agent — 其他 agent 之間用自己的語言溝通,explainer 負責把結果講成人聽得懂的話。

他特別強調這個系統的性質:

這自然是一個非決定性的系統。這不是把 robotic(RPA)那套換個做法用 agent 重做一遍,而是一群 agent 本質上以非決定性的方式協作達成結果。

兩個生產案例與招募(約 02:06–02:08)

• 購車 concierge:全美有大量經銷商後端跑 Capital One,消費者買車時很可能就是在跟這個 chat concierge 互動——釐清你要什麼車、庫存狀況、預約、以及是否要以車換車,24/7/365 全自主運作。
• 詐騙相關對話輔助(去年首度亮相,服務消費金融):三個部分——理解客戶的申訴內容、為行員推薦正確的處理動作、最後把對話摘要起來,形成下一輪互動的學習語料。

收尾是招募:他們在基礎模型層、服務層、agentic 層、solution 層四個層次都在客製化,對應三個 job family。賣點是「在受監管的企業裡用破紀錄的速度把研究送進生產」——這在受監管產業通常是聽不到的——以及「讓 1.3 億名客戶用到你的成果,並從中形成持續學習迴圈」。

金句

"Capital One's AI advantage is Capital One's data advantage being converted into an AI advantage."(約 02:03)

差異化不在模型選型,在資料與客製化整條 stack。

"This is not robotic just done differently with agents. This is an inherently non-deterministic system of agents that works together to achieve outcomes."(約 02:05)

不要用 RPA 的心智模型去理解 agentic 系統。