用 Neuro SAN 擴展設定驅動的多 Agent 網路

TL;DR

• 起點是一個很務實的判斷:兩年半前做多 agent 實驗時,發現「agent 呼叫 agent、agent 呼叫工具、工具再回呼 agent」的膠水程式碼淹沒了真正想做的事;於是把它抽掉,用設定檔描述整個網路——這就是 Neuro SAN。
• 設定驅動帶來三個意外收穫:multi-agent 系統可以把另一個 multi-agent 系統當成工具呼叫(agentic webs,可無限套疊,也能接 MCP / A2A server);因為呼叫方式標準化,測試本身也變成資料驅動;而既然設定檔只是「等著被填的表單」,就出現了用多 agent 系統來 vibe code 另一個多 agent 系統的玩法。
• 不必等下一個更強的模型:真正的勝負手是把問題拆小到讓更小的模型能處理——更可靠也更便宜。
• 內部案例:公司內網用 AAOSA 協調架構跑約 200 個 leaf agent(接 ServiceNow、Salesforce、PeopleSoft 等),部署後工單量下降約 30%。

重點整理

Neuro SAN 的由來與架構(約 01:34–01:36)

講者來自 Cognizant AI Lab——一個「大 R、小 D」的研究團隊,約 30–40 人,以舊金山為中心,班加羅爾也有成員。他的工作是把有潛力的研究成果推出去、讓它能被規模化。

最好的例子就是 Neuro SAN。兩年半前團隊在做多 agent 實驗時,很快就發現 agent 呼叫其他 agent 的膠水程式碼正是掩蓋真正目標的雜訊,於是決定把這一層抽起來。做出來的東西就是現在的 Neuro SAN:一個設定驅動(configuration-driven) 的系統,agent 可以呼叫其他 agent、可以呼叫 coded tool,coded tool 也可以回呼進 agent 系統;除了 coded tool 本身的程式碼之外,一切都用設定檔描述。

網路裡的每個節點都向上游(upchain)呼叫者宣告三件事:我能做什麼、我運作需要哪些資訊、我可以跟誰對話;之上還有整體的 system prompt。他點出其中一個「secret sauce」:最終極的 upchain 就是使用者本人。而對於憑證這類機密,他們有一條稱為 sly_data 的側通道,讓 token 這種絕對不該進入對話流的東西可以另外傳遞。

設定驅動意外長出來的三件事(約 01:36–01:38)

在深入之前,他先給兩個早期心得:

• 不必等下一個更強的模型。真正的勝負手是把問題拆解到更小的模型也能處理——而且更可靠、更便宜。
• 給對工具之後,建多 agent 系統的人變得很多樣。連他們的行銷同事都做出了非常好的想法與工具,至今仍在使用。

由設定驅動衍生出來的三個能力:

1. Agentic webs:做好一個多 agent 系統之後,要讓它把另一個多 agent 系統當成工具呼叫非常容易,而且可以無限套疊;同樣能呼叫 MCP server、A2A server,或任何其他 agent 系統。
2. 資料驅動的測試:因為呼叫 agent 的共用工具(連同機密處理)都已標準化,測試本身也變成資料驅動——「我想要的這次互動」就是一筆資料。
3. 多 agent 系統 vibe code 多 agent 系統:既然描述 agentic 系統的就是 JSON / HOCON 檔案,那它們不過是等著被填的表單。於是他們有了會生成其他多 agent 系統的多 agent 系統,產物可以當成一個「可拋棄的想法(perishable thought)」直接呼叫,也可以下載下來成為整體系統的一部分。

內部案例:公司內網與 AAOSA(約 01:38–01:40)

投影片上是一個同心圓:中心是他們稱為 front man 的根節點,向外呼叫中間層 agent,最外圈是真正在做事的 leaf agent。

案例是企業內網——就是你每週至少會看一次的公司首頁。HR、財務、IT 各部門需求不同、各有各的 agent,但所有人都需要能存取。串起來的是他們稱為 AAOSA 的提示架構,核心設計是:負責回答當前問題的那位其實什麼都不知道,但他知道該找誰。問題就這樣往下滲透,讓 HR、法務等不同面向分別回答自己那一塊;資訊往上回流時再逐層聚合成知識。

他們說服公司 IT 部門一起吃自己的狗食,目前這套 AAOSA 架構協調著約 200 個 leaf-level agent,涵蓋 ServiceNow、Salesforce、PeopleSoft 等大家熟悉的系統。他形容「擴展性好得離譜」,而成果直接反映在工單數上:投影片的折線圖裡有一條垂直線標示部署時點,部署之後整體工單量下降約 30%——因為 agent 系統處理這些請求比人處理得更好。

開源與後續(約 01:40–01:41)

• 這套東西免費可用、授權友善,他鼓勵大家自己試。
• 他們期待與 AAIF(Agentic AI Foundation) 合作,把它放進 Linux Foundation。
• 即將推出一個 bring-your-own-key 的網站(整套系統本來就支援),讓人可以在上面 vibe code 自己的多 agent 系統。

金句

"We quickly realized that the glue code of agents calling other agents was the noise in what we were really trying to do. And so we wanted to lift that up."(約 01:34)

Neuro SAN 的起點:把膠水程式碼從問題裡移除,而不是把它寫得更好。

"We don't really need to wait for the next great model in order to boost our capability. The real win is breaking your problems down so that a smaller model can handle it — and handle it more reliably and more cheaply for that matter."(約 01:36)

在一場滿是「等下一代模型」的會議裡,這是相反方向的主張。

"The coordinator doesn't know anything but the people down below do."(約 01:39)

AAOSA 的設計精神:協調者的價值不在知識,而在知道該找誰。