演講 Session 3: Frameworks & Dev Platforms
說同一種語言:用 NLIP 達成 Agent 互通
Ranjan Sinha — IBM Fellow, CTO & VP for watsonx, Enterprise AI, IBM
傳統協定要求兩端與線路上講同一種語言,一改 schema 就斷;NLIP 把這個假設拿掉——只要兩端都有智慧可以翻譯,agent 各講各的也能互通,而它自己只用五個欄位就把「意圖」搬過去。
TL;DR
- 問題是 Tower of Babel:agent 各說各話時,你只能寫 custom glue code 與 adapter,而這條路不可能規模化。
- NLIP 的定位是「意圖的 HTTP」:HTTP 是在異質 client 與 server 之間搬運資源的中立統一方式;NLIP 是在異質 agent 與 client 之間搬運意義與意圖的中立統一方式。
- 它鬆綁了協定最根本的假設:傳統協定要求 A = P = B(兩端語言與線路格式相同);NLIP 允許 A ≠ B ≠ P,代價是兩端必須有智慧可以翻譯——而以現在的趨勢,這個前提只會越來越成立。
- 刻意極簡:訊息模型是輕量 JSON、只有五個欄位(三個必填);相較之下 A2A 或 MCP 的完整資料模型有 166–480 個欄位。
- 它不是要取代 A2A / MCP,而是共存:NLIP 適合異質協定互通、語意彈性、跨協定中介;A2A 適合治理稽核、任務中心、嚴格 schema 與決定性執行;也可以混用,NLIP 在協調層、A2A 在治理層。
重點整理
問題與定位(約 04:14–04:16)
Sinha 開場一句話就把問題講完:當 agent 講不同語言時,你得寫 custom code、glue code、adapter,而這根本不 scale。這就是 Tower of Babel 問題。
NLIP(Natural Language Interaction Protocol)是那個讓無縫互通成真的通用握手:只要 agent 會講 NLIP,它就能跟所有會講 NLIP 的東西對話。他給的類比貫穿全場——把 NLIP 想成「意圖的 HTTP」,而且它刻意採取和 HTTP 一樣的做法:極簡、中立。HTTP 是在異質 client 與 server 之間傳輸資源的中立統一方式;NLIP 是在異質 agent 與 client 之間傳輸意義或意圖的中立統一方式。
出身背景:由學界與業界研究者、實務者組成的工作組,由 Enterprise Neurosystems Group 與 AI Alliance 贊助;現已是 ECMA 標準,由技術委員會 TC56 推動(他順帶提醒:JavaScript 也是由 ECMA 這個組織標準化的),並已送交 ISO 標準化,目前進行中。
核心設計:鬆綁 A = P = B(約 04:16–04:18)
他用一組左右對照的圖說明整個協定的關鍵洞見。
傳統協定(左):agent 1 講語言 A、agent 2 講語言 B、線路上跑的是 P。傳統協定要求 A = P = B——三者必須相同。任何 schema 或欄位的改變都會讓它斷掉,結果就是 hard-coded integration 與緊耦合,並衍生出互通性與版本管理的麻煩。
NLIP(右):同樣是 A、B、P 三者,但 A 不必等於 B、也不必等於 P。這帶來彈性,而條件是:兩端必須有智慧,能在這些訊息之間翻譯。他認為以現在的趨勢,你本來就可以預期解決方案與系統裡有智慧存在,而且它只會持續變好。
在這個基礎上,NLIP 提供的是一個非常簡單、開放、共通的標準協定,讓應用、agent 與服務彼此溝通。它假設兩端都有智慧以達成語意理解,並採取 request–response 範式,確保意義或意圖在 agent 真正行動之前先被釐清並確認。他特別點出這個範式的好處:訊息如果語意模糊,agent 不會直接失敗,而是回頭要求澄清。
同時它是為企業現實打造的:必須安全、要有 safeguard;transport agnostic 且沿用既有基礎設施,不重造輪子;支援多媒體;通訊高效;可用多種語言實作;是由 ECMA 治理的開放標準(ISO 審查中)。
訊息模型:五個欄位(約 04:19–04:21)
NLIP 刻意極簡。訊息模型是輕量 JSON,只有五個欄位,其中三個必填:
- content:承載被交換資訊的輕量 JSON 信封
- format:是 text、structured 還是 binary
- subformat:format 的細化——若是 text 就標明語言,若是 binary 就標明編碼
- 另外兩個選填欄位:一個 parsing hint,以及可放額外內容的 sub-message
核心資料模型就這五個欄位。他直接拿現行熱門協定對比:A2A 或 MCP 的完整資料模型有 166 到 480 個欄位。
實作上它在標準傳輸協定上都很簡單:HTTP、WebSocket、AMQP 的 binding 都已在 ECMA 規格中定義,可從 GitHub 頁面取得。安全性是 secure by design 且為強制:提供從基本到嚴謹企業級的三種 profile,並且處理的不只是傳輸層安全,還包含各種 AI 特有的風險。
與單一廠商協定共存的兩種模式(約 04:21)
NLIP 可以用兩種模式與各種單一廠商協定互通:
- 模式 A:NLIP 當 northbound API、單一廠商協定當 southbound API,中間用一個 translation agent 與 LLM pod 做兩者之間的翻譯。
- 模式 B:跨多個 domain 互通。每個 domain 內可以有多個 agent,各自用不同的 agent framework、講自己的語言;只要它們是 NLIP-aware,就都能彼此溝通。
PoC 與效能實驗(約 04:21–04:24)
已有企業與大學在多個領域做出 PoC:電信、購物、永續、多模態客服等,多數也放在專案頁面上。
他挑客服那個 PoC 深入講:顧客送出一段語音請求 → 用語音轉文字模型(NVIDIA ASR)轉成文字 → 以 NLIP over HTTP 送給 channel recommender,由它挑出與該提問最相關的 subreddit 頻道 → 再以 NLIP over HTTP 送給 search agent,由它從那些頻道挑出最相關的主題、排序後回傳給顧客。整體就是:一個顧客提問,從 Reddit 撈出最相關的主題回覆。
接著是效能比較:同一個 workflow,拿 NLIP 對比 A2A,使用對稱、完全相同的計時 harness,並取三種 A2A 變體(A2A SDK、cache 最佳化版 A2A、輕量 Python A2A)。他們做了階段層級的儀器化——message creation、connection、send 三個階段,總延遲是三者之和——並在兩台機器、兩份含多筆顧客提問的資料集上測。結果在兩台機器上的平均總延遲,NLIP 都比較低,他把這歸因於其訊息信封的極簡本質。他自己強調這是初步實驗,更複雜的 workflow 與實驗還待做,也歡迎外界參與。
給實務者的選型建議(約 04:24–04:26)
他把問題收斂成「什麼時候該用哪個協定」:
| 情境 | 建議 |
|---|---|
| 異質協定互通、語意彈性、跨協定中介 | 選 NLIP |
| 治理與稽核需求、任務中心或長時間執行的 workflow、嚴格 schema 強制、決定性執行 | 選 A2A |
| 混合型 workload | 混用:NLIP 在協調層,A2A 在治理層 |
但他強調真正的原則是:協定選擇應該由 workload 特性來決定。 現實是協定會有長尾——支付、購物等領域都在推出自己的 domain-centric 協定——所以問題變成如何跨這些協定以可互通的方式溝通,而那正是 NLIP 的位置。
收尾:NLIP 已整合進 AG2 framework(他說 AG2 每天被下載數萬次、每月可能達百萬次)。委員會每週開會、持續開發,歡迎回饋、實際 use case、參與評測或直接貢獻,聯絡方式都在專案頁面上。
金句
"Think of NLIP as the HTTP of intent."(約 04:15)
整場演講的核心比喻,也解釋了為什麼它刻意做得這麼小。
"In a traditional protocol they all have to be the same. A is equal to P is equal to B."(約 04:17)
一句話點出既有 agent 協定的脆弱點,以及 NLIP 要鬆綁的到底是什麼。
"If a message is ambiguous, the agent doesn't just fail — it will ask for clarifications."(約 04:18)
request–response 範式的用意:意圖要先被確認,agent 才動手。
提到的專案與資源 / Projects & Resources
| 名稱 Name | 說明 | Description | 備註 Notes |
|---|---|---|---|
| NLIP | Natural Language Interaction Protocol,agent 間互通的語意協定 | Natural Language Interaction Protocol — a semantic protocol for agent interoperability | ECMA 標準,TC56 制定;ISO 標準化進行中 / ECMA standard from TC56; ISO standardization in progress |
| ECMA TC56 | 制定 NLIP 的技術委員會 | The technical committee that produced NLIP | 同一標準組織也標準化了 JavaScript / the same body standardized JavaScript |
| Enterprise Neurosystems Group | NLIP 工作組的贊助組織之一 | Co-sponsor of the NLIP working group | |
| AI Alliance | NLIP 工作組的贊助組織之一 | Co-sponsor of the NLIP working group | |
| NLIP transport bindings | HTTP、WebSocket、AMQP,規格在 ECMA 文件與 GitHub 頁面 | HTTP, WebSocket, and AMQP bindings, specified in ECMA documents and on GitHub | |
| A2A / MCP | 對照組協定;完整資料模型有 166–480 個欄位 | Comparison protocols; full data models of 166–480 fields | NLIP 核心僅 5 個欄位 / NLIP's core is 5 fields |
| AG2 | 已整合 NLIP 的 agent framework | Agent framework with NLIP integration | 講者稱每日下載數萬次 / he cites tens of thousands of downloads daily |
| 客服 PoC / Customer support PoC | 語音 → NVIDIA ASR → NLIP/HTTP → channel recommender → NLIP/HTTP → search agent → Reddit 主題 | Voice → NVIDIA ASR → NLIP/HTTP → channel recommender → NLIP/HTTP → search agent → Reddit topics | 與 A2A 三種變體做延遲比較 / benchmarked against three A2A variants |
逐字稿勘誤 / Transcript Corrections
| 字幕原文 Heard as | 應為 Should be |
|---|---|
| Runja Singha / Ron John | Ranjan Sinha |
| Nlip / NLP / Enley / enlip / LIP | NLIP |
| ECMA uh body / TC56 | Ecma International / TC56(拼寫正確,僅斷句混亂) |
| A28 SDK / HA | A2A SDK / A2A |
| ag2 | AG2 |
| interable | interoperable |
待確認 / To Verify
- 欄位數比較的前半段(字幕作 "you're looking at 60 to 99 to the full data model having 166 to 480 fields")語意不完整;可確認的是 A2A / MCP 完整資料模型為 166–480 個欄位,而 60–99 可能是其核心資料模型的欄位數,需看投影片確認。/ The first half of the field-count comparison is garbled; only "166 to 480 fields for the full data model" of A2A / MCP is reliable — the 60–99 figure is probably the core data model but needs slide confirmation.
- 五個欄位中兩個選填欄位的正式名稱(字幕僅描述為 "a parsing hint" 與 "more additional content in the sub message"),應以 ECMA 規格為準。/ The formal names of the two optional fields (described only as a parsing hint and a sub-message) should be checked against the ECMA specification.
- 三種安全 profile 的正式名稱未在演講中列出(僅說「從 basic 到 rigorous enterprise」)。/ The formal names of the three security profiles were not given; he only described the range from basic to rigorous enterprise.
- AG2 的下載量數字為講者口述概估。/ The AG2 download figures were given verbally as approximations.