演講 Session 3: Frameworks & Dev Platforms

圖(Graph)就是 Agentic AI 的知識層

Philip Rathle — CTO, Neo4j

8 月 1 日(六) · Atlas Stage · 03:14:07–03:29:50 · 下午場直播

企業裡談的 knowledge、context、semantics、memory、ontology 其實是同一件事的不同切面,它們最終會收斂成一層「enterprise knowledge layer」,而這一層最自然的實作是圖——因為現實世界的資料本來就長成網路、階層與路徑。

TL;DR

  • 知識層是一種已被驗證的架構模式,不是新名詞。Rathle 從數千家客戶身上看到同一個 pattern:apps / agents / tools 不直接打各個資料源,而是打一層把 operational 與 analytic 資料串起來的 knowledge layer。
  • 知識層 ≠ 把所有資料搬進來。它不是 lift and shift,而是「從噪音裡撈出訊號、再把訊號連起來」,而且可以從小做起、逐步長大。
  • 三種實際落地的圖:domain graph(語意與本體)、rules graph(程序性記憶)、semantic layer(業務語彙 → 實體資料位置的地圖)。Walmart、Uber 與一家大型遊戲公司分別是三者的代表案例。
  • 為什麼不是別的:foundation model 訓練的是世界的資料不是你的資料、自訓小模型昂貴且一訓完就過期又繞過權限控管、關聯式表格只擅長固定簡單問題、向量完全不透明。圖同時解決「跨 silo 連結」與「複雜問題」。
  • 知識層是會運算的,不是被動倉庫:graph query、graph algorithms、similarity search、GNN、視覺化都在這一層跑,帶來 GraphRAG 準確度、multi-hop reasoning、decision traces 與記憶。

重點整理

Knowledge layer:一個從客戶身上長出來的 pattern(約 03:14)

Rathle 開場先把最近滿天飛的名詞收束在一起:knowledge、context、semantics、memory、ontology 表面上是不同題目,但在企業落地時全部匯流到同一層。這個結論來自 Neo4j 過去幾年與數千家客戶合作的觀察——大家最後都做出結構幾乎一樣的東西:上層是 apps、agents、tools,中間是 knowledge layer,下層右邊接 operational data sources、左邊接 analytic data sources。

他特別強調兩點分寸:

  1. 這不是 lift and shift。 knowledge 之所以不同於 data,就在於它不是「什麼都要」,而是「把訊號從噪音裡拉出來、再把它們連起來」。連結本身才是重點。
  2. 它是漸進式的。 可以從很小的範圍開始,再往外長。

這一層的職能是:儲存結構、脈絡與意義;提供 agent 統一的記憶與檢索介面;橋接人類理解與機器執行。他把最後這點連到 neurosymbolic AI——這概念有幾十年歷史,但現在因為圖而回魂:你沒辦法內省一個模型或一個向量資料庫,那些對人類是不可讀的;圖則是人看得懂、機器也跑得動。

三個真實案例、三種圖(約 03:16–03:19)

  • Walmart 的 People AI knowledge graph:服務約 160 萬名員工的 agentic 應用,幫助員工規劃職涯路徑。圖裡放的是所有人、匯報結構與其歷史、技能如何隨時間累積、參與過哪些專案、目前有哪些職缺與職缺要求。全部放進同一張圖之後,「推薦職涯路徑」就退化成連連看——Rathle 形容成「用 Kevin Bacon 的六度分隔來解 HR 問題」。關鍵設計在於人與圖之間還隔著一個模型,所以同一個問題既可以由模型加上更多 context 來回答,也可以直接對圖跑一個決定性的查詢,兩種模式並存。
  • Uber 的 rules graph:Uber 在 15,000 個城市營運,各城市的服務品項、名稱、適用法規都不同,再加上 Uber 自己調整服務的商業理由。這些規則被存進圖裡、也在圖裡被執行。
  • 某大型遊戲公司的 semantic layer:conversational AI → API 層 → multi-agent 系統 → 圖。這裡圖扮演語意層,把業務術語、概念與彼此的關係,對應到實體基礎設施與資料所在位置。換句話說,agent 用這張圖當作「企業裡的資料在哪」的地圖

三個案例對應到三種圖:domain graph(語意/本體)、rules graph(可視為 procedural memory)、semantic layer。它們的共同點,也是這些團隊選擇圖的核心洞見:他們的資料本來就以網路或階層的形式出現——電腦網路、社交網路、通訊、生物、生態、運輸屬於前者;Walmart 的 HR(其實是多重階層加上路徑)、customer journey、patient journey 屬於後者。

為什麼需要一個新模型(約 03:20–03:22)

過去幾十年,主流做法是把這些資料塞進表格。但兩年前 ISO 認可了 property graph 資料模型——這是近 40 年來資料庫領域第一次有新的資料模型被國際標準組織背書(上一次是 SQL 的關聯模型)。

那為什麼現有工具不夠?他逐一拆解:

選項 問題
Foundation model 訓練在世界的資料上,不是你的資料
自訓小模型 昂貴;訓完當下就過期;訓進去的東西變成任何 agent 為任何目的都能取用,繞過企業的存取控制;仍會幻覺、缺乏判斷力;是黑盒
靜態 rows and columns 大多數資料在這裡,適合固定且簡單的問題;問題一旦複雜且事先不知道下一問是什麼就吃力
非結構化資料 難以挖掘與理解
向量 完全不透明,而且大概只有一兩招
組織資料 散在各個 silo,agent 拿不到全公司的智慧

他引用 Gartner 給資料與分析主管的建議作為佐證:必須重新設計資料與分析架構,讓 context layer 成為 AI agents 的中央大腦,以交付可信賴的智慧。

Agent 對「知識」的四項要求(約 03:22–03:24)

  1. 即時性:agent 高度互動,不能只對著 data lake / lakehouse 說話,需要低延遲檢索,而且要能回寫,才能形成自我改善的正向循環。
  2. 能存結構化、半結構化與非結構化資料
  3. 跨 silo 整合但保留連結:data lake 把資料集中了,卻在集中的過程中丟掉了資料之間的關聯——「centralizing everything but not connecting it」。
  4. RAG corpus(他主張是 graph RAG corpus)與資料存取控制:企業防火牆、資安、隱私都在這裡。

對應到知識層的內部組成:最上是連成圖的 domain data(自有領域資料 + 第三方參考資料,也可以用 virtual graph 直接對 data lake 跑圖查詢);中間是 ontology / semantic layer,承載業務意義以及它到資料位置的對應,像一張「business ↔ technology」的地圖;最後是 memory——對話記憶只是文字與 prompt 的堆疊,但就像人腦在睡眠中做記憶固化一樣,長期記憶要回答的是「哪些事情重要、它們怎麼連在一起」,而長期記憶、procedural memory、context 與 decision traces 都最適合存成圖。

知識層的作用,以及它會運算(約 03:24–03:28)

知識層帶來的效益他濃縮成一頁:提供 context 讓 agent 答得更好、連通 silo、知識可稽核、保留 deterministic 處理的選項、遵守存取控制,以及——他說這點連他自己都意外——更會處理複雜問題。原因是客戶反覆回報:AI 模型把一個複雜的自然語言問題翻成 graph query(GQL 或 Cypher)的品質,明顯優於翻成 SQL;因為在 SQL 裡要 200 行的東西,用圖查詢語言可能 5 行就講完,表達方式更接近人類語言。

他也給了量化證據:英國 NICD 的獨立研究比較 GraphRAG 與 vector-only RAG,結果是回答的問題數超過兩倍、truthfulness 高約 80%、幻覺更少、用的 token 更少。

最後一個他想留下的 takeaway:知識層不是被動的儲存,它會做各種運算——graph querying(各種 pattern matching 與 filtering)、graph algorithms(分群、link prediction 等)、similarity search、GNN(他把 GNN 產出的東西形容成「拓撲向量」,另一種向量)、graph visualization。這些換來的是 GraphRAG 的準確度、支撐更複雜任務的 multi-hop reasoning、企業語意地圖、decision traces(他說這本身就是一整場演講)與記憶。

企業要從哪裡開始?兩條路:由上而下把企業當成一個相連的有機體,先畫出跨 silo 的地圖;或由下而上,例如先做 product graph(產品階層),它底下就長出推薦、定價、庫存等一堆 use case,再把供應商資料接進來就變成供應鏈最佳化;employee graph 接出職涯路徑,依此類推。

金句

"Knowledge, distinct from data, doesn't mean everything about everything. It means let's pull up the signal from the noise and let's connect it up."(約 03:15)

知識層不是資料湖的另一個名字——它的價值在於取捨與連結。

"It's almost like solving for HR by degrees of Kevin Bacon."(約 03:17)

Walmart 的職涯推薦,本質上就是在圖上連連看。

"You're centralizing everything but you're not connecting it."(約 03:23)

對 data lake / lakehouse 最精準的一句批評。

提到的專案與資源 / Projects & Resources

名稱 Name 說明 Description 備註 Notes
Neo4j 圖資料庫,講者所屬公司 Graph database; the speaker's company 逐字稿常誤植為 "Neoforj" / often mis-transcribed as "Neoforj"
GQL / Cypher 圖查詢語言;GQL 於兩年前成為 ISO 標準 Graph query languages; GQL became an ISO standard two years ago 講者稱為近 40 年來資料庫領域第一個新資料模型 / described as the first new database data model in nearly 40 years
The GraphRAG Manifesto Rathle 兩年前寫的 GraphRAG 介紹文,他說「現在仍然成立」 Rathle's introduction to GraphRAG, written two years ago and "still holds up" Neo4j 部落格 / Neo4j blog
企業知識層專文 / Enterprise knowledge layer article 演講前兩週發表,等於本場演講的文字版 Published two weeks before the talk; the prose version of this talk
NICD GraphRAG 研究 / NICD GraphRAG study 英國 National Innovation Centre for Data 的獨立研究:GraphRAG vs vector-only RAG Independent study by the UK's National Innovation Centre for Data comparing GraphRAG with vector-only RAG 回答問題數 2×、truthfulness +80%、幻覺更少、token 更少 / 2× questions answered, ~80% more truthful, fewer hallucinations, fewer tokens
Walmart People AI knowledge graph 約 160 萬員工的職涯導航 agentic 應用 Agentic career-navigation app for ~1.6M employees
Uber rules graph 15,000 個城市的服務規則與法規,存於圖中並在圖中執行 Offering and regulatory rules across 15,000 cities, stored and executed in the graph
DeepLearning.AI 課程 / courses、Neo4j GraphAcademy 演講結尾 QR code 導向的學習資源 Learning resources behind the closing QR code 他提到 Andrew Ng 當天也在現場 / he noted Andrew Ng was at the summit that day

逐字稿勘誤 / Transcript Corrections

字幕原文 Heard as 應為 Should be
Peter Rathy / Philip Rafy / Phillip Philip Rathle
Neoforj / Neo forge Neo4j
multi- aent system multi-agent system
graph rag GraphRAG
cipher Cypher
UK's center for data and AI innovation UK's National Innovation Centre for Data (NICD)
GNN's ... topological vector GNNs ... topological vector
Andrew Ing Andrew Ng

待確認 / To Verify

  • 主持人在 Rathle 之前把名字唸成 "Peter",現場更正為 "Philip";逐字稿的姓氏拼寫全部不可信,已依官網議程統一為 Philip Rathle。/ The MC first said "Peter" and was corrected on stage; all surname spellings in the transcript are unreliable and have been normalized to the agenda's "Philip Rathle".
  • 那家「全球最大的遊戲公司之一」未具名。/ The "major gaming company" example was not named.
  • Gartner 建議的原文出處(哪份報告)未在演講中指出。/ The specific Gartner report behind the "context layer as central brain" recommendation was not cited on stage.
  • 講者說 ISO 認可的是「property graph 資料模型」;實際上 2024 年成為 ISO 標準的是 GQL 查詢語言(其資料模型為 property graph),兩者在口述中被合併表述。/ He described ISO as blessing "the property graph data model"; what became an ISO standard in 2024 is the GQL query language, whose underlying model is the property graph — the two were conflated in speech.

GitHub 上的 Markdown 原始檔 ↗