個人化通用 Agent 的未來

TL;DR

• 開場自白:他自認是個「學得很慢的人」,也有 impostor syndrome;發表了 200 多篇論文,真正引以為傲的大概只有 10 篇。他要講的是回頭看,每個時代真正重要的只有三個想法。
• 第一個二十年(資訊檢索):索引(圖書館是人類第一個偉大發明)、向量空間模型、深度神經網路。搜尋與推薦的本質是排序;next token prediction 說穿了也是排序。
• 他親口承認的重大失誤:1992 年他的博士指導教授 John Riedl 提議把向量空間模型從 document–term 矩陣搬到 user–item 矩陣——也就是推薦系統的誕生——而他告訴老師這是個笨點子。
• 2015–2025 三個想法:sequential transduction(Transformer 論文摘要第一句的那個詞)、以 chain of thought 完成的 next idea prediction、post-training。他說我們當初該把它們叫做 large reasoning models 而不是 large language models。
• 他對現在的批評:業界的 bottom-up processing(尤其是 RL)太多了。教小孩答錯時不能只是打他,要給解釋——chain of thought 正是這個想法,而蒸餾之所以可行也全靠這些 reasoning traces。
• 下一個十年:從排序與推薦,走向真正能推理你的品味的個人助理。他自己在 Google 現在的主軸只有 reasoning 與 planning。

重點整理

框架:每個時代只有三個想法(約 00:22–00:26)

他以「我學得很慢」開場,說身為科學家真正在乎的從來不是寫下一篇論文,而是下一個大想法是什麼——而他花了很久才看清哪些想法真的重要。

第一個二十年,三個來自資訊檢索的想法:

1. 索引(indexing)——他認為人類第一個偉大發明是圖書館,而圖書館建立在索引之上。90 年代這件事變成用 MapReduce 蓋大型搜尋引擎。
2. 向量空間模型——word2vec 幾年前拿下十年 test-of-time 獎,核心正是用神經網路在向量空間裡計算詞與詞的關係,讓機器真正理解語義。
3. 深度神經網路(2010–2015)。

中間插進他的自白:1992 年,他的博士指導教授 John Riedl 問「如果我們把向量空間模型套到 user–item 矩陣、而不是 document–term 矩陣呢?」——這就是推薦系統的誕生,而他當場說那是個笨點子。

他把這三個想法收束成一句話:有了超級電腦之後,我們把一件事做得好太多了,那就是排序。 搜尋、推薦、整個網際網路生態,底層都是排序與 ranking;而next token prediction 本質上也只是排序——排出你下一個最可能說出口的字。

他也拿算力當對照:1992 年他當研究生時用的是超級電腦,而他口袋裡的手機現在有 1,690 GFLOPS,「幾乎是一千倍的算力……我們每個人口袋裡都揣著一千台超級電腦」。

2015–2025:transduction、chain of thought、post-training(約 00:26–00:31)

他放出 Transformer 論文那張人人都看過的圖,問全場:你們真的讀過那篇論文嗎? 然後唸出摘要第一句——"The dominant sequence transduction models are based upon complex recurrent neural networks that include an encoder and decoder"——並坦承自己第一次讀完全不懂,現場也有至少一半的人舉手說到現在還不懂。

他花了一段解釋 transduction:那是「把一種能量波轉換成另一種能量波」。你此刻就正在經歷 transduction——他身上的麥克風把聲波轉成電波,場邊的喇叭把電波轉回聲波,而你的耳朵本身就是一個 transducer,鼓膜震動接上神經元把資訊送進大腦。所以 2014 年前後真正的大想法是:把 sequential transduction 和神經網路結合起來,而這不是憑空發生的,它建立在「我們的大腦怎麼運作」的認知理解之上。這個新的通用計算模型因此能吃多模態資料、能同時理解各種語言。

第二個想法來自一個很基本的問題:他和 Denny Zhou 在 Google Brain 問「我們能不能用教小孩的方式教機器?」——當時我們把一件事做錯了:小孩答錯的時候,希望你不是直接打他;但我們當時就是這樣訓練機器的。 於是他們想:也許該給機器一個「為什麼你錯了」的解釋。這就是 chain of thought,也就是 top-down processing。

他對現況的批評直接接在後面:現在業界(尤其是 RL)的 bottom-up processing 太多了,我們應該更像教小孩那樣給解釋。他還補了一個常被忽略的推論:我們之所以能把一個模型蒸餾進另一個模型,靠的就是 chain of thought 產生的 reasoning traces。 從 next token prediction 走到 next idea prediction,就是整個 reasoning 領域的起點。

回頭看,我們當初該叫它們 large reasoning models,而不是 large language models——因為我們真正在乎的是推理能力。

第三個想法是 post-training(他把細節留給同場其他講者)。

2025–2035:從排序走向個人化推理(約 00:31–00:33)

他先把算力那條線接回來:一顆最新世代的 TPU 晶片,算力已經是他開場展示的那台 Cray Y-MP 的天文數字倍(具體倍率與世代見「待確認」)——「這個放口袋裡是真的會燒穿的」。

然後放了一段 demo 影片:使用者拿著朋友送的一疊書,問助理「你會怎麼形容她的閱讀品味?」助理答出「歷史、傳記,可能還帶點政治或社會評論」;再問「哪一本她會最喜歡?」助理挑了 Half of a Yellow Sun,理由是它在歷史脈絡裡探討複雜的社會與政治議題,呼應她對「能看見重要時代切面」的敘事的興趣。

他的評語就是那句:這已經不只是排序與 ranking 了,對吧?個人助理正在往這個方向走。

最後他指著去年在同一個舞台放過的那張投影片說:當時就已經有這些想法了,現在人人都在談 agent。下一個十年的想法其實已經在發生——Richard 剛剛談的自我改進、其他講者談的多模態、工具使用、多步複雜推理。而他自己現在在 Google 的主要工作就只聚焦在 reasoning 與 planning,因為未來在那裡。

金句

"In 1992, my PhD adviser John Riedl came to me and said, 'What if we use those vector space models and applied them to user–item matrices instead of document–term matrices?' … and I told him it was a dumb idea."(約 00:24)

推薦系統誕生的那一刻,他投了反對票。

"What is sequential transduction? What the f does that even mean?"(約 00:27)

他問全場有沒有真的讀過 Transformer 論文,一半的人到現在還不懂那句摘要。

"When you teach your kids, I hope every time they get it wrong, you don't just hit them. But that was the way that we were teaching our machines."(約 00:29)

chain of thought 的出發點。

"In retrospect I wish we had not called it large language models; rather we should have been calling them large reasoning models."(約 00:30)

"Now that is not just sorting and ranking anymore, is it? That is where personal assistance is going."(約 00:32)

三十年的排序史,在這支 demo 影片這裡轉彎。