機器人學的終局

TL;DR

• 「Two curves is all you need」:第一條是 neural scaling law(算力/資料進去,loss 下來,可預測到能在花錢之前先算出成果);第二條是今年才落地的 agentic scaling——x 軸仍是訓練算力,但計價單位換成 token,模型靠成群 agent 自己跑實驗來自我改進。兩條可以接起來:agentic scaling starts where foundation scaling ends。
• 模型面:把預訓練的 video diffusion 模型改成同時解碼未來影片與動作,得到 World Action Model (WAM)——機器人先「做夢」預測接下來幾秒的畫面再據以行動,被推倒也能即時重新規劃、重新做夢。再用 test-time training (TTT) 把原生 context 拉長 1000 倍到 8,000 個 time step(約 5 分鐘的「肌肉記憶」),解鎖部署後持續學習與 in-context 模仿人類。
• 資料面:teleop VR 頭盔那一套「中世紀刑具」根本不 scale;要的是 Tesla FSD 那種「資料收集隱沒到背景」的飛輪。EgoScale 因此把 99.9% 的訓練放在人類第一人稱影片上——20,000 小時野生影片預訓練 + 50 小時動捕手套 + 4 小時 teleop(<0.1%),直接從像素映射到 22 自由度靈巧手,並發現 dexterity 的 log-linear scaling law。
• Agentic 面:模擬器和控制堆疊說到底都是程式碼,所以可以「抄 LLM 的作業」——把機器人變成 coding environment,讓 coding agent 團隊操作真實機器人做 physical auto research(自動 reset 場景 / 自動改策略 / 自動評估),把任務從 0% 爬到 99%;ASPIRE 則不更新權重,而是累積會複利成長的技能庫,並能 sim-to-real 與跨 embodiment 遷移。

重點整理

兩條曲線:機器人學為何還在煉金術時代(約 02:21:49–02:23)

開場拉回 2017 年的 NeurIPS:Ali Rahimi 上台說「machine learning has become alchemy」——他是對的,當時什麼都不嚴謹,大家都在憑感覺,東西看起來會動但沒人說得準,未來又模糊又脆弱。九年後的今天,LLM 那群人已經在 speedrun AGI 了,而且是踩在字面上就叫 Mythos 的神話生物背上。

煉金術怎麼變成數學的?兩條曲線。

1. Neural scaling law:算力與資料進去,loss 下來,而且可預測到「還沒花一塊錢就能預測會拿到什麼」。這條曲線是數兆美元投資該往哪裡流的指路明燈。
2. Agentic scaling(今年才落地):x 軸仍是訓練算力,但換算成一種新貨幣——token。這是 auto research:模型靠愈來愈多 agent 自己跑實驗來自我改進,而 capability 是 LLM 的最終 boss 戰。

漂亮的地方在於這兩條不是分開的,可以疊起來:agentic scaling 從 foundation scaling 結束的地方開始。當初的煉金術,如今是能外推到近未來、最可靠的一條曲線。

然後是他的自白:身為在 LLM 派對裡的機器人研究者,他覺得很孤單、很被冷落。原因是機器人學還卡在煉金術時代——在搞清楚「要 scale 什麼、scale 之後會發生什麼」之前,是走不出去的。接下來分兩塊講:模型,以及資料策略。

模型:從 AI 影片廢料到 World Action Model(約 02:23–02:26)

數位 AI 的第一個預訓練典範是 next word prediction。他本來以為第二個典範會是什麼光榮的東西,結果我們給它取的名字叫 AI video slop。他自己可以看胖貓彈斑鳩琴看一整天(這是網路的巔峰),但沒人會認真看待這件事,直到我們搞清楚:這些 video world model 其實在內部學會了模擬物理。

Nvidia Cosmos 3 生成的影片顯示,模型單靠「預測下一團像素」就學到了重力、浮力、反射、碰撞;甚至湧現出解視覺謎題的能力——Cosmos 會在像素空間裡把模擬往前跑來解左邊那題;而右邊那個他最喜歡:Cosmos 發現只要你沒在看,幾何就是可選的。

怎麼把 world model 變成對機器人有用的東西?一種新的 policy 模型:畫面右上角那格不是真實相機影像,而是機器人在「做夢」——預測接下來幾秒會發生什麼,然後在夢的基礎上行動。這讓 policy 很魯棒:你去干擾它、把東西撞倒,它會即時重新規劃、重新做夢。做法是拿預訓練的 video diffusion 模型,讓它同時解碼未來的影片與動作,這類新模型稱為 world action model (WAM)。

但這些模型只夢得到幾秒鐘,真實任務需要更長的記憶。於是他們加了一項技術,把原生 context 長度拉長 1000 倍到 8,000 個 time step,約等於五分鐘的肌肉記憶。這技術叫 TTT(test-time training):在模型內部嵌一個小模型,推論時訊號流進來會對這個小核心走梯度步,不斷把看過的歷史壓縮進 fast weights。也就是說,機器人在部署之後還能繼續學。影片裡是全自動、一鏡到底地把一台車從零組裝起來。

它同時解鎖了向人類的 in-context learning:人類示範如何把電路板重組成機器人沒見過的新樣子,機器人以這段長影片為 prompt(大量 token 塞在 context 裡)忠實模仿。這也開出一個新的 scaling 軸:context scaling——效能隨 time step 拉到 8,000 穩定上升,比先前 SOTA 高三個數量級。

資料:EgoScale 與 dexterity 的 scaling law(約 02:26–02:29)

過去三年是 teleop VR 頭盔的黃金年代,那些複雜的裝備「看起來像中世紀刑具」——業界投入巨量資源、無數痛苦,做的卻是一件根本上不 scale 的事。

對照組是 Tesla:你開 Tesla 的時候就在替全世界最大的實體資料飛輪供料,而且你根本沒感覺——資料上傳是個 ambient process。機器人操作也需要一個 FSD 等價物:讓資料收集淡入背景、退出迴圈,才能有機化地捕捉各行各業人類靈巧度的全貌。

所以他們全押在人類第一人稱影片上,搭配細緻標註(細緻語言、手部姿態)。EgoScale 的訓練配方是 99.9% 來自人類第一人稱影片:

• 20,000 小時高品質野生影片預訓練
• fine-tune 只用 50 小時動捕手套資料
• 加 4 小時 teleop——佔訓練混合不到 0.1%

成果是一個全自動 policy,直接從像素(眼睛的視角)映射到 22 自由度的擬人靈巧手,只要少量示範就能做撲克牌分類這類靈巧任務,或操作針筒這類長程任務。

最後再送一條 scaling law:他們發現了 dexterity 的 neural scaling law——投入的人類影片量與最佳 loss 之間是乾淨的 log-linear 數學關係。目標是把它推到 100 萬、1000 萬、有一天 1 億小時,並期待這條律持續外推。

至此第一部分完成:x 軸是算力,y 軸是機器人能力,展示了如何用梯度下降在感測資料上端到端地 scale 機器人基礎模型。

Agentic:把機器人變成 coding environment(約 02:29–02:33)

要把這條曲線再往前推,想法很簡單:所有模擬器與機器人控制堆疊,說到底都只是程式碼。這讓人興奮,因為我們終於可以抄 LLM 的作業——把機器人學變成一堆 coding environment(吃進馬達動作、吐出感測訊號),而幾十年累積的機器人函式庫與感知堆疊,現在都能當成 agentic tools 整合進來。

他帶大家看夜晚的實驗室:裡面沒有人,只聽得到馬達嗡嗡和 GPU 轉動,像「博物館驚魂夜」——機器人全都活過來,用程式碼互相溝通,擺弄控制堆疊、在真實機器人上跑實驗,甚至上網讀論文。(他們發現自家機器人讀了很多 Sergey 的論文,所以「謝謝 Sergey 貢獻我們的 agentic token 預算」。)

做法是給一組 coding agent 一支機器人艦隊和一個很簡單的目標:在安全限制下盡快解決任務,而且不能出錯。每個機器人站台試一個不同的研究想法。要讓這個迴圈成立需要三件事:自動 reset 實體場景、自動改進 policy、自動評估。三者都到位之後,agent 能把任務從 0% 一路爬到 99% 成功率。這是他們第一次嘗試 physical auto research。(他跟團隊說夢想是「大家一起放假,老闆都不會發現,因為只要讀 agent 的報告就好」;團隊回他:「小心你許的願。」)

反向也成立:不是解單一任務,而是讓機器人在模擬與真實世界裡嘗試大量任務時自主發現技能。近期的 ASPIRE 就是這種新型 continual learning:它不更新模型的權重矩陣,而是學一個隨時間複利成長的技能庫,把「機器人實務工作者的 know-how」沉澱下來。這也解鎖另一條 scaling law:x 軸仍是訓練算力但以 token 計,y 軸是已驗證技能的數量。而且 ASPIRE 學到的技能能 sim-to-real、甚至跨 embodiment 遷移。所以:compute = tokens = skills。

整條曲線於是完整:Total robot intelligence = foundation intelligence + agentic intelligence。World action model 決定地板,physical auto research 抬高天花板。(他補了句黃仁勳式的結語:「the more you buy, the more you save」。)

終局:physical Turing test 與 2040(約 02:33–02:35:25)

對他而言,解決機器人學 = 在夠廣的任務範圍上通過 physical Turing test:你分不出這件事是人做的還是機器人做的。聽起來簡單,但這是 AI 下一個、甚至可能是最後一個大挑戰。(他當場自嘲:看剛才機器人「掛掉」的樣子,我們還有得忙。)

最後一條 scaling law 是時間軸:從 AlexNet 的第一次前向傳播到今天的 Opus / Mythos / GPT 系列,已經 14 年;再加 14 年就是 2040。他認為人類非常不擅長「感受」scaling 曲線——回頭看它是平的,往前看幾乎是垂直的。

Physical AGI 會先是慢慢地、然後突然地發生;但在那之前,我們得先找出治理這個領域的指導原則與 scaling law,好把機器人學習從煉金術變成化學。

金句

"Two curves is all you need."(約 02:22:20)

呼應 "Attention is all you need" 的句式;整場演講的骨架。

"Agentic scaling starts where foundation scaling ends."(約 02:23)

兩條曲線不是替代關係,是接力。

"Cosmos finds that if you're not looking, geometry is optional."(約 02:24)

講 world model 湧現物理理解時最好笑也最尖銳的一句——它學到的是「被觀測時的物理」。

"Total robot intelligence equals foundation intelligence plus agentic intelligence. World action model sets the floor and physical auto research raises the ceiling."(約 02:33:50)

他自己說「如果今天只帶走一頁,就是這頁」。

"Physical AGI will happen gradually and then suddenly."(約 02:35:05)

"Turn the practice of robot learning from alchemy to chemistry."(約 02:35:15)

收尾扣回開場的 Ali Rahimi。