為科學發現而生的超級智慧:多智能體群集與大型推理模型

TL;DR

• 發現 = 打破世界模型。他要的不是「延伸既有典範或換個題目重用一次」,而是讓 AI 提出一套全新的世界描述語言;這意味著 AI 必須能說服他:某個他深信的東西是錯的。
• 三個時代:10–30 年前的簡單機器學習迴歸 → 近幾年的生成式 AI(從既有分佈取樣) → 現在的發現時代——模型不只產生新想法,還自己產生訓練資料、測試、驗證。他用爵士樂團比喻:一邊解問題一邊寫樂譜。
• SPARKS:他們做的開放式發現 AI scientist(仍在 peer review,預計投 Science Advances),不是給定目標去最佳化,而是對「我們什麼都不知道」的空間去發現 scaling law 與原理。
• builder–breaker 架構(arXiv 上有後續論文):builder agent 建立外部化的世界模型,breaker agent 從實驗與文獻蒐集新證據去打破它;再用 MDL(最小描述長度)當簡潔性的 gate,就能長出漂亮、可解釋的理論——例如一條預測蛋白質 B-factor 的簡單 scaling 理論。
• Swarms 是下一步:不預先定義 agent 是什麼、該怎麼行動,讓它們自己發現;而且 swarm 不住在一個實驗室或一台電腦裡,而是分散在世界各地。用在蛋白質設計上,swarm 能跑出自然演化分佈之外的「尖刺」,而擴散模型只會在自然分佈內取樣。
• 可追溯性即未來的科學出版:人類寫論文只挑三個成功的實驗;在 agent 世界裡,每一次失敗的嘗試都被完整記錄,後來的 agent 可以直接踩在上面繼續。
• 人類不是被取代,是變成 swarm 的一個節點:提供可製造性、倫理、IP、以及最關鍵的「問題選擇直覺」——那是幾乎沒有論文在寫的東西。

重點整理

兩個方向:用 agent 做科學,也從生物學學怎麼做 agent(約 00:07)

他把工作分成互為表裡的兩條線:一邊是把 agentic 系統用在工程與科學(尤其材料與生物)的應用上;另一邊反過來,從生物學裡學設計原則來建更好的 agentic 系統——swarm 就是這樣來的。細胞、生態系、文明都是自組裝的,他認為 agent 系統該長成那個樣子。

為什麼要「打破世界」(約 00:08)

他反覆用 "breaking the world" 這個說法。科學發現的定義就是提出一個看起來瘋狂的想法,然後去驗證它、證明它——所以你必須把自己相信為真的東西放上檯面。這件事在科學裡特別難,因為科學問題是開放式的、不容易驗證,不像數學和 coding 有清楚的 verifier。

從迴歸模型到發現時代(約 00:09)

社群的軌跡:簡單 ML 迴歸 → 生成式 AI(學資料、從既有 landscape 取樣) → 發現時代。發現時代的模型會自己生成新的訓練資料並驗證它。他自己的視角很有說服力:他來自 Caltech Bill Goddard 的訓練,一輩子在寫材料系統的第一原理模型,而現在「這些系統自己在寫模型、編譯模型、執行模型」。

他們的 graph-native reasoning models 就是為此服務的基礎技術:把實驗與生物學那種複雜、雜訊多、資料不完整的世界,映射成可執行、可編譯、可驗證也可證偽的程式。agentic 系統的好處是可以把物理直接放進資料的檢索與生成迴圈裡。

SPARKS 與 builder–breaker:讓系統自己推翻自己(約 00:11–00:13)

• SPARKS:他們最早的開放式發現系統之一,刻意不設定目標——「不是設計一個我們已知目標的東西,而是設計我們一無所知的東西」。它能自己發現 scaling law 與原理。論文還卡在 peer review(他吐槽期刊對這個領域太慢),預計刊在 Science Advances。
• builder–breaker model(後續論文,他建議直接看 arXiv 版):對抗式的一組 agent。builder 提出想法、建立外部化的世界模型,同時懲罰複雜度、最大化覆蓋率——目標是「用盡可能對的方式解釋世界」;breaker 則從實驗與文獻裡蒐集新資料、新證據,專門去打破那個世界模型。
• 加上 MDL(最小描述長度)當 gate 之後,系統會傾向產出簡潔漂亮的理論概念。他把這個定位成「open-ended 版的 auto research」。
• 成果:在蛋白質科學上,agent 不斷蒐集實驗證據去打破世界模型,資料越變越複雜、builder 的工作越來越重,最後 builder 端出一條預測蛋白質 B-factor 的簡單、可解釋的 scaling 理論。

Swarms:去中心化、跳出自然分佈(約 00:13–00:15)

這部分是他學生 Fiona Wang 的工作(當天在會場有 poster)。核心是去中心化的集體 agent:不描述 agent 是什麼、該怎麼行為,讓它們自己發現。而且 swarm「不只住在一個實驗室或一台電腦裡,它們住在世界各地」——願景是完全去中心化、自主演化的 agent 群。

用在蛋白質設計上的結果很直觀:自然演化只產生某一類蛋白質,標準擴散模型也只會從那個分佈裡取樣(投影片上的那個圓);而 swarm 能跑到圓的外面去,長出那些「尖刺」,也就是自然沒做過的設計。

ScienceClaw Infinite:數百個 agent 與可追溯的科學紀錄(約 00:14–00:17)

• 系統叫 ScienceClaw ∞(Infinite)。名字有兩層來源:一是受幾個月前那波 OpenClaw 風潮啟發;二是 MIT 的 Infinite Corridor——那條所有人都會經過的走廊,數學家撞見生物學家撞見哲學家,聊著聊著就冒出新研究點子。agent 就住在那裡解問題。
• 規模是數百個具備不同 skill 與 tool、且 skill 會演化的 agent。
• 真實成果之一:metamaterial resonator 設計。agent 找出設計空間頂端一塊「還沒有任何 resonator 被找到」的區域,再想辦法把它設計出來——它不只設計了東西,還自己判斷出哪裡最值得研究。
• 系統完全去中心化且完全可追溯:數百次 agent 互動都看得到。他由此推導出對科學出版的看法:人類寫 Nature 論文會挑三個成功的實驗;但 agent 做的實驗大多會失敗、走進死路,而每一次都被完整記錄下來,未來的 agent 可以直接接續。他認為這才是科學出版的未來。
• 收尾的自我定位是「world building machine」:一般人理解的 AI 是一部巨大的字典或圖書館;他們要的是能自己寫圖書館、自己寫書、自己寫論文,而且那些論文會挑戰我們相信為真的事。

Q&A:可製造性,以及人類在 swarm 裡的位置(約 00:17–00:21)

可製造性怎麼進來? 在 resonator 那個例子裡,可製造性本來就是約束條件之一。更新的一篇論文直接串接 CAD 程式(他們用 Grasshopper),可以從設計直接產出 G-code 機器碼——一方面理論上驗證可製造性,另一方面可以直接送去機台再把資料收回來。他更長線的想法是去中心化的能力交換:自己的實驗室有 3D 印表機和蛋白質合成設備,但一定缺別的能力;ScienceClaw Infinite 的用意就是讓「我的 agent 跟你實驗室的 agent 對話」,實際把東西做出來並回傳回饋。他說這在技術上已經很接近,剩下的是規模與資源。

人類研究者跟 agent 的關係是什麼? 他的答案是「什麼都可以」,光譜兩端都成立:你可以給定問題(「給我一個能結合這個受體的 peptide」,論文裡有一堆這種例子),也可以完全開放(resonator 和 SPARKS 的蛋白質 scaling 都是這種:「這裡有一堆工具,你可以自己做新的,去找出有意思、而且要夠深刻的東西」),然後由 agent 告訴人類該做什麼。

而在 agent 工作的過程中,人類會變成這個生態系的一員:你可以就是那些 agent 之一,去 review 它們的工作,提供可製造性、倫理、經濟等各種約束。他舉了業界合作的實例——「設計很棒,但我們不用這個材料」或「這個化學品公司沒有 IP」,回饋就這樣餵回 swarm。他特別強調人類的問題選擇直覺:身為 PI 或學生,你去開會、你有直覺知道哪些題目真正令人興奮,「可是幾乎沒有論文在談這個,因為我們論文裡不談 problem selection」——而那正是人類最該拿來引導 swarm 的東西。

金句

"…changing the grammar and how we describe the world, fundamentally breaking what we call the world model."(約 00:08:27)

他對「真發現」的定義:不是在既有語言裡多說一句話,而是改寫語言本身。

"Really sort of writing the musical score while we're solving a problem."(約 00:09:04)

爵士樂團的比喻——發現時代的模型不是照譜演奏,是邊解題邊寫譜。

"…every experiment ever done by any agent is completely traceable and stored so a future agent can use the earlier results to build on. And I think that's the future of scientific publishing."(約 00:16:31)

人類論文只留下成功的三個實驗;agent 科學留下全部,包括失敗。

"We want to build an AI that can write its own library and write its own books and its own papers that hopefully challenge what we believe to be true."(約 00:17:10)

不是查得更快的圖書館,是會反駁你的作者。