從模型到 agent 到科學發現:打造 agentic AI 的完整堆疊

TL;DR

• 兩條曲線同時往上:採用率暴增(Kaggle 的 5-Day AI Agents Intensive 課程 150 萬人報名),而 agentic 任務的推論算力比非 agentic 高 10–100 倍;Google 現在每月處理 3.2 quadrillion(千兆)tokens——一 quadrillion 約等於「地球上每人一本小說」,所以是每人三本。
• 必須全棧協同最佳化:AI Hypercomputer(CPU/GPU/TPU)→ 前沿研究與模型 → 資料 → agentic 安全與防禦 → 平台 → 端到端 agentic 解法。TPU 第八代首次拆成 8t(訓練)與 8i(推論):8t 單 pod 121 FP4 exaflops(約前代 3 倍),8i 單 pod 11.6 exaflops(前代 10 倍)。
• 終局是 autonomous discovery loop:資料攝取(文獻、蛋白質資料庫、實驗紀錄)→ 假說生成(AI co-scientist 辯論假說)→ 模擬(AlphaGenome、AlphaFold 秒級驗證)→ 執行(AlphaEvolve、Gemini Robotics 跑濕實驗)→ 回饋。原本要數年的研究週期,可以壓到數小時到數天,而且不只生物學。

重點整理

規模數字與整個堆疊(約 01:02–01:07)

• 三四年前是單體 chatbot,現在是半自主/自主 agent。採用面的代表數字:Kaggle 去年秋天辦的 5-Day AI Agents Intensive 線上課程,150 萬人報名。
• 成本面:agentic 任務所需的推論算力,是非 agentic 工作負載的 10 到 100 倍。也就是採用率在漲、每次互動的複雜度也在漲。
• 結果:Google 每月處理 3.2 quadrillion tokens。他給的直覺換算是「一 quadrillion 大約是地球上每人一本小說」,所以 Google 每月生成的 token 約等於為全世界每個人寫三本小說。
• 要接住這個機會,堆疊由下而上是: 1. AI Hypercomputer(CPU、GPU、TPU) 2. 世界級研究與前沿模型 3. 資料——模型/agent 要做有意義的事就需要它 4. agentic 安全與防禦——agent 開始做有意義的事,機會與風險同時放大 5. 平台——讓人能便宜、有效率地重用上述能力 6. 端到端 agentic 解法——真的替你做事的東西
• 「跨整個堆疊的協同最佳化」是從 AI 中榨出最大價值的必要條件。
• TPU:十年以上的投入,液冷與共享記憶體等創新一路累積。最新一代是 TPU v8,而且第一次把主線拆開——8t 給訓練、8i 給推論(他當場呼應了 Peter DeSantis 前一場的說法)。對比目前的主力世代 Ironwood:
• 訓練側:單 pod 121 FP4 exaflops,約為前代的 3 倍;記憶體頻寬也有 2x、4x 級的跳躍。
• 推論側:單 pod 11.6 exaflops,比前代跳 10 倍,記憶體側同樣顯著提升(因為推論需求成長極快)。
• 這些 TPU 訓練了 Gemini 家族(Pro / Flash / Flash-Lite)、影像與影片生成(Veo、Imagen)、world model(Genie)、AlphaFold、AlphaGo,以及 AlphaChip——用來設計下一代 TPU。「effectively TPUs designing for TPUs」。現在也有不少其他公司用 TPU 訓練自家模型。

Agent 平台的四個問題:build / scale / govern / optimize(約 01:07–01:09)

有了硬體與模型之後還需要平台,因為「建 agent 不是寫個 prompt 就好」。四個關鍵問題:

1. Build:存取各種模型、Agent Development Kit、用來建 agent 的 AI Studio。
2. Scale:managed runtime,讓你從單一 agent instance 擴到數百萬個 agent。
3. Govern:因為 agent 開始做有意義的事,需要 agent identity、agent registry、agent gateway,確保 agent 在正確的邊界內運作。關鍵設計:agent 用的身分系統要和使用者分開,因為 agent 能做的事可能超出使用者本身能做的範圍。
4. Optimize:上線後要靠 tracing、simulation、evaluation、observability 持續改進。

Google 自己也在這個堆疊上建東西:生物(AlphaFold、AlphaGenome)、數學(AlphaEvolve、AlphaProof)、物理與化學(GNoME、fusion 相關工作——見待確認)、氣候與永續(AlphaEarth、WeatherNext)。

實際影響的例子: - AlphaFold:塑膠污染(設計能分解塑膠的酵素)、抗生素抗藥性、結構生物學;特別是被忽視疾病——很多疾病因為經濟誘因不足,藥廠不願投入,AlphaFold 把探索藥物設計的成本與門檻壓下來,這有實質影響。也用於瘧疾疫苗與藥物遞送。 - AlphaEvolve:通用最佳化器。Google 內部大量用於資料中心最佳化;外部客戶用於路徑最佳化、量子錯誤更正,以及電商改進需求預測模型——形態差異極大的應用,各自都有顯著改善。

從模型到 agent 到 discovery:autonomous discovery loop(約 01:10–01:12)

隨著模型持續變強,這一切指向的是自主發現迴圈。以生物學為例(但框架是通用的),各個積木已經到位:

• 資料攝取:agent 已能消化大量文獻;AlphaFold 有龐大的蛋白質資料庫,再加上實驗紀錄。
• 假說生成:AI co-scientist 能辯論不同假說、生成新解法。
• 建模/模擬:用 AlphaGenome、AlphaFold 在數秒內模擬假說並看到效果。
• 執行:透過 AlphaEvolve 與 Gemini Robotics 跑濕實驗,資料再回饋進迴圈。

結果:從資料輸入到產出成果、原本以年計的研究週期,可以在數小時到數天內完成。生物學只是其中一段,這會影響幾乎所有人類發現的面向。

金句

"One quadrillion is one novel per person on this earth. So in a way Google generated tokens which are equivalent to three novels for every person in this world."(約 01:03)

3.2 quadrillion tokens/月 的直覺換算。

"It's effectively TPUs designing for TPUs."(約 01:07)

AlphaChip 用 TPU 訓練、又用來設計下一代 TPU。

"A research cycle which used to take years … can now be done in hours and days."(約 01:12)

Autonomous discovery loop 的主張。