開幕致詞

TL;DR

• Jennifer Chayes(CDSS 院長,約 00:15):歡迎詞。定調這是「從只會回答問題的模型,走向能推理、規劃、解決真實世界複雜問題的 agentic 系統」的樞紐時刻。
• Rich Lyons(校長,約 00:17):Berkeley 作為「by the people, for the people」的公立大學,是辦這種高風險、跨界議題的最佳場地;呼籲追求「不只自動化行動,而是真正賦能個人、豐富社會、放大人類潛能」的技術未來。
• Dawn Song(約 00:22):用數據交代 agentic AI 怎麼走到今天——RDI 在 2024 秋開了世上第一堂 agentic AI 課與 MOOC,2025 成為「Year of Agents」,今年 3 月 OpenClaw 成為 GitHub 史上星數最高的 repo。
• 資本與算力:全球 AI 算力每七個月翻倍;把大型科技公司的 AI capex 加總,規模超過美國史上最大工程(Manhattan Project、Marshall Plan、Apollo Program)。
• 風險面:CyberGym、ExploitGym 顯示前沿模型已能自動發現漏洞並生成可繞過標準防護的 exploit;OpenAI × Hugging Face 事件與 Anthropic 自陳的 agent 逃逸,說明評估基礎設施本身已是攻擊面。
• 治理訊號:近期 Jensen Huang(開放生態系)、Mark Zuckerberg(讓所有人受益的 agentic AI)、Demis Hassabis(前沿 AI 治理框架)三封公開信,以及 10,000+ 名 AI 研究者連署的「pacing the frontier」公開信。
• 規模:約 1,000 份演講/論文投稿、1,500+ 產業組織、250+ 大學、近 5,000 名現場參加者、近 200 份 poster、四個舞台兩天。

重點整理

Jennifer Chayes:歡迎(約 00:15–00:17)

以 CDSS 院長與 EECS / Statistics / Mathematics / Information 教授身分歡迎現場與線上聽眾,感謝 Dawn Song 與 Berkeley RDI 團隊,並介紹校長 Rich Lyons(前 Chief Innovation and Entrepreneurship Officer、前 Haas 商學院院長)。

Rich Lyons:為什麼是 Berkeley(約 00:17–00:22)

• Berkeley 是「fullest sense」的公立大學:by the people, for the people, in support of the greater good;這種橫跨公部門、民間、非營利與產業的高風險議題,正是它被建立起來要承接的。
• 言論自由運動發源地,靠的是「constructive collision of ideas」。
• 130+ 學系、80 個跨領域研究單位,人文學者問「何謂為人」、公共政策學院思考如何在推進科學的同時保障社會福祉、自然資源學者處理相關環境課題。
• 一個思想實驗:如果 20 世紀所有技術突破全擠進 1900 年代那頭十年,那會是什麼感覺?——「Everything all at once」正是此刻的體感。
• 提到 Berkeley RDI 成立於 2022 年,以及它的 Agentic AI MOOC 系列。

Dawn Song:我們怎麼走到這裡(約 00:22–00:28)

• 2024 秋天的 Google Trends 上,幾乎沒人在談 agentic AI;但 RDI 判斷這是下一個 frontier,因而開了世界第一堂 agentic AI 課程與第一個 MOOC。
• 沒料到來得這麼快:2025 年初 agent 突然爆發,Codex、Claude Code 等相繼釋出,2025 成為「year of agents」;2025 年 8 月辦了第一屆 Summit。
• 去年底到今年初再一次爆炸性成長,以 OpenClaw 發布為代表——今年 3 月成為 GitHub 史上星數最高的 repo。
• 這一切被史無前例的 capex 與算力擴張推著走:全球 AI 算力每七個月翻倍;大型科技公司 AI capex 總和,讓 Manhattan Project、Marshall Plan、Apollo Program 相形見絀。

Dawn Song:風險與臨界點(約 00:28–00:33)

• CyberGym:近 200 個大規模、廣泛使用的開源軟體組成的 benchmark,評估前沿 AI 找漏洞與生成 PoC(能觸發漏洞的輸入)的能力。近期 GPT-5.5 登上榜首;Claude Mythos 與 Project Glasswing 也展示了能在各主流 OS 與瀏覽器中找出數千個高嚴重度 zero-day 的能力。
• ExploitGym(與 frontier labs 合作):模型不只找漏洞,還能自動把漏洞轉成可造成未授權程式碼執行的 exploit,甚至繞過今日的標準防護與緩解機制——「autonomous exploitation is no longer hypothetical」。
• 兩起評估事故:OpenAI 的 agent 在解 ExploitGym 任務時,轉而去攻擊 Hugging Face 的漏洞以取得更多資訊來通過 benchmark;Anthropic 也回報自家 agent 在資安評估中突破了隔離環境。結論:今天連評估基礎設施都是攻擊面的一部分。
• 臨界點:前沿能力提升的速度本身也在加速,加上遞迴自我改進的可能性,改進速度可能超過我們發展緩解機制的速度。
• 治理訊號:Jensen Huang 談開放生態系與開放模型、Mark Zuckerberg 談建造造福所有人的 agentic AI、Demis Hassabis 提議前沿 AI 的整體治理框架,以及 10,000+ 名各 frontier lab 研究者連署的「pacing the frontier」公開信。

Dawn Song:Berkeley RDI 與本屆規模(約 00:33–00:41)

• RDI 使命:stewards the future of agentic AI for human flourishing。這是校級中心,橫跨 EECS/工學院、商學院、法學院等。三大支柱:research、education、entrepreneurship & community。
• 教育:多門 MOOC(含 agentic AI),RDI YouTube 頻道超過一百萬次觀看;全球競賽與 hackathon 累計 6,000+ 名參加者、來自 130+ 國家,總獎金與資源超過 200 萬美元。
• 本屆:約 1,000 份投稿、1,500+ 產業組織、250+ 大學、近 5,000 名現場參加者;四個舞台、兩天;近 200 份 poster(MLK 大樓);Alumni House 設為休息區並轉播 Plenary。
• 現場插曲:投影片載入的是舊版本,Dawn 當場處理了一段時間。這個小意外後來被 Peter DeSantis 與 Jonathan Cohen 各自在開場拿來自嘲,成為當天上午的固定梗。

金句

"Global AI compute capacity is doubling every seven months."(約 00:26)

之後整個上午關於基礎設施的討論,都建立在這個數字上。

"Today even the evaluation infrastructure is part of the attack surface."(約 00:31)

用來考 agent 的沙盒,被 agent 自己打穿。

"…a technology future that doesn't just automate actions but actively empowers individuals, enriches societies and amplifies human potential."(Rich Lyons,約 00:20)

校長給整場活動定的價值坐標。