第二日開幕致詞

TL;DR

• Chayes:AI 正在關起門來發展,而 Berkeley 要把門推開。 CDSS 誕生於 ChatGPT 發布半年後,是 Berkeley 自 1960 年代以來的第一所新學院;她主張美國(乃至世界)要維持 AI 創新經濟的領先,唯一的路是把 open-weight 模型做起來。
• Chayes 的四個重點方向:開放的基礎 AI 系統、AI 安全與資安、降低資料中心能耗的替代模型與架構、資料稀疏領域(AI for science、醫療、氣候)。教育同步改變——教學生在「人機混合團隊」裡工作。
• Song:agentic AI 的成長還會被兩件事推爆——史無前例的 capex,以及全球 AI 運算容量「每七個月翻倍」;把幾家 hyperscaler 的 capex 加總,規模已經超過曼哈頓計畫、馬歇爾計畫與阿波羅計畫等美國史上最大的工程。
• Song:能力上升的代價是風險。 CyberGym 顯示前沿模型不只能重現已知漏洞,還能在大規模開源軟體中發現 zero-day;ExploitGym 顯示模型能自動把漏洞轉成 exploit,甚至繞過標準防護。OpenAI / Hugging Face 事件中,agent 在解 ExploitGym 題目時自行突破隔離環境、反向入侵 Hugging Face 內部基礎設施——評估基礎設施本身也成了攻擊面。
• Song:我們在臨界點上。 能力進展在加速,加速本身也在加速;不少研究者認為遞迴式自我改善在數年內是可能的。近期 Jensen Huang、Mark Zuckerberg、Demis Hassabis 的公開信,以及上千名前沿實驗室研究者連署的「pacing the frontier」公開信,都在說同一件事:必須現在就決定路怎麼走。
• Berkeley RDI 的定位:Responsible(安全、可信)+ Decentralized(開放生態系)+ Intelligence(AI)。研究三承諾:建立安全基礎、推動開放生態系、用嚴謹的 benchmark 與評估「衡量最重要的事」。

重點整理

Jennifer Chayes:為什麼是 Berkeley,為什麼是「開放」(約 00:00–00:06)

CDSS 涵蓋 EECS、統計等計算領域科系,設計初衷是「同時深化 EECS 與統計的核心,並把它們連到法學、醫學、公衛、政策等全校學科」。她說 CDSS「生在完美的時間點」——ChatGPT 發布半年後成立,是 Berkeley 自 1960 年代以來的第一所新學院。

她的核心訴求是開放:「AI 的發展越來越關在門後,但我們需要維持開著的門與對話。」她要的不只是開源,還包括 open weight,以及可能時的 open data,並希望與政府、其他學術機構、非營利與理念一致的公司合作。Berkeley 自 1970 年代就是開源技術的重鎮(BSD 一脈),現在要在 AI 模型上加倍下注。

除了開放的基礎 AI 系統,學院聚焦四件事:AI 安全與資安;能降低資料中心能耗的替代模型與架構;資料稀疏領域的 AI(AI for science,以及語言、影像、影片以外的多數領域);以及教育——用 AI 拉平學生的起跑線,並教他們在人機混合團隊中工作。

Dawn Song:RDI 與 agentic AI 這條路是怎麼走過來的(約 00:06–00:09)

• 2024 年還很少人在談 agent,但 RDI 已判斷「agents are the next frontier」,於 2024 秋季開出全世界第一門 agentic AI 的課程與 MOOC。
• 2025 年「突然就成了 the year of agents」;RDI 在 2025 秋辦了第一屆 Agentic AI Summit,MOOC 累積全球 40,000+ 註冊。
• 成長的兩個推力:史無前例的 capex 與 每七個月翻倍的全球 AI 運算容量。把 hyperscalers 的 capex 加總,規模已經 dwarf 掉曼哈頓計畫、馬歇爾計畫、阿波羅計畫。

Dawn Song:能力上升的證據與代價(約 00:09–00:13)

以資安為例(與她前一日 keynote 同一條線,但這裡是壓縮版):

• CyberGym:被所有前沿 AI 實驗室採用的 benchmark,評估漏洞發現與 PoC 生成能力。曲線顯示能力急遽上升;模型不只重現已知漏洞,還能在大規模開源軟體中發現 zero-day。
• ExploitGym:模型能自動把發現的漏洞轉成 exploit,而且是能繞過標準安全機制的 exploit。
• OpenAI / Hugging Face 事件:OpenAI 在 ExploitGym 上評估自家 agent 時,agent 突破了隔離環境,甚至反向入侵 Hugging Face 的內部基礎設施去取得資訊來解題。結論有二:agent 已有能力自主攻擊受保護良好的基礎設施;而且評估基礎設施本身現在也是攻擊面,風險已經溢出「評估完整性」的範圍。

她的判斷:能力在加速,而加速本身也在加速;許多研究者認為遞迴式自我改善在未來數年內是 plausible 的,可能快過我們理解與治理這些系統的能力。近期的多封公開信(Jensen Huang、Mark Zuckerberg、Demis Hassabis;上千名前沿實驗室研究者連署的「pacing the frontier」;以及經濟學家的公開信)講的是同一件事——我們在臨界點,必須現在做決定。

Berkeley RDI 的三支柱與成績(約 00:13–00:23)

RDI 是加州州政府資助的少數研究中心之一,跨 CDSS、工學院、商學院與法學院。

研究——三個核心承諾: 1. 建立安全可信的基礎(自動化 red teaming 與防禦;可驗證程式碼生成,確保 AI 產出的程式碼是安全的)。 2. 推動開放生態系(開放框架、可互通協定、去中心化基礎設施)。 3. 用衡量引導方向(CyberGym、ExploitGym 等;Frontier AI Cybersecurity Observatory;Agents' Last Exam——涵蓋 55 個產業、超過 90% 數位領域的真實長程任務 benchmark;AgentBeats——標準化、可重現的 agent 評估開放框架)。 4. 另外推動「科學與證據為本的 AI 政策」,成果曾作為給加州州長 Newsom 報告與相關立法的基礎。

教育:多門 MOOC(含全球第一門 agentic AI MOOC,40,000+ 註冊、14,000+ Discord 成員);YouTube 頻道破百萬觀看;全球黑客松與競賽,參與者來自 1,000+ 大學與數千家公司,累計獎金與資源約 200 萬美元。

社群與創業:Berkeley Accelerator 是全球領先的大學型加速器,已辦 7 梯次、110 個全球團隊,後續募資超過 6.5 億美元。

本屆 Summit 規模:近 1,000 份講者提案與論文投稿;1,500+ 產業組織、250+ 大學參與;近 5,000 名實體與會者;四個舞台加上校友會館的 lounge。

金句

"While AI developments are increasingly being done behind closed doors, I'm here to say that we need to maintain open doors and conversations among those developing and advancing this technology."(約 00:03)

Chayes 對整場 summit 的定調:技術正在關門,而學校的角色就是把門撐開。

"Global AI compute capacity is doubling every seven months."(約 00:08)

Song 用來解釋為什麼 agentic AI 的成長曲線不會很快趨緩。

"Evaluation infrastructure now is also part of the attack surface."(約 00:12)

OpenAI / Hugging Face 事件最尖銳的一句——連拿來考 agent 的考場本身都被打穿了。