心理健康的 Agentic AI 應用:從聊天機器人到臨床流程協作

TL;DR

• 他的研究流程是三段式:選定一個可能可自動化的臨床工作流程 → 建 single/multi-agent 系統,並用「bot 扮演使用者」在 sandbox 模擬驗證 → 接著跑兩到三年的臨床試驗。第三段才是他和多數 AI 演講者最大的差別。
• 成果橫跨四個領域:臨床照護(自動產生 PHQ/GAD-7 等量表、multi-agent 做 DSM 診斷式訪談)、醫學教育(加速住院醫師取得臨床能力)、研究(systematic review 與 meta-analysis 的局部自動化)、品質改善(從虛擬看診的多模態資料估計醫病關係)。
• 兩個負面但重要的發現:(1) 逼 agent 執行 motivational interviewing 時,複雜度超過某個水準後 agent 就失守,連 guardrail 都守不住;(2) 高 / 低安全 guardrail 對「agent 被使用者如何感知」有顯著影響。而全世界生成式 AI 工具的 RCT 只有一到兩個——證據嚴重不足。

重點整理

立場與方法論:我是臨床試驗研究者(約 02:08–02:11)

講者自我定位很明確:他是精神科醫師與 clinician scientist,任職於多倫多大學,主持 AI for Mental Health (AI-M) Program;同時是 Temerty Centre for AI Research and Education in Medicine(T-CAIREM) 底下的全國心理健康 community of practice lead——該中心串連了加拿大各大學,他負責的是心理健康這一塊。

他進入這個領域的動機是:AI 的許多進展本來就是從人腦運作方式來的——deep learning 對應皮質(cortical)表徵,reinforcement learning 對應皮質下(subcortical)。他約三分之一的研究是在反向工程這些系統(可解釋性方向,當天沒講);另外三分之二是心理健康臨床工作流程的自動化,也就是這場演講的主題。

他的標準流程是:

1. 找出一個有機會自動化的臨床工作流程。
2. 開發自動化系統(single agent 或 multi-agent),用一個 bot 扮演終端使用者,在 sandbox 環境做模擬,證明它可行。
3. 跑臨床試驗——這是他強調與當天多數講者最大的不同。他在憂鬱症、PTSD、焦慮症(含預防端),近期也在心理健康與阿茲海默症領域主持試驗。

他跑試驗的理由很實際:某個工作流程上 agent 「不劣於人類」還不夠。還有變革管理、服務流程重新設計等一整套生態系變動要發生,所以他們用 mixed methods 去看「就算它有效,要真的被採用還需要什麼」,並把成本效益納入評估。

三四年前的那張基石投影片(約 02:12)

大約三四年前,當自主性等級開始往上走,他的團隊就在想:這對心理健康的臨床照護意味著什麼?於是提出了 collaborative / assistive / semi-autonomous agents 的分類,並在 human-in-the-loop 框架下界定人的角色。這張圖是整場演講反覆回扣的座標系。

他也點出現實:AI scribe 是臨床人員唯一普遍認得、而且已在使用的生成式 AI 應用;其他每一類都還需要相當多證據。

四個領域的實作(約 02:13–02:20)

臨床照護——把他自己的門診從初診 intake 到出院整條流程用 agent 自動化,每一段都已發表,現正往臨床試驗推進。兩個具體例子:

• Measurement-based care:心理健康缺少「糖尿病的血糖、高血壓的血壓」這種客觀量測。臨床上用的是 PHQ、GAD-7 這類量表,但過去二十多年一直很難讓這些量表被確實填寫。他們的做法是:拿非結構化資料(可以想成 ambient scribe 的輸出)自動生成量表分數,並在臨床人員沒有收集到相關資訊時主動提示。這套目前正透過醫院端的 Epic 進入試驗。
• 多 agent 診斷式訪談:把操作化的 DSM(即 SCID 這套工具)拆成 multi-agent——一個 agent 負責問診、另一個負責監督(在該模組完成前不允許進入下一個模組)、遵循 SCID 內部的 skip logic,再加一個 orchestrator / diagnoser。用 bot 扮演帶有各種複雜 DSM 診斷的病人測試,表現良好,現已進入臨床試驗。試驗刻意定位在輕到中度症狀——他們清楚重度精神病、重度憂鬱或阿茲海默症患者無法使用這類工具。

醫學教育——他直接承認 deskilling(能力退化)是正當的擔憂,需要用別的方式處理。他們選的切角相反:訓練一位臨床醫師要 10 年(4 年醫學院 + 4 到 6 年住院醫師訓練),能不能用 agentic AI 加速能力(competency)的取得? 做法是依加拿大與美國各自的專科委員會標準,拆解出住院醫師結訓前應具備的能力,再建一個 multi-agent 系統:一個 bot 扮病人、一個 bot 扮臨床醫師、一個 bot 扮想練習訪談技巧的住院醫師——因為住院醫師學會臨床訪談(臨床醫師的核心技能)的方式,就是反覆做、報告給主治、拿回饋。他們正與七個規模最大的臨床訓練專案合作部署:一組照現行方式訓練,另一組加上這套系統,看能力取得是否能從五年縮到三、四年。另有一個變體是幫住院醫師學習心理治療的基本原則,如 CBT 與 motivational interviewing。

他對此保持懷疑:「我是從臨床試驗的懷疑角度來的——這些東西大多不會照我們想的方式運作,但少數真的成立的,會有變革性的影響。」

研究——他做了 5 到 10 年的 systematic review 與 meta-analysis,判斷「再過幾年我就不會自己做了,我們會有 living systematic reviews and meta-analyses」。策略不是端到端自動化,而是鎖定 pipeline 中的特定環節。動機很具體:研究助理光是比對文獻抽取的錯誤就要花數小時甚至數週。量化端有一篇論文,質性端(thematic analysis)也做了對照——比較傳統質性分析得到的主題與生成式 AI 得到的主題。底線仍是 human-in-the-loop。同樣的思路也用在 EEG 分析的資料處理上。

品質改善——疫情期間臨床人員轉為虛擬看診,他們想知道:虛擬情境下的醫病關係本質是什麼?做法是多模態:用多種資料流與非結構化資料去產生 Working Alliance Inventory——這是醫病關係品質的代理指標。這項工作也正在逐步進入臨床試驗。

兩個限制性發現,與證據的匱乏(約 02:20–02:22)

• 複雜度上限:他們研究 agent 直接提供治療的各個環節時,強迫 agent 執行 motivational interviewing,結果發現複雜度超過某個水準之後,agent 就做不到了,而且會失去它的 guardrails。
• Guardrail 影響感知:比較低安全 guardrail 與高安全 guardrail 的設定,結果顯示 guardrail 強度對「agent 被如何感知」有顯著影響。
• 證據面:他掃了全世界在這個領域的進展,結論是——儘管這些 agent 的可能性被講得很大,用生成式 AI 工具做的隨機對照試驗目前只有一個,加上去年那個 bot 才要變成兩個。他的收尾就是這句:臨床試驗有迫切且關鍵的需求,而這正是他團隊大量投入的方向。

金句

"It's not enough if at that particular workflow the agent is non-inferior to the human doing the task. There are a lot of other ecosystem changes."(約 02:13)

「不劣於人類」只是入場券,不是採用的理由。

"Most of these things are not going to work — at least in the way we think it would work — but the few things which would work will have a transformative effect."(約 02:17)

一個臨床試驗研究者對 agentic AI 的期望值設定。

"In spite of all the possibilities for what these agents could do, there's only one randomized control trial — now coming to two."(約 02:21)

演講的落點:能力的敘事遠遠跑在證據之前。