AI 心理健康前沿——临床 AI 试验前，先把共同设计做成安全门槛
香港一项研究说明，心理健康 AI 不应从模型演示开始，而应先确认真实需求、本地语言、隐私边界与临床协作方式。
心理健康 AI 的临床试验，不应从模型演示开始。香港一项于 2026 年 10 月 21 日发表的新研究，把起点前移：先了解精神科患者已经如何使用通用聊天机器人，再由有亲身经历的人和临床人员共同设计原型，最后才为受控试验确定规格。这个顺序提醒产品团队，真正的第一道安全问题不是聊天机器人能否说出温和的话，而是它能否在不改变隐私、语言和升级处理边界的前提下，进入真实照护关系。
前沿信号
这项发表于 Healthcare 的研究报告了 CARES-MDD 的需求评估与参与式共同设计。CARES-MDD 是一个面向抑郁症患者、使用粤语、受 CBT 思路启发的生成式 AI 对话原型，定位是精神科常规照护之外的辅助支持。
第一阶段纳入 511 名精神科门诊患者，其中 66.2% 表示自己曾经使用通用 AI 聊天机器人处理情绪问题。访谈与质性材料反复出现三个现实：对隐私的担忧、害怕受到负面评价，以及不愿给别人增加负担。参与者同时重视本地化的同理表达、不带评判的互动和全天可用性。
第二阶段邀请 10 名有抑郁症亲身经历的专家，以及 8 名多学科临床专业人员参与共同设计。团队用一个包含七个领域的反馈量表评估感知到的有用性与可接受性。研究报告了总体上较积极的反馈，但它的主要产出并不是疗效结论，而是未来对照试验可以采用的设计参数。
为什么临床与构建者在意
这其实是一个部署问题，而不只是对话界面问题。通用聊天机器人可以随时回应，但精神科服务必须明确：它在照护中扮演什么角色，哪些话不能让患者误以为是临床判断，哪些信息会进入照护团队，以及当对话超出系统能力时由谁接手。
香港场景让“本地化”变得具体。粤语表达、对污名和隐私的理解，以及患者与精神科服务之间已有的关系，都会影响患者是否愿意透露信息、是否接受建议，以及是否把辅助工具误认为医疗服务。共同设计因此不只是调整语气，也是在发现基准测试通常看不见的要求：某种措辞是否令人感到被评判，同意说明是否含糊，转交人工的时点是否合适，“全天可用”是否会制造不切实际的响应预期。
对构建者来说，66.2% 是产品环境信号，不是疗效证据。患者已经把通用 AI 带入心理健康场景。临床项目需要让这种行为变得可见、可讨论、可安全纳入流程，同时不能把熟悉感误当作信任或安全。
技术解读
CARES-MDD 被描述为一个由 CBT 思路启发、与常规精神科照护并行的生成式 AI 对话代理。研究采用混合方法：先做较大规模的需求评估，再让有亲身经历的人和临床人员对原型进行参与式反馈。七领域量表提供了一个关键的“试验前规格层”，把“大家觉得演示不错”与正式临床评估连接起来。
这个层次应当成为生产架构中的明确工件。把预期用途和禁止用途写成可测试需求；把隐私担忧转化为数据流决定：保存什么、保存多久、谁能看到，以及默认不把什么用于模型改进。把临床反馈转成升级状态和交接测试，把本地语言反馈转成由临床人员与有亲身经历者共同审核的评估集。不能只把英文安全测试逐句翻译成中文。
研究没有证明症状改善、诊断准确性、危机处理能力，也没有证明它优于常规照护。它是设计与可行性基础，服务于未来试验。正因为没有越过证据边界，它才具有实际价值。
临床现实校验
共同设计可以减少盲点，但不能替代干预验证。较高的可接受性，完全可能与不安全建议、过度自信的解释、遗漏病情恶化、隐私泄露或情感依赖同时存在。一个规模较小的参与者群体能够揭示重要问题，却不能代表所有患者、语言变体、诊断类别或不同严重程度的人群。
“辅助支持”的定位也必须落实在流程里。如果患者把全天可用理解成有人持续监测，就会在实际响应时间与主观期待之间形成危险落差。如果临床人员收到大量低价值提醒，升级机制会变成形式主义。如果根本没有人接收信号，“临床支持”就只是宣传用语。因此试验前规格应包含边界理解、虚假安心、漏升级、过度升级和临床负担，而不只是满意度。
构建者要点
- 把需求评估和有亲身经历者共同设计设为试验前安全门槛，而不是上线后的 UX 研究。
- 用清楚的语言定义“辅助”角色，并测试用户能否准确说出系统监测什么、不监测什么。
- 与临床人员和有亲身经历者共同建立粤语及其他本地语言评估集，不要依赖英文提示的直译。
- 把隐私、交接、升级和临床负担，与症状指标一样作为一等结果来记录。
- 严格区分可接受性、可行性和临床疗效三种证据主张。
链接 / 来源
- Lo 等：《From Needs Assessment to Pre-Trial Specification》——香港精神科照护中的 CARES-MDD 需求评估与共同设计。
- 临床需要先问：患者如何使用 AI——为什么患者使用 AI 的情况应进入临床评估和流程设计。
- 安全证据必须随生成式 AI 器械一起交付——为什么生成式心理健康系统必须在部署时同步交付证据与控制措施。