AI 心理健康前沿——高风险对话评估，必须经过临床校准

本周最值得关注的心理健康 AI 安全信号，不是又一个“聊天机器人听起来很有同理心”的演示，而是一项把测试对象改成完整对话的基准。K-Bench 以临床人员校准评估 33 个基础模型、14 家提供方的 125 种配置，覆盖 200 个多轮情境，包括自杀、自伤、家庭暴力、物质使用以及无风险对话。对构建者而言，关键变化是：安全不再只是单个提示词上的正确回答，而是风险如何在对话中出现、变化和被交接。

前沿信号

这项本周发布的 arXiv 预印本使用受保护的测试材料，并维护持续更新的公开排行榜。作者报告了来自 151 份经临床人员评分的对话记录中的 6,751 个有效项目比较；一个冻结的 GPT-4o 评判器与临床共识在这些项目上的完全一致率为 94.2%。这只是评判器校准结果，并不等于被测模型已经具备临床安全性。

摘要显示，领先配置既能维持支持性对话，也能取得超过 95 的综合风险分数；但较弱配置在风险探索上差异很大。治疗性提示词的收益主要集中在较弱模型，提升推理能力则没有带来平均改善。这个拆分很重要：表达温暖、识别风险，以及在风险变化后采取合适行动，并不是同一项能力。

为什么临床与构建者在意

真实用户很少用一个清楚的“我正在处于危机中”提示开始对话。风险可能藏在含糊表述、反复透露、突然沉默、前后矛盾，或生活情境的变化里。单轮测试表现良好的系统，仍可能没有追问关键事实，在出现警讯后过度安慰，或者没有发现风险从低到高的转折。

因此，K-Bench 对初筛、分诊、照护导航、同伴支持工具和面向临床人员的摘要系统都有参考价值。近期针对老年抑郁问题的盲法基准也显示，通用模型在风险升高时表现下降，漏分诊仍然存在。共同的结论是：模型分数不是部署决定。团队还需要明确的人工接管点、可执行的升级路径，以及能复盘整段互动的审计记录。

技术解读

K-Bench 以合成患者对话覆盖五类高风险情境和无风险情境，并把临床人员评分与受保护测试集结合起来，减少模型直接针对题目优化的可能。论文将支持性对话、风险探索和综合风险表现拆开报告，并维护持续更新的排行榜。

这种分解比单一的“有帮助”分数更适合工程使用。团队可以分别追问：系统能否承认痛苦，能否识别风险，能否在不增加混乱的情况下继续探索，以及能否把用户导向合适的支持或升级路径。它仍是一项预印本基准，合成情境也不能覆盖真实对话的全部分布；但设计方向已经很清楚：多轮案例、风险转折、临床校准和受保护测试材料，应该进入产品评估框架。

临床现实校验

这项研究并没有证明任何模型可以独立处理自杀风险、家庭暴力、物质使用或其他紧急情况。评判器与临床人员的一致，也不能替代对情境设计、评分标准、覆盖人群和本地升级流程的验证。“综合风险超过 95”是基准结果，不是临床结局。

部署时还要面对语言与文化覆盖、用户对自动化系统的披露差异、误报造成的临床负担，以及系统能否把人及时连接到合适帮助等问题。受保护测试可以减少刷榜，却不能解决分布偏移、隐私和责任归属。

构建者要点

• 测试完整对话，包括风险转折和含糊披露，不要只依赖单轮安全提示。
• 把同理回应、风险探索、分诊和升级拆成不同能力，并用临床人员参与的标准评分。
• 保护并轮换高风险测试案例，避免团队只针对题目措辞优化。
• 记录每次交接：触发原因、判断依据、去向、延迟、用户后续行动和人工覆盖。
• 把基准表现当作受限工作流的发布门槛，而不是自动处理危机的授权。

链接 / 来源

• K-Bench arXiv 预印本 —— 临床校准的高风险多轮心理健康对话基准。
• 老年抑郁与大语言模型 —— 关于安全性、老年适切性和分诊的盲法基准。
• AI 心理健康前沿——安全评估必须跟着对话走 —— 多轮审计设计的前文。
• AI 心理健康前沿——心理健康 AI 需要按风险分层部署 —— 受限部署的前文。

Read in English →