OpenAI 把智能体带进临床:真正的产品是干预闭环
OpenAI 的医疗电脑操作智能体开始触达真实工作流,但可部署的关键不是自主性,而是知道何时停止、求助并证明干预有效。
当一份 MRI 检查授权申请需要穿过电子病历和保险门户时,难点已经不是让模型写出一段话,而是判断智能体应该继续点击、暂停请医生确认,还是留下足够完整的审计轨迹。
核心判断:电脑操作智能体正在工作流边界上变得有用,但真正的产品不是单纯的自主性,而是可测量的干预闭环。
OpenAI 11 月 17 日的医疗发布把这个变化具体化:电脑操作智能体可以读取病历,起草医嘱和患者回复,再在没有完整 API 的系统中准备事前授权申请。OpenAI 报告称,在 325 个经过审核的 EHR 任务中,99% 被评为安全;在 646 次评估中,93% 被医生评为“非常有帮助”或“极其有帮助”。这些是有价值的部署信号,但仍是厂商组织的观察,不能直接等同于大规模临床安全。
现在重要,是因为同一发布也说明了真正让流程可用的部分:可配置的审批、角色权限、审计日志、截图,以及在记录含糊时暂停并请求人工决定。价值不只是智能体会操作软件,而是组织能够限制、检查并中断这些操作。
证据卡片
证据卡片
OpenAI
仅作机构归因;不将表述归于任何个人。**准确转述:**OpenAI 在 2026 年 11 月 17 日的产品公告中表示,电脑操作智能体可以穿行于 EHR 和支付方门户,医疗部署可以配置审批并记录审计日志。**日期/场合:**2026 年 11 月 17 日,OpenAI 产品公告。**具体主张/机制:**接入既有界面扩大了可自动化工作流,而审批和日志提供高风险场景所需的控制层。**分类:**新的运营信号。**证据等级:A。**原始来源:**https://openai.com/index/advancing-computer-use-for-healthcare-teams/ 证据等级:A。
OpenAI GPT-6 Cyber
仅作机构归因;不将表述归于任何个人。**准确转述:**OpenAI 报告称,GPT-6 Cyber 在没有部署提示时,99.93% 的测试没有攻击范围外服务;有提示时为 100%;ExploitGym 得分从对比模型的 32.1% 提升到 48.5%。**日期/场合:**2026 年 11 月 4 日,OpenAI 研究公告。**具体主张/机制:**能力和边界遵循可以同时改善,但部署问题必须问智能体是否留在授权行动空间内。**分类:**新的评测信号。**证据等级:A。**原始来源:**https://openai.com/index/introducing-gpt-6-cyber/ 证据等级:A。
Ayush Sawarni 及合作者
仅作机构归因;不将表述归于任何个人。 准确转述:《Knowing When to Intervene》指出,静态基准无法告诉我们部署中途审计的价值;随机化干预可以估计验证或引导是否改善最终结果。**日期/场合:**2026 年 11 月 10 日第二版,arXiv。**具体主张/机制:**人工或模型复核的收益取决于智能体当前状态及后续路径,因此干预策略是因果问题,而不是固定清单。**分类:**实质性学术更新。**证据等级:A。**原始来源:**https://arxiv.org/abs/2611.09792 证据等级:A。
Runyang You 及合作者
仅作机构归因;不将表述归于任何个人。 准确转述:《Agent-as-a-Judge》认为,主动评估器在下判断前需要寻找缺失证据;智能体化评测在成本、可靠性、安全和治理方面的收益并不均匀。**日期/场合:**2026 年 11 月 13 日,arXiv。**具体主张/机制:**只读取静态日志的评估器可能看不到环境状态,证据收集必须成为评测的一部分。**分类:**实质性学术更新。**证据等级:A。**原始来源:**https://arxiv.org/abs/2611.18067 证据等级:A。
这些信号的共识比标题更窄。OpenAI 的产品和网络安全工作说明,智能体可以执行更多步骤,也可以更好地遵守明确边界。两篇学术论文则限定了这个推论:更高的任务分数不能说明人工复核何时会改变结果,静态轨迹也可能缺少判断行动所需的环境证据。分歧因此主要在评测设计与介入时机,而不是智能体能否点击、输入或发现缺陷。就部署决策而言,学术主张的证据更强,因为它明确指出了可测量的因果缺口。
首席数据科学家评审
目前观察到的变量包括任务完成、评分、审核者评定的安全性、成本、越界行动,以及是否留下可审计记录。更重要的未观测变量包括被避免的患者伤害、上线后的返工、群体差异,以及先由人工处理时的反事实结果。医疗样本来自选择后的任务,演示中的数据还是合成数据;审核者也知道自己在评估智能体。这会带来选择、测量和报告偏差。网络安全数字是基准结果,不是现实事件总体估计。厂商激励也会偏向更容易展示能力的流程和指标。
机制很直接:智能体通过减少系统间导航和协调时间创造价值,但当不确定性被隐藏在一连串“小动作”中时,风险会上升。因此,数据采集不能只记录成功或失败,还要记录状态、拟议行动、审批点、使用过的证据和后续纠正。模型评测要按歧义程度与行动可逆性分层。产品要把“停止并询问”设计成一等结果;运营要抽查已完成流程;治理要保留可重建行动过程的记录。
接下来 30–90 天观察指标
追踪三项指标:1)按工作流和患者风险层级划分的纠正率与升级率;2)扣除人工复核和返工后的净节省时间;3)会改变最终行动的干预占比。每周用匹配的人工基线更新仪表板。**成功阈值:**净周期时间至少下降 20%,临床重要纠正不增加,且 95% 的抽样案例记录了干预决定。**停止条件/修订条件:**如果重要纠正率上升、群体差距扩大,或少于 80% 的抽样干预能够重建智能体为何继续行动,就暂停扩展并修改策略。
具体行动
先选择一个可逆的行政工作流,不要一次覆盖整个部门。上线前定义审批边界,记录每次状态转换,然后进行四周随机对照:比较默认策略与在预设不确定性节点请求复核的策略。问题不是“演示是否成功”,而是干预闭环能否在安全性相当或更好的前提下,降低现有流程的总成本。
回到开头的 MRI 申请,这才是正确的尺度。智能体也许可以跨越所有软件边界,但只有当团队能说明它在哪里停止、使用了什么证据、谁批准了下一步,以及干预是否改善结果时,部署才真正获得信任。
延伸阅读:工作流证据才是新能力测试;独立 AI 保障仍需接受测试。