AI 智能体可以证明代码,但真正的产品仍是规格
OpenAI 正把对齐后的智能体推向安全与企业工作流,Google DeepMind 则展示了机器检查生产安全代码证明的路径。现实判断是:只有先把‘什么算正确’写成可审查的规格,自动化验证才会成为生产控制。
证据卡
OpenAI
仅作机构归因;不将表述归于任何个人。准确转述:2026 年 11 月 10 日的 OpenAI 产品发布列表把 GPT-6 Cyber 与企业分发列为当前产品工作。日期/场合:2026 年 11 月 10 日,OpenAI 产品发布声明。主张/机制:对齐后的网络安全智能体必须与受权限管理的企业部署连接,才可能形成实际价值。证据等级 A。来源:https://openai.com/news/product-releases/
Google DeepMind
仅作机构归因;不将表述归于任何个人。准确转述:2026 年 11 月 10 日,AlphaProof Code 声明称人类专家先规定安全目标,再由 Lean 对智能体生成的证明进行机器检查,并测试了两个重新注入的漏洞。日期/场合:2026 年 11 月 10 日,Google DeepMind 研究声明。主张/机制:当规格明确时,形式化检查器可以把智能体输出转化为可审计的保障。证据等级 A。来源:https://deepmind.google/blog/introducing-alphaproof-code/
Google DeepMind — AlphaGenome 2 研究组
仅作机构归因;不将表述归于任何个人。准确转述:研究组在 2026 年 11 月 11 日 AlphaGenome 2 研究声明中介绍了让 DNA 模型以具体细胞类型和状态为条件。日期/场合:2026 年 11 月 11 日,Google DeepMind 科学声明。主张/机制:以目标生物环境为条件,可能发现宽组织平均值掩盖的变异效应,但基准提升仍需实验验证。证据等级 A。来源:https://deepmind.google/blog/alphagenome-2-deciphering-how-cells-read-dna-to-better-understand-disease/
11 月 10 日,Google DeepMind 表示,AlphaProof Code 智能体帮助团队对 Signal 底层代码的关键安全性质进行了形式化验证。系统生成了超过 600 万行 Lean 证明,由 Lean 进行机器检查;研究团队称,整个过程用了四周,只把约 1% 的代码交给人类重新关注。几天前,OpenAI 也在把对齐后的网络安全智能体和企业分发渠道作为产品来推进。
一句话判断:AI 智能体正在成为能够产出证明的工作者,但生产控制的核心仍是规格——由人批准、明确写出“什么必须为真”。
这件事现在重要,是因为市场正从聊天输出转向安全、基础设施和业务工作流中的实际动作。一个听起来可信的回答可以抽样检查;一个已经获得权限的智能体会改变系统。因此,能力问题不再只是智能体是否说得像专家,而是它的工作能否在获得信任前,依据明确契约被外部工具检查。
Consensus and disagreement / 共识与分歧
三个信号共同指向验证环,但证据强度不同
仅作机构归因;不将表述归于任何个人。 OpenAI 的产品发布页列出 GPT-6 Cyber,并将其描述为面向网络安全智能体的推进,同时列出 ChatGPT Enterprise 进入 AWS Marketplace。这个信号说明:可用的智能体不仅需要完成任务的能力,还需要能管理权限、采购和监控的分发环境。但这是公司的产品公告,证明的是产品方向,不是客户一定会得到安全结果。(OpenAI 产品发布)
Google DeepMind 给出了更具体的演示。11 月 10 日的文章称,研究人员先与人类专家把安全目标翻译成形式化规格,再让多智能体生成 Lean 证明,并由 Lean 自动检查。团队还在 Signal 的隔离版本中重新放入两个已修复的真实漏洞;系统对有漏洞版本给出了机器检查的“不安全”证明。这是对已知失败的有价值测试,但不能证明所有安全性质都已被规格覆盖。(Google DeepMind:AlphaProof Code)
这里的机制比“AI 很聪明”更重要:智能体没有自行决定隐私意味着什么。人类选择了要证明的性质、审查了规格,然后把穷举式检查交给形式化系统。这样做可以改变保障工作的成本结构,却保留了一个关键的人类瓶颈:把价值判断和威胁模型变成可执行要求。
同一研究机构发布的 AlphaGenome 2 又说明了边界。该模型使用超过 1.07 亿个细胞档案训练,并在 TenK10K 数据集上报告了更好的遗传变异效应预测;但它仍是研究工具,核心比较依赖特定基准。预测分数提高,不等于真实实验或临床结论已经成立。两项工作的共同价值,不是“AI 的自信”,而是让一个主张接上可以外部检查的接口。(Google DeepMind:AlphaGenome 2)
这些信号在方向上是一致的:智能体应被放进验证闭环,而不是直接成为权威。但它们并没有证明同一件事。差异主要来自证据等级和时间范围,而不是人物立场:产品公告是在预测采用;形式化验证是在有限规格和有限实现上证明性质;生物学基准是在规定数据条件下证明预测表现。目前证据最强的是 AlphaProof Code 的狭窄主张,因为它说明了规格、检查器、故障注入测试和开放材料。它仍然不能推出“智能体可以保护任意生产系统”。
Chief Data Scientist Review / 首席数据科学家审查
实际观察到的变量包括:证明是否通过、能否发现注入漏洞、人类复核范围、耗时和基准表现。尚未观察到的变量包括:规格是否完整、是否遗漏威胁模型、维护成本,以及被证明的代码是否就是最终上线的代码。Signal 示例有一个重要反事实,即已知有漏洞的版本,但两个注入漏洞不足以估计真实漏报率。OpenAI 的产品信号还存在选择偏差:供应商更容易展示成功案例。
生产上的控制办法,是把每个智能体任务都当成契约管理。保存规格版本、代码提交、检查器版本、失败尝试、人类批准记录和上线事件。安全工作流在发布前应要求固定回归集“零逃逸”,同时对新增性质保留人工签字。研究模型则要在未见过的细胞或队列上报告结果;凡是会驱动行动的主张,都应安排实验验证。更好的基准不能替代反事实。
未来 30–90 天观察指标
- 可复现性: AlphaProof Code 的开放材料能否让独立团队在相同提交版本上重跑证明,并复现故障注入结果。
- 覆盖率: 生产关键性质中拥有可执行规格的比例,每周审查;比例下降时,即使智能体吞吐上升,也应暂停扩张。
- 逃逸率: 上线后是否出现违反已声明性质的缺陷。一次确认的逃逸就应触发规格复盘,并在补上遗漏案例前暂停扩大范围。
Concrete builder/operator action / 给构建者的一个动作
本周选一个代价高的工作流,建立小型证明闭环:写出五条明确不变量,准备 20 个回归案例,其中包含两个已知失败,让智能体产出证明材料,并要求人类先批准规格,再允许自动化触碰生产。只有在检查器抓住全部种子失败、且四周审查日志没有无法解释的绕过时,才扩大范围;否则停止扩张,修改契约,让智能体留在建议模式。
可执行实验与决策规则:连续四周每周运行 20 个回归案例。成功阈值是抓住 20/20 个种子失败且没有无法解释的绕过;任一阈值未达到,就停止扩张并修改规格。
开头的场景并不是机器即将替人做判断,而是判断必须精确到可以被检查。下一项值得追踪的指标也不是智能体自主性,而是关键工作中有多少比例把假设、证据和失败条件写清楚,并在可能时交给机器检查。
延伸阅读:OpenAI 产品发布、AlphaProof Code 和 AlphaGenome 2。相关内部阅读:智能体工作流控制 与 AI 基础设施测试系统。
Evidence grade A: all three evidence cards use verified primary sources.