AI资讯industry
OpenAI 请外部专家核查其 AI 在数学、计算机科学和物理学领域产出的证明
核心亮点
The Decoder 报道,OpenAI 请外部专家担任"shepherds(牧羊人)",核查其 AI 在计算机科学、数学和物理学领域产出的三项证明结果,并把部分证明翻译成 Lean 供计算机逐步验证。这是前沿实验室为"AI 产出是否可信"引入人工+形式化双保险。
具体能力或事件经过
随着大模型开始产出完整数学证明,一个难题浮现:模型可能给出"看起来对、实则错"的论证。OpenAI 的做法是让领域内的外部权威(报道提及含一位诺贝尔奖得主)逐一审核 AI 的证明,再用 Lean 等证明助手把关键步骤形式化,让机器逐行确认。
技术细节
"shepherd"机制把人类专家置于验证闭环中:AI 负责生成,专家负责质疑与确认,形式化工具负责兜底。Lean 能把自然语言证明转写为可机器检查的逻辑,消除跳步与隐含假设。三者叠加,比单纯让模型自评更可靠。
与竞品对比
DeepMind 的 AlphaProof 也走"生成+形式化"路线并已在竞赛中验证;OpenAI 这次的侧重是"跨数学、CS、物理的多元证明"加"外部权威背书",更强调结果的可信度与学术合规性,而非竞赛得分。
行业影响或适用场景
当 AI 开始产出研究级证明,验证机制将成为核心基础设施。对科研,意味着"AI 猜想 + 人类/机器共验"可能加速发现;对出版与评审,则要求建立新的核查流程,否则错误证明一旦进入文献库,代价极高。