袁天AI developer
← 全部笔记

模型的那句「等等」,是谁教的?

老师只看最后的答案,它自己学会了检查。

推理模型做题时老说「等等,我再检查一下」。这句话没人教过它。

只看最后答案

以前教模型解题,是让人写好多标准过程给它模仿。这样学出来的多半只是口气,它学会了说「让我反思一下」,不一定真在反思。而且奥数题的详细步骤太贵了,也写不了那么多。

DeepSeek 做 R1-Zero 的办法简单得多。同一道题让模型做好几遍,数学题对最后的答案,代码题跑测试用例,再查一下格式,中间怎么写都不管。哪种答卷拿分高,模型以后就更容易写出那样的东西。这就是强化学习。

「等等」是这样留下来的

比如一道题说 x 是负数,它的平方是 9。

一份答卷直接写 x = 3,错了,没分。另一份也先写了 3,然后来一句「等等,题目说是负数」,改成 −3,对了,有分。

判卷的只认 −3,根本不知道它中间回过头。但这样的情况多了,「写一半回头看看」这个动作就被留下来了。这句「等等」像一片刹车,把快要走偏的推导拦下来,再回去看一眼题目。

数字

团队拿 2024 年的 AIME 数学竞赛题看训练效果,每道题让模型做 16 次,算平均正确率。刚开始是 15.6%,后来到了 71.0%。

论文里还贴了一段模型的草稿,它算到一半连写了好几个 wait,然后自己说这是个 aha moment。

后遗症

这么练也有副作用。你问它 1+1 等于几,它也可能在思考区里自言自语半天。训练时做的全是陷阱题,它已经习惯了到处找坑,有点像得了被迫害妄想症。

强化学习 语言模型
© 2026 袁天NOTE / 18
小鲸鱼 · AI 导航
小鲸鱼正在连接…

站上的内容我都读过。直接联系袁天 →

小鲸鱼我是助手小鲸鱼。内容、笔记,或者有什么想知道的,直接问我。