模型的那句「等等」,是谁教的?
老师只看最后的答案,它自己学会了检查。
推理模型做题时老说「等等,我再检查一下」。这句话没人教过它。
只看最后答案
以前教模型解题,是让人写好多标准过程给它模仿。这样学出来的多半只是口气,它学会了说「让我反思一下」,不一定真在反思。而且奥数题的详细步骤太贵了,也写不了那么多。
DeepSeek 做 R1-Zero 的办法简单得多。同一道题让模型做好几遍,数学题对最后的答案,代码题跑测试用例,再查一下格式,中间怎么写都不管。哪种答卷拿分高,模型以后就更容易写出那样的东西。这就是强化学习。
「等等」是这样留下来的
比如一道题说 x 是负数,它的平方是 9。
一份答卷直接写 x = 3,错了,没分。另一份也先写了 3,然后来一句「等等,题目说是负数」,改成 −3,对了,有分。
判卷的只认 −3,根本不知道它中间回过头。但这样的情况多了,「写一半回头看看」这个动作就被留下来了。这句「等等」像一片刹车,把快要走偏的推导拦下来,再回去看一眼题目。
数字
团队拿 2024 年的 AIME 数学竞赛题看训练效果,每道题让模型做 16 次,算平均正确率。刚开始是 15.6%,后来到了 71.0%。
论文里还贴了一段模型的草稿,它算到一半连写了好几个 wait,然后自己说这是个 aha moment。
后遗症
这么练也有副作用。你问它 1+1 等于几,它也可能在思考区里自言自语半天。训练时做的全是陷阱题,它已经习惯了到处找坑,有点像得了被迫害妄想症。
© 2026 袁天NOTE / 18
