模型说话之前，想好了吗？

模型每次只猜下一个词。那它开口之前，知道自己要说什么吗？Anthropic 有个写诗的实验，看着很直观。

让 Claude 写两行押韵的诗

他们用的是 Claude 3.5 Haiku。第一行写一个人看见胡萝卜，伸手去抓，结尾是 grab it。第二行要押韵，rabbit（兔子）和 habit（习惯）都行，兔子还跟胡萝卜沾边。

正常情况下，它第二行写的是这个人饿得像只兔子。

如果模型真是写一个词看一个词，那要到句尾才会想到 rabbit。但研究人员往里一看，刚换行、第二行一个字都没写的时候，「兔子」的信号就已经亮了。

动一下那个信号

于是他们在换行那一刻改模型内部的信号，再让它接着写：

最有意思的是第二行。兔子没了，它没有硬把句尾换成 habit，而是把整句话都改了，让句子能自然地落到 habit 上。还没写出来的那个词，已经在决定前面怎么写了。Anthropic 的原文里有这几次续写的完整内容。

所以至少韵脚是提前想好的。一整段话是不是也先有个底稿，这个实验没测。