笔记与思考
做东西时想明白的事，和踩过的坑。
RAG 常用优化方法：从切块到评测，一层层调
RAG 答不好，多半是没检索到对的内容。按切块、查询、检索、重排、生成这条链路逐层优化，再用评测集确认每次改动有没有用。
工程RAG 选型：两套常用组合，差别在谁来掌控链路
规模不大的应用用 Dify 或 FastGPT 搭起来最快，金融、政企这类要私有化的，更适合把解析、检索、推理和评测拆开自建。
工程语音模型怎么听出语气，还能被打断？
语音转文字、模型回复、再合成语音，这条路语气会丢，打断也生硬。端到端语音模型让声音直接进出模型，一边听一边说。
工程预测编码和反向传播，到底等不等价？
预测编码是受大脑启发的学习方法，常被说成和反向传播等价。认手写数字时两者确实差不多，但这个「等价」是有条件的。
模型原理模型的那句「等等」，是谁教的？
没人教。DeepSeek 只看最后答案对不对，模型自己就学会了半路回头检查，正确率从 15.6% 涨到 71.0%。
模型原理模型说话之前，想好了吗？
模型每次只猜下一个词，那它开口前知道自己要说什么吗？Anthropic 有个写诗的实验，正好能回答一部分。
模型原理KV Cache：写一千个词，能少算 49 万多次
模型一个词一个词往外写，每写一个都从头算一遍太亏了。把算过的 K 和 V 存起来就行，代价是显存。
工程注意力机制：不看公式也能懂
同一个「苹果」，一句话里是水果，另一句话里是手机。注意力做的事，就是让每个词看看周围，再决定自己是什么意思。
模型原理给 Agent 用的工具接口：找得到、调得对、错了知道怎么办
人用工具可以翻文档、凭经验排错，Agent 不行，这些都得写进接口里。MCP 统一了交换方式，但接口好不好用，还是得自己设计。
工程GEO 与检索安全：被 AI 引用了，然后呢
AI 搜索会把好几个来源揉成一个答案。作者关心能不能被引用；做 RAG 的人得担心检索回来的内容里藏着指令。这两件事其实走的是同一条路。
工程检查器也要有个头
为了保护功能写检查器，为了保护检查器又写自测，再往上还能叠。每层都说得通，合起来却越来越难养。我给自己定了个问题来喊停。
工程测试越写越多：先看是不是一个模块干了太多活
测试涨得比代码快，未必是测试写多了。更该看的是：改一个模块要连带改多少测试。牵连多，往往是职责混在一起了。
工程提示词会过期：换了模型，旧规矩要重新看
模型升级以后，以前写的示例和步骤有的成了多余的束缚，有的还在默默干活。删不删别凭感觉，拿一组任务对照着跑一跑。
工程多 Agent 分工：按活的性质分，按数据交接
AI 直播里有聊天、定策略、算战斗、看场子四种活，适合的手段完全不同。分完工还得说清楚：数据从哪来、给谁、多细、多久一次、谁拍板。
工程Agent 记忆分层：放哪儿，记多久，谁说了算
做 AI 主播时把记忆分成了四层：这一批、最近、这一场、长期。每层管的事不一样，忘的方式也不一样；人设单独放，不让聊天慢慢把它改掉。
协作上下文污染：旧规矩不撤，新会话也没用
明明说了不用那个方案了，AI 下一轮又照着做。换了会话也不行，因为旧要求还躺在文档和配置里，每次都被重新读进来。
协作过度设计：猪肉该拿走，不是加锁
问题出在一个本来就不该有的功能上，那就把它删了，而不是在外面一层层加过滤器和检查器。先问一句：它为什么在这儿？
协作多 Agent 并行：一起想，排队交
先理清谁依赖谁，互不依赖的请求一起发，结果再按固定顺序写回去。快没快看总耗时，对不对得看状态。
工程Agent 安全：先想清楚一次搞砸能有多糟
与其让模型「注意安全」，不如先算清楚它犯一次错最多能花多少钱、漏什么、改什么，然后在预算、输出、信息、工具四个地方把口子收紧。
安全多 Agent 信息隔离：别让 AI 偷看
做狼人杀时发现，光在提示词里写「别泄露」没用。得在给模型拼上下文时就把不该看的拿掉，往外发消息时再分三条路走。
工程陌生技术栈：AI 说的，先跑一遍再信
碰到不熟的技术，AI 总能讲得头头是道。但能不能用，得看你这台机器、这个版本跑不跑得通。先把问题复现出来，再一步步验证，最后记下在什么条件下管用。
协作Agent 成本控制：先别花冤枉钱
缓存、按角色选模型、看情况开推理、把预算存进数据库。省钱最快的办法不是换便宜模型，而是别让同样的活干两遍。
工程