分解即泛化：从 CoT 草稿板到分解式架构

「Let’s think step by step.（让我们一步一步思考）」Kojima et al. 2022 把这一句加在零样本提示末尾，模型在推理任务上立刻像换了个人，思维链（Chain-of-Thought, CoT）由此得名。

这句咒语是 L5 p.8-12 整条论证链的起点：从 CoT 算不算计划，到显式分解为什么是可测的泛化能力，再到分解怎么长成系统架构。链的终点，是推理与行动之别的辩论。

一、草稿板：CoT 就是计划，但没人检查计划

起点就是这句咒语。Wang et al. 2023 的 Plan-and-Solve 把它升级成显式指令：先理解问题、制定计划，再逐步执行。先想后做四个字，换来十个数据集上稳定超过 zero-shot CoT（Wang et al. 2023）。

CoT 为什么有效？L5 p.8 给出两条机制。额外计算：每多生成一步，就多一次前向推理的机会。草稿板：中间结果写在文本里，后续步骤随时可回看。

缺陷写在同一页。计划与答案诞生在同一次生成里，没有任何环节显式检查计划。错了？执行照样顺着错下去。

既然 CoT 已经是计划，为什么还要显式分解？p.9 的回答干脆利落：分解换来的是泛化。

二、由易到难：分解本身就是泛化能力

L5 p.9 的 Least-to-Most（Zhou et al., ICLR 2023，Denny Zhou 等人，Google/Brain）把先想后做拆成两个显式阶段：阶段 1 分解出一串由易到难的子问题；阶段 2 按序作答，每步把前面已得的答案喂进上下文。

按序作答有讲究：解子问题 n 时，提示里带着子问题 1 到 n−1 的全部答案。前答喂后问。

同一页给出三条发现：

• 子问题更好答。模型答复杂问题吃力，答分解出的子问题却明显更好。
• context 更省。子问题所需 context 更少。
• 长问题提升更大。问题越长，提升越大。

最有说服力的证据来自官方 reading。SCAN 组合泛化基准上，Least-to-Most 仅用 14 个示例就达到 ≥99% 准确率，CoT 只有 16%。

14 个示例，意味着模型几乎没见过这类组合。做对靠的是分解把没见过的组合还原成见过的原子，分解即泛化这条主张，在这里拿到最干净的证明。

同页还引 Recursive Language Models（Zhang et al., 2025），递归拆解至今仍是研究前线。

三、分解即架构：分解器与专用 handler

p.10 把分解从提示词搬进系统图。Decomposed Prompting（Khot et al., ICLR 2023，AI2）设两个核心角色：分解器 decomposer 把任务拆成子任务，再路由给专用处理器 handler。讲义例子是一道多跳问答：

分量在模块化这边（L5 p.10）：每个 handler 可独立改进，换 in-context 示例、或为某类子任务单独训练小模型，互不惊动。

官方 reading 补齐了弹性：

• 递归分解。难子任务可以再递归分解，或换专门的子 LLM。
• 按规模拆。输入过长，按规模递归拆。
• 外挂检索。多跳 QA 可以外挂符号检索器。

判词就一句：分解即架构，而非提示技巧。同页埋着 RAO、RLM、MACU 的程序化控制伏笔。

工程侧有现成词汇表。LangGraph 官方指南把编排模式归纳为五种：

• 提示链 (prompt chaining)
• 路由
• 并行化 (parallelization)
• 编排器 - 工人 (orchestrator-workers)
• 评估器 - 优化器 (evaluator-optimizer)

指南同时辨了 workflow 与 agent 之别：workflow 由代码固定编排，agent 由模型自主决策。分解器 + 专用 handler，就是路由 + 编排器 - 工人这两种模式的学术前身。

Anthropic《Building Effective Agents》同列五模式，建议只有一句：复杂度只在可证明改善时才加。

四、辩论点：推理的草稿与行动的世界

p.7 过渡页挂着一句反讽谚语：用几周返工省下几小时规划，这省法并不高明（原话引在伴读笔记第五节）。它嘲笑的是不计划；p.11-12 的对照表马上补上另一半：只在纸面上计划，同样不够。

L5 p.12 的结论一句话：行动迫使计划处理可行性、后果、信息与恢复。草稿板上的计划从不用问做不做得成；要在真实世界落地，每步都得过这四关。

纯推理里，坏计划可以被下一行覆盖；行动里，坏计划沉淀成无法撤销的世界状态。伴读第二节的「重规划触发器 + 验证回路」，就是给计划补检查环节的工程答案。

与本讲的连接

对照 p.6 的课程坐标，本篇停在第一格：prompted plans 与 harness 结构，本讲 3a 的主题。往下三格，各有整讲在等：

• 3b Coding Agents。编码固定工作流。
• Interaction 两讲。多 agent 角色与通信、澄清与人工批准。
• Search 1-2。计划空间搜索与预测未来。

伴读第一节的三段，least-to-most、Plan-and-Solve、ReWOO，就是本篇 p.8-10 的展开。ReWOO 把规划不看观察做成架构级选择，等于把计划无检查的缺陷明码标价换回 token 效率；伴读第二节「计划是假说，不是承诺」，则是 p.11-12 辩论的工程续集。

最后留个自测：讲次页 quiz 给 Least-to-Most 配的九个字，是由易到难、前答喂后问。九个字的来历，和 SCAN 上那组悬殊比分，都在第二节。