思考、查看还是行动:test-time 预算三岔口与长视野败局
每一步动手前,agent 都在做一个更根本的决定:这份算力用来多想一会儿、多看一眼,还是直接上手试。这个不起眼的三岔口,同时解释了两类大现象——issue 解决率随「思考」增多反而下降,能跑 25M token 的 agent 在几十个模拟日后轰然崩盘。本篇从 Test-Time Interaction 的交互扩展轴、overthinking 三形态、Calibrate-Then-Act 的格式侦探实验,走到 Vending-Bench 的错误固化级联与 METR 的时间视界刻度,看清预算怎么分、何时停,如何决定 agent 能走多远。
计划拆得再好,agent 每走一步都还要做一个更小的决定:这一步的算力花在哪。多想、多看,还是直接上手?
这个决定看似只值几条消息,却在两头同时决定成败:一头是单个 issue 会不会越改越坏(L5 p.25),另一头是几百步的长任务能不能活着走到终点(L5 p.28-30)。
一岔路口:同一份预算的三种花法
提到测试时扩展,多数人想到的是想得更久:把思维链拉长,让模型在输出动作之前多推几步。
但 Test-Time Interaction(TTI,Shen et al.,NeurIPS 2025)在 L5 p.24 摆出 Fig.3 这张对齐算力的比较图。
同样多的算力,可以花在三种推理方式上:拉长思维链、采样多个候选,或与环境进行更多交互。TTI 的立场鲜明:交互是一条被系统性低估的扩展轴。
交互视界(interaction horizon)拉长之后,agent 才谈得上探索、回溯与动态重规划,也才能像 Reflexion 那样从环境拿到再长的思维链都推不出来的信息。
TTI 的配图里有一句台词浓缩了这种气质:「You just signaled task completion. Let’s pause and think again.」刚宣布完成就自我叫停、回头再查一遍。做在这里是想的信息来源。
这条路的回报也实打实:作为官方 reading、三岔口上算力换交互的一手论证,TTI 用课程式在线 RL 训 Gemma 3 12B,就在 WebVoyager 与 WebArena 两个网页 agent 基准上拿到开源开放数据下的 SOTA。收益记在交互轴上,与基座大小无关。
三岔口真正的要点在判据:从此每一步都是一次预算分配,想、看、做各有其时。接下来的两节,先看想得太多怎么反而输,再把查看做成一份可执行的判据。
想多了也会输:overthinking 的三种形态
判据失灵的第一种方式,是把想当成万能药。Cuadron et al.(2025)在 L5 p.25 用 Fig.1&4 给过度思考画了三张肖像:
| 形态 | 症状 | 走岔的岔路 |
|---|---|---|
| 分析瘫痪(analysis paralysis) | 反复权衡,迟迟不动手 | 只思考,不行动 |
| 失控动作链(runaway action chains) | 连环操作,一路不回头 | 只行动,不思考 |
| 过早退出(premature exit) | 草草宣布完成,交卷了事 | 思考与查看双双欠费 |
最反直觉的是实证结论:overthinking 越多,issue 解决率越低,且跨模型成立。检测不必读思考内容:分类器只看动作序列与 reasoning token 数,API 模型也能用(字幕)。
这对下半场的编码智能体尤其刺眼:issue 就摆在那里,多一轮内心权衡不会改变任何测试结果,只有跑起来的那次验证才会。
想与好之间不仅没有单调关系,方向还会反过来。多花的每一步思考都在消耗预算、推迟环境反馈,而环境反馈是三岔口里唯一的新信息来源。
回头看 TTI 那句台词:它的价值在想完之后真的去查一遍。查看补上的,就是这份判据。
查看:先校准「我不知道什么」
既然该看,看什么、看到什么程度算够?Calibrate-Then-Act(CTA,Ding、Tomlin、Durrett,2026)在 L5 p.26-27 的 Fig.1 里把这个问题做成了一个干净得近乎侦探小说的实验:agent 要解析一批文件,每个文件藏着三个隐藏参数。
分隔符是逗号、分号还是制表符,引号用双引号还是单引号,表头跳 0 行还是 1 行。3 × 2 × 2 共 12 种组合,全部猜对才能解析成功。错一项即全盘失败。
唯一的线索是文件名:sales_fr.tsv 暗示制表符分隔,但也只是暗示。这个设计的精妙之处,是把 agent 不知道什么变成了可测量的对象:不确定性成了一张 12 格的概率表,可逐项测量。
CTA 的做法是把估计出的格式似然作为先验注入 prompt。效果出在行为上:模型开始知道自己不知道。它会把先验读出来,就是下面对比右栏那句。再拿这个概率决定行为。
把握不足,就先花一次查看把不确定性买下来;把握足够,才动手解析。校准的不确定性直接改变行为,何时停由此从玄学变成成本与不确定性的权衡。
同一条线上还有 PPP-Agent(Sun et al.,COLM 2026):用多目标 RL 训练 agent,把不确定时主动向用户提问变成习得行为。不确定性的出口不止再查一次,还可以是问一句。
文件名像 tab 分隔,那就按 tab 解析。12 种组合里错任何一项即整文件失败,而 agent 对猜错毫无察觉,失败后只会换个组合再盲试一次。
先注入格式先验:「分隔符最可能是;,概率~0.85…… 但不是 100% 确定,也许该跑几个单元测试确认」。把握不足就先花一次查看,把不确定性买下来再动手。
长视野:错误不是变大,是固化
单步判据失灵只是丢分;长视野下失灵,丢的是整局。Vending-Bench(Backlund & Petersson,2025,L5 p.28,Tables 3-4)让 agent 长时间经营一台自动售货机:定价、下单、补货。视野上限 2000 条消息、约 25M token,最多 222 个模拟日。失败并非随机,而是一条高度一致的三段级联:
环境是无辜的:它如实报告无货,履约邮件只是还没到。讲义在此反问:这只是计划没订好吗?归咎规划器是最省事的解释,但真正缺位的是信念更新:第一次误判之后从不复查、从不让新证据进场,错误便从一次误读固化成世界观。
Vending-Bench 的 agent 并非没有计划,环境也并非欺骗它。履约邮件、复查机会这些反面证据一直在场,只是从不被消费。重规划触发器若只盯着报错、连续失败,救不了这种安静走偏的轨迹;还得盯那些该到而没到的证据。
那模型变强为什么还救不了?The Illusion of Diminishing Returns(Sinha et al.,2025,L5 p.29-30,Fig.1)给出最不容回避的机制:提高单步准确率确实能延长可执行视野,但另一股力在反向拉扯。这股力叫自条件化(self-conditioning):后续步骤以自身输出为条件,前面错一点,后面就被放大一点。
两力对抗,制造出收益递减的假象;更大的模型能执行更长的任务,self-conditioning 也更强。RL 能否修复,讲义把它留作开放问题。
METR 定义 50% 任务完成时间视界:agent 能以五成成功率完成的任务,人类需要多长时间。报告测得 Claude 3.7 Sonnet 约 50 分钟;2019 年以来该视界约每 7 个月翻倍,照此外推,5 年内可自动化人类需一个月的软件任务。而 Vending-Bench 提醒:视界每拉长一段,都在给 self-conditioning 交利息。
与本讲的连接
本篇下钻的,是伴读第二节「计划是假说,不是承诺」背后那条更暗的线:它列出的四类失败模式,后三类 —— 错误传播、世界漂移、过度自信 —— 在 Vending-Bench 里都有了实验对照,过早补货是读错了世界,错误推断是过度自信,错误固化是错误传播的终局。
伴读里 ReAct 交错式与 ReWOO 先想后做的谱系,是三岔口在思考与行动两端的来回摆动。报错、预期不符、连续失败这些重规划的触发条件,是 calibration 的工程近似。讲义在 L5 p.47 把这件事正式列为开放问题:agent 仍会误判何时该思考、何时该查看、何时该提问、何时该修订。
编码 agent 的定位 — 编辑 — 观察主循环,无非是 think-look-act 的日常形态:定位是查看,编辑是行动,观察后的更新是思考。
下次你的 agent 在第三十步突然宣布生意失败,先别急着加长它的思维链 —— 问一句:它上一次真正的查看,是什么时候?
本节论文与规范
本节资料
- Calibrate-Then-Act: Cost-Aware Exploration in LLM Agents 论文2602.16699前沿官方指定
官方指定 reading、L5 p.26-27 主线论文(2026,v1 2026-02-18)。agent 在「继续探索还是提交答案」之间做成本-不确定性权衡:先校准不确定性、再据此决定行动;格式解析实验里文件名是唯一线索,校准的先验直接改变行为。
- Measuring AI Ability to Complete Long Software Tasks 论文2503.14499进阶
2025 年(v4 2026-07-10)。定义「50% 任务完成时间视界」:Claude 3.7 Sonnet 约 50 分钟;2019 年以来该视界约每 7 个月翻倍,若外推 5 年内可自动化人类需一个月的软件任务。「长时程」议题最常被引用的一张曲线。
- Thinking vs. Doing: Agents that Reason by Scaling Test-Time Interaction 论文2506.07976前沿官方指定
官方指定 reading、L5 p.24 主线论文(2025,NeurIPS 2025)。提出「扩展交互」作为思考之外的第二条 test-time scaling 轴:加长交互视界让 agent 能探索、回溯、动态重规划;课程式在线 RL 训 Gemma 3 12B 即得 WebVoyager/WebArena 开源开放数据 SOTA。
AI 生成 · 仅供参考,与课程方无关。选中正文里的任何一段也能直接问我(解释一下 / 举个例子)。
本详解以 CMU 11-768 AI Agents (Fall 2026) 课程大纲为参考框架独立撰写,AI 辅助起草、人工抽审。 涉及的官方课件、论文与课程材料版权归原所有方,讲义为站内镜像、其余外链原文出处; 观点与文字(除标注引用外)为作者原创。