How Anthropic ships Claude with Claude: Separating the Brain from the Hands
录在 Opus 5.5 发布的第二天,Latent Space 的 swyx 请来 Anthropic 平台团队的两位负责人:管工程的 Katelyn Lesse 和管产品的 Angela Jiang,两人此前在 Stripe 共事。节目全长一百分钟出头,属于他们的 Anthropic 上市报道系列,把 Claude 平台的家底翻了一遍。
先亮我的结论:对自建 agent 运行时的人,这期最值钱的是 “大脑与手” 分离的架构,和 Messages API 用 Rust 重写的方法论。两段都能直接抄。
发布背景:赶在 IPO 窗口前
访谈正赶上 Anthropic 递交上市文件的传闻期。swyx 自述没有内幕,只按公开材料算账:员工人均营收一年前约 140 万美元,现在约 660 万;上一季度首次 GAAP 盈利,利润率 19%。
这些是主持人的推算,带耳朵过滤。干货在两位嘉宾的辖区。
Opus 5.5:每美元智能
新版主抓两件事。一是回应 Opus 5 写作晦涩的批评,行文更简洁;二是降价,官方话术叫 “每美元智能”,同样预算买到更多能力,具体省多少取决于工作负载和缓存用法。
Claude Code 的默认 effort 档位同时调到 medium。嘉宾承认 API 参数已堆成一团乱麻:effort、各类 budget 怎么收敛,默认档按客群怎么分,都还在权衡。思路是温和默认,保留调节余地。
防蒸馏:思考块必须留住
Anthropic 早就确认思维链抽取是最强的蒸馏通道,这次直接在 API 层动手:跨轮对话要求保留 thinking blocks,模型的推理段落不许在轮次间删掉。这会破坏老客户的上下文压缩策略,于是官方补了 compaction 接口,把压缩收编成平台功能。
Cognition、Cursor 这些大客户和开源 harness 维护者被提前拉进升级。此前一篇蒸馏攻击论文披露的漏洞已经修掉,嘉宾称实测蒸馏难度明显上升。
动机这块 Angela 说得直白:
“如果你从我们这里蒸馏,你其实已经付了钱。”
他们担心的是蒸馏出的模型绕开安全护栏去干坏事,钱是小事。动机在安全侧。
大脑与手:agent 不该住在沙箱里
全期最该划重点的心智模型。Managed Agents 是 Messages API 之上的一层套件,负责定义 agent、开会话,免去自建基础设施。它把一个 agent 拆成两半:brain 是 harness(驱动模型的循环、工具调用和会话日志),跑在持久服务器上;hands 是执行代码的沙箱,按需拉起,用完即还。
收益有三层:首 token 延迟更低,沙箱挂掉不连累会话,状态独立存放。被否掉的早期方案是把 Claude Code 整个塞进沙箱再包一层 API,启动慢,沙箱一死全死。
安全属性是后验的惊喜。架构最初为延迟和可靠性设计,当年有位产品经理坚持安全才是它最重要的属性,Katelyn 讲她发布前一天刚为这句话向对方道歉。
凭证处理最见功力:真实凭证放在独立的 vault(凭证保险库),agent 只看得见占位符,网络出口处由代理换成真凭证注入。沙箱里没有东西可偷。另有域名白名单和整体断网两档出口控制,默认安全,客户跟着平台升级免费受益。
用 Claude 重写 Claude 的 API
标题里 ships Claude with Claude 落到实处,是这一段。CPU 成了硬约束,产品、API、沙箱、CI 全在抢同一批核,对 Anthropic 是零和分配,还要跟云厂商谈额度。
一年多前 Messages API 还是单 GCP 区域的 Python 单体。到录制前一周,它已全量切到 Rust 重写版,而团队起步时一个 Rust 开发者都没有。
做法值得整段抄走。人负责分布式系统设计,代码交给 Claude 写;fork 出 Rust 版后先跑 shadow traffic,也就是把真实流量复制一份打到新版上,逐项比对两版输出;再用 feature flags 灰度切流。
主团队照常加功能,靠静态分析把新功能同步进 Rust 分支;专门的交换团队管交接,杜绝重写时顺手夹带新功能。这是一次纯移植。
结果按嘉宾口径:CPU 省 40% 到 50%,首 token 延迟改善 10% 到 20%,长任务上更高。数字自报。没有第三方复核,但方法摆在那儿,可信度不低。
下一步是服务端暂存会话状态,免得每轮都回传完整对话。这超出 prompt caching 的层面,长对话的成本收益会很大。
发布流程:负面反馈最值钱
发版链条被讲透了:做模型、安全测试、评估取舍、切版本、内部 dogfooding(自家产品自家先用),再走第一方产品和 API 客户的早期访问计划,汇总反馈后发布。
早期访问挑客户只看一条,eval 体系健不健全。反馈渠道就是 Slack 频道,很不正式。最有用的反馈全是负面的,早期版本太 “懒”,直接打回重训。
个性化被承认是没解决的难题,Angela 原话是 “我们做得不好”。Frontier Code 基准惩罚过度改文件,用户又能在 CLAUDE.md 里改掉这个默认。基准和个性化天然打架。
dreaming:CMA 之上的 CMA
记忆机制 dreaming 被一句话拆穿:另起一个 managed agent,读前面 agent 的轨迹,把该记的写回记忆。套娃结构。
基础 harness 刻意保持简单,不预设策略,把 best-of-N(多路生成挑最优)、verifier agent(加一层校验者)、跨任务共享记忆这些玩法留给开发者自己迭代。开放多智能体模板在计划里。计划不等于承诺。
站长落点
如果让我搭 agent 运行时,这期至少抄三样:brain 与 hands 分离、凭证占位符加代理注入、shadow traffic 式迁移验证。第一样换可用性,第二样换安全,第三样换动核心服务的胆量。
嘉宾结尾给的使用建议也实用:把过去因成本不敢放开跑的任务拿出来重跑;试试多智能体,让 agent 自己认领角色。架构上只管两件事:异步,子 agent 互不阻塞。剩下交给模型设计。
大陆读者备好代理,latent.space 不在直连名单里。数字与上市时间线都来自口述,按播客口径消化就好。