欢迎来到“效率最大化”时代

原文：https://every.to/context-window/welcome-to-efficiencymaxxing

曾几何时，AI 还是一种价格亲民的新鲜事物。每一个用例都让人感觉像魔法，哪怕最无厘头的任务也值得一试，因为前沿实验室那时还在补贴算力成本，只为让消费者上瘾。资深用户曾以耗尽自己的Token 消耗量来彰显身份。

如今，AI 已无处不在——在许多工作场所甚至成了必选项——而且几乎无所不能，从写代码到生成文本再到创作视觉内容。但这种产出洪流是有代价的：一是金钱成本，因为强大的新模型对 Token 的胃口越来越大，而各大实验室则在收回那些慷慨的补贴；二是你在理解这些产出结果上所花费的时间与精力。（如果你曾试图调试一个 AI 生成的代码库、编辑 AI 生成的文本，或是解读一封 AI 生成的邮件背后的真实含义，你就会明白，在低质量的大语言模型输出中跋涉是多么耗费心力。）

人们的关注点也随之演变，从你“用多少” AI，转向了你是“如何”使用 AI 的——以及你能展示出什么成果。它带来的好处，是否足以证明其不菲的代价是合理的？

今天的《Context Window》探索了针对这一问题的各种答案和解决方案。首先，作家兼技术专家 Craig Mod 解释了为何廉价的软件创作反而让他更加捍卫自己的写作时间；Monologue 总经理 Naveen Naidu 分享了一个他在旧金山听到的、正在流传的新效率指标；资深应用 AI 工程师 Nityesh Agarwal 向我们展示了他如何审计智能体（Agent）是否存在浪费 Token 的情况；以及 Spiral 总经理 Marcus Moretti 解释了 OpenRouter 如何帮助他管理一个超过 12 种模型的工具栈。

‘AI & I’：用 AI 帮你专注于真正在意的事

AI 很强大。但在 Every CEO Dan Shipper 看来，它同时也是一台“老虎机”。那么，你该如何利用这项技术去创造真正重要的东西，同时又避免陷入对下一次多巴胺刺激的无尽追逐？

为了回答这个问题，Dan 邀请了作家兼技术爱好者 Craig Mod 做客节目，探讨如何不近人情地捍卫自己的时间。

在 X 或 YouTube 上观看，或是在 Spotify 或 Apple Podcasts 上收听。你也可以阅读文字记录。

• AI 擅长为你已经在付费的产品打造更好的版本。 Mod 一直在用大语言模型（起初主要是 Claude Opus，最近则更多用 Fable）通过“氛围编程”（Vibe-coding）来替代像邮件营销平台 Campaign Monitor 和个人理财软件 Quicken 这类 SaaS 产品。这样做有双重好处：他可以根据自己的具体需求定制服务，而且每年 1200 美元的 Claude 费用，远比为多个订阅服务付费要便宜得多。“我认为我们将进入一个工具构建的黄金时代，”Mod 说，“市场上会有更多竞争，从而催生更多创新”——这是一件好事，“唯独对现有的大公司来说不是。”

• 这让人愈加重视意图的价值。 AI 让你能尝试各种各样的事，而这些事以前需要多年的专业知识和训练。可能性多得令人眼花缭乱，让人很容易在无休止的产出冲动中，迷失自己真正想投入精力的事情。有些反直觉的是，如今制造软件变得如此容易，反而让 Mod 更加坚定了对写作的信念。“玩这些东西的大有人在，”他说，“但愿意去思考或书写我想写的那种奇特书籍的人并不多。作为一个人，那才是我觉得值得投入精力的有价值的事。”虽然他会用 AI 来做研究和事实核查，但每个字他依然会亲自去写。当“身处写作的困境”本身就是目的——也是获得他想要的结果的唯一途径时，将这个过程外包给大语言模型就本末倒置了。

• Mod 会刻意设置障碍以保持专注。 他把手机放在与自己睡觉不同的楼层——并且尽量在午餐前都不去查看——同时在一台不联网的专用 MacBook 上写作。他说，一旦他的大脑接触到 WiFi，“我就能感觉到化学物质在变化，我无法进入任何深度思考、深度专注的状态。”

错过之前的节目了吗？可以回看 Dan 近期与 LinkedIn 联合创始人 Reid Hoffman，构建了 Claude Code 的团队成员 Cat Wu 和 Boris Cherny，Vercel 联合创始人 Guillermo Rauch，播客主理人 Dwarkesh Patel 等人的对话，了解他们如何利用 AI 来思考、创造和与人连结。

旧金山的“开销”

一个新的 AI 地位指标

Monologue 总经理 Naveen Naidu 上个月在旧金山参加苹果全球开发者大会时，注意到了一个在科技圈内流传的、衡量企业生产力的新指标：每百万 Token 营收（Revenue per million tokens）。

这个指标号称能衡量一家公司的效率，被视为人均营收（粗略估算公司里每位员工创造的收入）的潜在继任者。AI原生公司在这个记分卡上的得分通常远高于其传统的 SaaS 同行。

通过将投资回报率明确地与公司利用 AI 赚钱的效率挂钩，每百万 Token 营收这一指标承认了一个事实：工程开发变得廉价的同时，算力成本却比以往任何时候都更昂贵。或者更简单地说：“如果你说，‘我写了一百万行代码’，那它到底有没有真正增加你的收入呢？”Naveen 说道。

Every 内部视角

一窥更省 Token 的未来

我已经开始把资深应用工程师 Nityesh Agarwal 看作是 Every 的常驻 AI 先知了，尤其是在 Anthropic 相关的事情上。在 Anthropic 的 AI 实验室发布处理智能体编排和基于团队的智能体委托的策略前大约三到六个月，Nityesh 就已经构建了他自己的解决方案。他很早就敏锐地理解了那种能让智能体获取所需上下文、从而代表整个团队完成工作的架构。如果说你不信，可以读读他写的文章，在几乎还没人看到其潜力时，他就指出 Claude Code 是比 OpenClaw 更可靠的替代方案。

那么，在 Anthropic 实质上已将那种基于 Slack 的、共享团队智能体（就像他之前为 Every 的咨询和编辑团队构建的那些）的模式商品化之后，Nityesh 现在又专注于什么呢？

“让智能体更省 Token，”他毫不犹豫地回答。

在此之前，你可以毫不吝啬地在 AI 实验上花钱，因为成本很大程度上由订阅模式覆盖，这种模式在一个固定的月费下补贴了重度使用。但 Nityesh 说，这种日子屈指可数了。“我们正处在一个算力受限的世界，我们将没有足够的数据中心来运行明日的 AI。”可以预见的是，使用成本将会上升，特别是在 AI 公司优先考虑那些预算充裕的企业客户时，个人用户尤其能感受到这点。

与此同时，更便宜的模型——其中许多是开源的——已经变得日益强大，按 Nityesh 的估计，它们的性能大约只落后前沿模型七个月。

以下是 Nityesh 关于节约 Token 的思考：

• 路由（Routing）。 最简单的版本是，将一个模型选择硬编码进某个技能的指令里，这样该技能在执行特定任务时总是默认使用一个更便宜的模型。动态工作流——Anthropic 为大型、多智能体的 Claude Code 作业提供的编排功能——原生支持这种做法，允许你为一项工作的每个组成部分指定一个特定的模型。Nityesh 说，这是一个“一等公民”选项，但有一个重要警告：你只能从 Anthropic 自家的模型中选择，不能选择开源选项或 OpenAI 的模型。

• 评估（Evaluations）。 在你把一个任务路由到一个更便宜的模型之前，你需要评估它是否能在不降低性能的情况下执行。这很难做到，因为大语言模型“天生就不善于评估自己的能力”，Nityesh 说。创建好的评估集需要人工的、传统而可靠的人工判断。这事关重大：“如果你有好的评估，那么你就能降低成本。但如果你用的是糟糕的评估，那你获得的就会是糟糕的信号。”他说。

• Token 审计（Token audits）。 当一个智能体完成一项任务后，Nityesh 会让它分解出每一步分别用了多少 Token。然后，他会逐一检查，找出那些对于所需工作的复杂性而言，Token 消耗明显过高的地方，并让智能体解释为何它会烧掉这么多算力。这是一个纯人工的过程；尽管大语言模型很聪明，但它们并不擅长识别自身的低效之处。“如果 AI 告诉我，它审查输出用了 2000 万 Token，这就是个危险信号，因为我知道那个[离谱的数字]不合常理，”Nityesh 说，“但 AI 还没有这种直觉。”

本周试试这个：审计一个重复性的智能体工作流。

• 运行一次并收集凭证。 问问你的智能体：“对这次运行进行审计。按阶段分解 Token 使用情况。对每个阶段，报告所用的模型、大致输入和输出 Token 数、该步骤的目的，以及为何该数量是必需的。任何你无法核实的部分，请标注为估算。”

• 调查任何消耗 Token 特别高的步骤。 寻找工作难度与 Token 消耗之间的不匹配。智能体可以解释其行为，但你需要审查并判断哪些看起来不合理。

• 改变一个变量并重新运行测试。 裁剪上下文、重写技能指令、将工作拆分给子智能体，或者将一个步骤路由到一个更便宜的模型。将 Token 用量和输出质量与第一次运行进行比较。只有当结果仍然通过你的质量检查时，才保留这个更改。

工具聚焦

用 OpenRouter 管理模型成本

并非在 AI 写作助手里做的每件事都需要 Opus 4.8 级别的智能——或者说成本。通过一个名为 OpenRouter 的大语言模型网关，Spiral 的总经理 Marcus Moretti 实现了“对的任务用对的模型”。

Spiral 目前使用 12 种不同的模型，包括用 Sonnet 4.6 来处理大部分散文，用 Gemini 2.5 Flash 进行一轮旨在去除“AI 味”的最终编辑，以及用一个更小、更低成本的 OpenAI 模型来总结文件。要应对每个提供商的 API 格式、凭证、账户和计费方式，会是一项既复杂又耗时的工作。

OpenRouter 帮他打理了这一管理层的工作——一旦集成，该服务就能为 Spiral 提供一种标准化的方式，向众多不同模型发送请求。Marcus 会定期查看 OpenRouter 的大语言模型排行榜，该榜单根据整个平台上周度的 Token 使用量对模型进行排名。最近，占据榜单前列的，往往是那些更便宜的开源选项，而非 OpenAI 和 Anthropic 旗下昂贵的前沿大语言模型。

另一个重大优势——也是 Marcus 最初转向 OpenRouter 的原因——是可靠性：它通过多个提供商来提供模型访问。例如，如果 Anthropic 出了状况，OpenRouter 可以接入另一个提供商，比如 Google 或 AWS，这样用户就不会体验到任何服务中断。

我们正在读的

那么，关于 AI 和就业……

AI 正在让科技从业者的情绪分裂为两派。（Lenny’s Newsletter）创业者兼 Substack 作者 Lenny Rachitsky 刚刚发布了他的第二次年度科技从业者调查，其中揭示了“两个截然不同的劳动力群体的故事”。大约一半的受访者感觉 AI 是一种放大自身、激人奋进的力量，而其余的人则因 AI 感到不安和动摇。这里面有不少有血有肉的洞见，包括报告“显著”倦怠感的人激增；即便是对自己职业轨迹感到乐观的科技工作者，也未必会向新人推荐他们的职业道路；以及人们对 AI 对工作的总体影响抱有复杂情绪。“人们对 AI 的标志性感受是矛盾，”Lenny 写道。

AI 公司的 CEO 们想让你知道，他们之前对大规模失业的判断或许错了。（《华尔街日报》）在前沿模型的经济影响问题上敲了好几年警钟之后，AI 公司的 CEO 们开始转用一种更乐观的语调。“我们的行业低估了我们能把人置于一切中心的程度，”OpenAI CEO Sam Altman 说道。与此同时，曾对入门级工作前景持悲观态度的 Anthropic CEO Dario Amodei 最近也承认，如果公司能用“创造力”在减少资源的情况下实现更多产出，由 AI 引发的裁员是可以避免的。这种态度上的 180 度大转弯背后是什么原因？据《华尔街日报》分析，这可能是对 AI 在工作场所角色的更深入理解，可能是一种面对日益增长的公众反对声浪的公关策略，也可能是两者兼而有之。

支撑数据本身就是一个巨大的问号。（《纽约时报》）没有人质疑 AI 正在影响劳动力市场。有争议的是它如何影响：取决于你的数据源，这项技术要么在摧毁就业，要么在创造就业；要么在加剧通胀，要么在帮助解决通胀。从大局来看，当前这些本质上不完整的指标，能告诉我们关于 AI 将如何改变工作的信息是有限的。“这些数据几乎永远无法告诉我们的是，未来五到十年我们会处在什么位置，”前美国劳工统计局负责人 Erika McEntarfer 告诉《纽约时报》，“人们指望用数据来回答那个问题，而这实在太难了。”

程序员们，学点哲学吧。（《纽约时报》）还在为找不到科技行业的工作发愁？考虑成为一名（非常特定类型的）哲学家吧。“我认为，当下市场对具备 AI 训练的哲学家的需求，甚至超过了供给，”纽约大学哲学教授 David Chalmers 说，“这是一个我鼓励学生进入的领域。”确实，随着各大前沿实验室争相聘用那些能够深入探讨 AI 对人类的冲击、AI 意识的可能性等最棘手问题的人，这个小群体的就业前景一飞冲天。

核心启示：AI 真正进入生产力阶段后，关注焦点正从疯狂消耗 Token 的粗放使用，转向计较每一笔 Token 投入产出比的精耕细作；真正的竞争优势不再是你用了多少 AI，而是你是否清楚自己为何而用，以及如何聪明地驾驭成本。