我们的AI成本暴涨230%。我暂时不会设置Token预算——原因如下

原文:Our AI Costs Jumped 230 Percent. I'm Not Setting Token Budgets—Yet.


七月初的一个早晨,我被来自OpenAI和Ramp的一连串警报惊醒:你的额度已用完。你的卡片已被拒绝。我开始冒汗。前一天晚上10点,我们的信用余额还是满的,自动充值功能正常开启,Ramp卡上有充足的可用资金。然而不到12小时后,账户就被清零了。

那场“风暴”的始作俑者是我弟弟——Every的CEO Dan Shipper——他正在用Sol(ultra)模型测试为高级工程师设计的任务,为当天的Vibe Check模型评测做准备。到上午10点,我们给Ramp卡补充了新的资金,我以为风暴已经过去。但那天剩下的时间里,Token消耗始终异常高昂,而且从那以后,我们再也没出现过“正常”的一天。

在GPT-5.6 Sol推出后的头五个完整日里,我们的每日信用额度使用量从11,520涨到了26,685——几乎是前一周基线的2.5倍。我花了好几周时间做准备,担心Fable会炸掉我们的预算,但Sol才是那场我没预料到的风暴。突然间,我必须在不让公司破产的前提下,找到办法让日常工作继续运转。同事们的反应五花八门,从“放开跑吧,月底看看落在哪!”到“我们得立刻设限,而且应该开始考虑本地部署我们自己的模型。”与此同时,我们每几天就要烧掉原本够用一个月的Token花费。

没有简单的解决方案。在Every,实验是每个人工作的一部分;从工程到业务拓展,我们都需要了解这些模型能做什么、在哪些地方有用。因为有价值的洞察可能来自公司的任何角落,所以每个人都需要有花钱的能力。与许多公司不同,我们不会只押注单一模型。大家会为手头的工作选择最适合的模型,这使得我们的成本在新模型不断推出、各有不同优势和定价结构的情况下更难预测。我设计的任何复杂分配方案,都可能在几天甚至几小时内就过时。

在团队的参与和大量思考之后,我建立了一套宽松的运营流程,而不是严格的消费政策——目前来看,这套流程是有效的。

新世界需要新规则

加入Every之前,我在一家初创公司做了八年运营。作为Donut(一家帮助企业完成入职、连接和员工参与的平台)的COO,我的职责是设计能够经受变化的政策和流程。当时我相当确信,自己做出的关于工作流或预算的决定至少能维持一个季度甚至一年。当地面在脚下移动时,我只需要做一个简单的修正就能应对。但过去六个月里,科技公司的工作方式发生了剧变。而Every尤其早地感受到了这些变化。我为今天的环境设计的任何规则,到明天可能就完全错了。

起初我以为这场巨变只是“我”的问题。在Sol事件之前,我参加了近一年来的第一场会议,希望从几十年的经验积累中获得启发,并从那些可以像老CD一样“刻录”带回来的最佳实践中得到安慰——好带回Every,解决那些让我压力山大的30人公司问题。但结果恰恰相反:一位公司领导告诉听众,他们现在每年给员工发放额外股权,而不是此前行业标准的每四年一次(或根本不发)。一位人力资源高管说,他们正在把Token预算纳入薪酬包,但关于给多少,并没有可靠标准——因为根本不存在。我并不是唯一一个在为AI原生团队制定运营指导时挣扎的人。

旧式初创公司的行事法则是“现在决定,下季度再回头调整”。但在当前环境下,我们连对自己都说不出这句话了。政策只有在它们所应对的世界持续存在时才是持久的,而现在,世界可能在跑完一次提示词的时间里就变了。无论公司规模、阶段或成熟度如何,我们所有人都在实时摸索答案。

我去会议现场寻找答案,但几天后当那个“十亿Token级别”的问题浮现时,我却两手空空:我该如何制定一套适合Every的Token消费政策?

参数,而非政策

我的约束是真实存在的:我们手里的钱是有限的,但也有限的是团队的时间,而且我们必须快速行动才能留在前沿——同时还要报道前沿。硬性的消费上限可能会中断Vibe Check基准测试的中途运行,或者阻止工程师搭建Every Agent的关键基础设施,以及开发用Agent写代码的新方法。要求大家总是用最便宜的模型,意味着靠猜来判断它是否够用——而且你永远无法知道换一个模型是否会产出更好的结果。所以我放弃了严格的消费控制,转而专注于把宽松的指导原则成文化,帮助我们在实时中做出消费决策。

我的参数体系从一条格言开始:合理使用和廉价使用不是一回事——高消费和浪费也不是一回事。当我在排行榜上看到大额信用消耗,或者一个新晋的“Token亿万富翁”时,我努力用好奇心而不是硬性限制来回应。我会在Slack上联系相关人员,获取更多上下文。我问三个问题:

  • 花了多少?

  • 换来了什么?

  • 学到了什么?

一位同事在一次运行中花了480美元,为一个即将推出的产品搭建权限结构。那一次是值得的;它为一个能产生收入的产品搭建了必要的基础设施,教会了工程师让后续运行更高效的技巧,并且产出了我们的编辑团队可以发布的内容。另一位同事在一天内花了大致相同的金额,让Tend(Dan的开源效率工具)每15分钟检查一次电子邮件和Slack。那一次就不值得了;我们当天就改了检查频率。同样的花费,不同的答案。

我的流程仍然是逐案处理的——而且我预计在相当长一段时间内都会如此。但经过三个月的Token消耗管理,我总结出了四条适合我们这类规模和形态公司的经验:

建立一个熔断机制。 在我们的案例中,就是一张Ramp卡限额和Slack通知,让总消费保持可见。当卡片额度用完时,我们选择是否充值、充多少。当触及上限时,我们会暂停,判断这项工作是否值得继续投入成本。

让使用情况可见。 我们给了每个人访问ChatGPT使用仪表盘的权限,让他们能实时看到使用情况,包括哪些团队成员消耗的信用最多。可见性把消费从月底的“惊吓”变成了团队的学习循环。那位花了480美元做权限运行的工程师,找到了让未来运行更高效的方法。Tend的使用者减少了它的检查频率。当成本、产出和教训放在一起可见时,“贵”就不自动等于“不负责任”。

为摩擦赢得正当性。 政策和决策关卡会在团队需要快速行动时制造摩擦。我认为运营的职责是识别风险,并在施加更严格的限制之前,证明较轻的护栏确实行不通。我们给团队提供所需的工具和资源,并期望他们以负责任的行为作为回报。

随着证据的变化而变化。 如果我们看到团队失守——出现了没人能解释的使用、没人分享的教训——我们会收回自主权,设置平台级别的限制。目前我们还没走到那一步。我们是一家30人、在前沿运营的公司,所以暂时还承担得起信任团队并快速反应的代价。规模更大或受监管更多的公司,可能需要更早地设置更多检查和限制。更普适的经验是:只有在你真正看到了某个问题之后,才去引入针对这个问题的摩擦。

这些宽松参数把我们带到了哪里?我们在七月份花了31,300美元在OpenAI信用上——其中26,800美元是在Sol那次“火警演练”之后花掉的。我们的Token消费确实很高。但相比雇佣足够人手来完成同样工作的成本,这个数字仍然更低:我们有All Access和Builder Pack的上线、Thesis的规划、Every Agent的搭建、测试新模型、每天发布高质量内容,以及许多不那么显眼但同样关键、推动业务以精简团队向前发展的工作。我们决定在八月继续维持这个提高了的限额,因为我们负担得起,也因为它支撑着团队需要完成的工作。

与此同时,我又回到Slack上追问弟弟。他昨晚花了2,000美元,在一个非必要任务上跑Sol(ultra)。


Arielle Shipper 是Every的运营负责人。此前她曾担任Donut的COO,职业生涯始于Condé Nast的编辑部门。

现在人人都是建设者。Every All Access 为你提供完整会员资格加Builder Pack——价值9,000美元以上的工具信贷额度。

"我们的AI成本暴涨230%,我暂不设定Token预算"的发芽报告

材料核心

当GPT-5.6 Sol上线后,Every公司的每日AI成本在五天内从11,520暴涨至26,685积分(比基线高2.5倍),作为运营负责人的作者没有选择硬性预算上限,而是设计了一套"参数而非政策"的柔性治理框架——用可见性、电路断路器和"三问"取代传统的配额与审批制度。核心张力在于:在一个规则保质期只剩几个小时的世界里,任何"本期决定、下季复审"式的管理逻辑都已失效。


发芽 01:当规则的半衰期短于执行周期——从"政策"到"即兴准则"的范式迁移

种子

作者在文中承认了一个极其尖锐的现实:她花了八年时间建立"能用一整个季度甚至一年"的流程,但在AI原生团队中,任何规则的半衰期都可能短于其设计时间。她放弃了传统COO工具箱里的配额制和审批流,转而依赖一套更接近"爵士乐即兴"的决策伦理——先行动,后解释,再修正。

这个故事可以在管理学脉络中找到清晰的前身。1986年,麻省理工学院的Edgar Schein在《组织文化与领导力》中区分了"单环学习"(在既有规则内调整)与"双环学习"(质疑规则本身)。Every公司面临的不是单环学习的挑战——不是"怎么在预算内跑更多token",而是双环学习的极端场景:预算本身的存在前提(模型成本的稳定性)已经崩溃。再往前追溯,管理学者Karl Weick在《组织中的即兴》中曾用爵士乐比喻组织行为:爵士乐手之间的默契不是无原则的自由,而是在共同的和弦进程内做出实时创造。作者的"三问"(花了多少?买了什么?学到了什么?)本质上就是这种"和弦进程"——它不是审批门槛,而是共同即兴时的重音和节拍。

但最有力的对照来自1950年代的美国军方实验室。时任RAND公司顾问的Herman Kahn在讨论核战略决策时提出了一个概念:预案(scenario)不是预测,而是一种"思考的脚手架"(scaffolding for thinking)。当不确定性高到你无法为每一种情况制定规则时,你需要的不是更详细的预案,而是一套让决策者面对意外时能快速判断的认知框架。作者的"参数而非政策"正是这种思路在微观管理层面的回响:与其试图预测所有的AI使用场景并预先设限(注定过时),不如提供一个框架让团队在实时中做出负责任的判断。

Aha 瞬间

"当规则的保质期已经短于规则的设计周期,管理者的工作就不再是制定政策,而是维护一个让好决策得以涌现的环境——可见性、问责制和互信,比任何预算上限都更能抵御未知风暴。"


发芽 02:从"阿波罗计划"到"好奇型成本中心"——为什么"高支出"与"浪费"必须解耦

种子

作者记录了一个极具张力的对比:两位同事各自花了约480美元——一位构建产品权限结构("值得"),另一位让Tend每15分钟检查一次邮件("不值得")。同样金额,不同答案。她的结论是:"高支出与浪费不是同一回事。"这种判断力——而非规则——才是她试图在团队中培养的核心能力。

这个判断的解耦逻辑可以在历史中找到镜像。1960年代美国阿波罗计划的总花费按当时美元计算约250亿美元,是美国当时GDP的0.4%——如果用"成本效率"这个单一标准衡量,这无疑是一个"不合理"的天文数字。但在同样的预算框架内,阿波罗计划催生了集成电路的产业化、卫星通信和遥感技术,其间接经济回报被经济学家估计为投入的5到10倍。问题的关键从来不是"花了多少",而是"花在了哪个节点上"。 NASA的管理团队在项目进行中并不清楚哪些研究最终会带来革命性突破——他们所能做的只是确保在关键节点上资金不会被切断。

更贴近数字时代的参照是Google早年对基础设施的投入策略。2000年代初,Google在别人都在节流时疯狂购买服务器和网络带宽。当时的财务团队质疑这种"过度支出",但Larry Page和Sergey Brin的决策逻辑是:在一个指数增长的市场中,基础设施建设的前期成本相对未来收益趋近于零。这与作者对Sol风暴的处理逻辑如出一辙:当新模型(Sol)的能力可能带来远超成本的产出时,第一反应不应该是"限制",而应该是"这笔支出在教会我们什么"。

当然,这种解耦必须有一个前提:组织必须具备从高支出中提取学习的能力。Google能承受"浪费"是因为它建成了全世界最强的数据闭环来量化支出的回报。Every团队能接受Sol风暴是因为他们用Vibe Check(系统性的模型测评流程)把支出与认知产出挂钩。没有反馈闭环的高支出是烧钱;有反馈闭环的高支出是投资。

Aha 瞬间

"'贵'的反义词不是'便宜',而是'没有产出洞见'。在一个成本曲线每季度都在重写的世界里,唯一稳定的ROI计算方式是:每一美元都在教会我们一些那时不花就永远学不到的东西。"


发芽 03:信任作为一种组织操作系统——"挣来的摩擦"与"受限的自主"

种子

作者最反直觉的设计原则被压缩在一句话里:"挣来的摩擦"(Earn the friction)——只有在看到问题已经出现之后,才引入加重限制的措施,而不是提前用限制来预防未知问题。这违背了传统内控的第一原则:"在损失发生前设防"。但这恰恰是她在这个环境中唯一可行的策略:因为规则过时太快,预先设防的成本(拖慢团队、杀死探索欲、让创造力枯竭)远高于事后补救的成本。

这条逻辑的历史锚点可以在英国普通法的演进中找到。在12世纪的英国,法律逐渐从"预先制定的严格规范"转向"判例法"——法官先处理具体案件,再基于实际情境积累裁决原则。这种法律哲学的底层信念是:人类的行为无法被完美预见,因此规则应当是一组可以随经验修复的"工作假说"而非不可挑战的命令。 Every公司的运营策略本质上就是组织治理领域的"判例法":先允许行为发生,出现具体问题再制定针对性规则。

另一个极具说服力的参照来自当代军事战略。前美军中央司令部司令Stanley McChrystal在《团队之队》(Team of Teams)中描述了他在伊拉克改造特种作战部队的实践:面对基地组织的去中心化网络,传统美军各部门之间的信息和决策壁垒导致反应速度永远落后于敌人。他的解法是"共享意识"(shared consciousness)加"受限的自主"(disciplined initiative)——所有人看到全景,但每个节点都有独立决策权。作者的"三问"法(成本、产出、教训)在Slack上强制执行,本质上就是一种微型化的"共享意识"机制:团队不需要等到月底才能看到总支出,而是实时互相看见彼此的支出与产出,从而在没有审批门的情况下做出负责任的选择。

Aha 瞬间

"信任从来不应是天真,而是一种被可见性和问责机制支撑的结构性选择——当每个人都实时看到自己的支出如何贡献于(或偏离于)共同的使命时,昂贵的自由比便宜的控制更安全。"


你的思考空间

  1. 如果你认为"每个团队都是AI原生团队"的时代即将到来,那么传统的预算编制周期(年度、季度)是否还有存在意义?如果彻底改为"实时调整",CFO的角色会变成什么?

  2. 作者的"三问"框架(成本、产出、教训)依赖于团队成员主动的、有质量的自我反思。什么机制可以防止这种反思沦为走过场?在规模更大的公司里,这种反思能被规模化吗?

  3. 当模型的智能曲线仍在指数级上升时,"探索性支出"和"浪费性支出"的边界在哪里?是否有某种指标或方法可以在支出发生时(而非回顾时)就识别出二者的区别?

  4. 作者多次暗示他们之所以能承受这种"高成本自由",是因为公司很小(30人)且还在前沿跑。如果同样的运营逻辑放大到5000人的成熟企业,会造成什么样的治理失效?什么条件下比较大的公司也能运行"参数而非政策"模式?

  5. 从时间维度看,2024年初的AI成本环境到2025年底已经多次重写——是的,这篇文章所描述的应急方案是否本身也有有效期?当模型成本开始下降(甚至崩溃)时,"珍惜每一枚token"的心态是否反而会变成组织劣势?