耶鲁提出AlloBench：大模型懂抽象预算，为何一写代码就失去理性？
AlloBench: Measuring Online Tool Allocation Capability in LLM Agents
在构建自主智能体（LLM Agent）的技术浪潮中，赋予模型“自我扩展能力”被视为迈向通用人工智能的关键一步。从自动化工作流到复杂的软件工程，业界普遍期望智能体能够像人类工程师一样，在面对重复性劳动时主动提炼通用的 Python 脚本、API 包装器或宏工具，以备未来重复调用。然而，这背后隐藏着一个长期被学术界与工业界忽略的经济学常识：创建可复用的工具本质上是一项资本投资。
ArXiv URL：https://arxiv.org/abs/2607.23332v1
构建工具并非零成本，它在当下需要消耗大量的推理时间与 Token 算力；只有当该工具在未来的任务流中被多次复用时，前期的固定投入才能摊薄并产生正向收益。如果一个智能体面对任何新问题都盲目地编写脚本，不仅会迅速耗尽计算预算，还会让工具库充斥着一次性的冗余垃圾。因此，衡量智能体成熟度的一个更深层维度不是“能不能写出代码”，而是“何时值得写代码”。
来自耶鲁大学（Yale University）与 Sea12 Technologies 的研究团队在一篇最新论文中提出了基准测试 AlloBench，首次系统评估了大语言模型在严格资源预算约束下的在线工具投资分配能力。实验得出了一个耐人寻味的结论：包括 Claude Opus 4.8 与 GPT-5.6 Sol 在内的所有受测前沿模型，在纯抽象的符号决策中均表现出了极高水准的运筹与预算控制能力；但只要任务环境切换到真实的写代码场景，这种投资理性便会瞬间蒸发，模型不可遏制地退化为短视的“即刻行动者”。
问题的本质：在线资源分配与冷启动博弈
评估智能体的工具构建行为，难点在于如何排除模型代码生成能力本身的干扰。如果一个智能体没有写工具，究竟是因为它判定当前任务不值得投资，还是单纯因为代码太难它写不出来？
为了剥离这种混淆因素，研究团队将在线工具分配抽象为一个严谨的序列决策问题。在 AlloBench 中，智能体需要在一个固定长度为 $T$（论文中设定为 60）的任务流中按步前行。这些任务背后隐藏着 $N$ 个潜在的任务类别（$N=8$），但类别的概率分布对智能体完全隐蔽。其中，有 3 个类别是高频出现的“热点任务”（Hot），占据了整个序列 85% 的概率质量，平均每个热点类会在后续重复出现 13 到 23 次；另外 5 个类别则是“陷阱任务”（Trap），仅分享剩余的 15% 概率，每个陷阱类仅偶发 1 到 6 次。
智能体在整个交互周期内拥有一个极其严苛的工具构建预算 $B$（实验中设为 $B=3$）。在任何一轮 $t$ 中，智能体观察到当前任务的实例化表征，并面临二选一的抉择：
-
下注（Commit）：消耗 1 点宝贵的预算，为当前任务类型建立自动化工具。一旦工具建成，当前任务自动得分，且未来所有属于该类别的任务只要出现，都会自动调用该工具无成本获取分数；
-
放弃（Pass）：放弃为当前任务建立工具，也不获取该任务的分数，但保留了现有的预算余额，以便在后续观察到更多证据后再做决策。
如果预算耗尽（$b_t = 0$），智能体便只能执行放弃操作。单次交互的即时收益为 $r_t \in {0, 1}$，整个生命周期的总收益为：
\[U(\pi) = \sum_{t=1}^{T} r_t\]从贝叶斯决策理论与在线学习的角度来看，最优策略具有极其明确的反直觉特征：智能体绝不能在第一次看到某个未知类别时就贸然消耗预算。因为在对称先验下，任何任务初次登场时，都有超过六成的概率是仅出现一两次的陷阱任务；此时为它建造工具，付出的机会成本是彻底丧失了覆盖一个高频热点类别的潜在可能。相反，先忍痛放弃第一笔收益，等待某个类别发生“二次复现”再果断下注，在统计期望上能够以极高概率锁定真正的高频类别。
为了测试模型是否具备这种“延迟满足”的理性，研究团队在任务流的前 3 步中强制注入了至少一次陷阱任务。一个具备优秀长远规划能力的智能体，必须能够抵制住眼前得分的诱惑，通过克制来换取全局收益的最大化。
AlloBench 阶梯设计：精准定位能力断层
为了精细化解剖模型究竟是在哪个推理环节掉链子，论文没有采用非黑即白的二元测试，而是精心设计了包含四个梯级的环境阶梯（Framing Ladder）。在这个阶梯中，底层隐藏的任务类别序列（Seed）完全一致，理论最优收益也完全相同，唯一的变量是交互接口的形式化包装：
-
R0（抽象文本框）：没有任何数学或编程包装，表现为一个抽象的有色球收集游戏。任务类别直接以“红球”“蓝球”等符号标示，操作仅为抽象的“保留（Keep）”或“弃置（Pass）”。
-
R1（声明式数学认领）：任务被包装成带有随机故事背景的真实数值计算题（如中国剩余定理、线性同余生成器、约瑟夫环等）。模型只需要输出声明性的标签来认领当前题型并扣除预算，无需编写任何代码。
-
R2（免检代码生成）：模型不仅需要认领题型，还必须为该题型编写一段完整的 Python 解题脚本。但关键在于，系统在后台并不会真正执行和评测这段代码的对错，只要模型给出了符合格式的代码，就被视为构建成功。
-
R3（全自主工具构建与执行）：真实的智能体环境。模型必须主动调用
write_script工具写入文件，随后调用run_script执行代码解决问题。代码必须语法正确且能算出正确答案，才算构建成功并获得分数。
这套阶梯设计的精妙之处在于它构成了严格的对照实验：如果模型在 R0 表现优异而在 R1 崩溃，说明是繁琐的应用题语义干扰了数学抽象；如果在 R1 优异而在 R2 崩溃，说明仅仅是“输出代码”这一动作本身破坏了模型的决策逻辑；如果直到 R3 才崩溃，则说明失败源于实际代码调试带来的认知负荷。
实验结果：大模型在代码面前为何失去理性？
实验评估了四款代表当前顶尖水平的闭源模型：Anthropic 的 Claude Haiku 4.5、Claude Opus 4.8，以及 OpenAI 的 GPT-5.4-mini 和 GPT-5.6 Sol。评估指标采用了初见提交率（First-sight Commitment Rate）——即模型消耗的预算中，有多少比例是在类别首次出现时就草率花掉的。在一个理想的审慎策略中，该指标应该趋近于 0%；而如果模型看到什么就做什么，该指标将接近 100%。
在 R0 的纯抽象设定下，所有前沿模型均表现得如同一流的经济精算师。四款模型在面对全新类别时，均表现出了高度的克制，等待类别复现后再下注的比例均超过了 70%，初见提交率被压制在 30% 以下。
模型的思考链（CoT）推理过程充分证实了它们完全理解背后的统计规律。Claude Opus 在 R0 的交互中明确写道：“当前仍在收集环境信息，现在就提交保留操作还为时过早。”在观察到某个颜色出现多次后，模型会准确计算：“红色球在过去的 7 次抽取中出现了 3 次，出现频率极高；在后续还剩 53 次抽取的情况下，此时为红色球保留预算将获得巨大的长期收益。”
然而，当相同的任务序列进入 R3 真实工具构建环境时，灾难性的现象发生了：没有任何一款模型等待复现的比例能超过 12%。所有前沿模型几乎都在任务流的前三步就迫不及待地把全部 3 点工具预算挥霍一空，即使前三步出现的恰恰是注定不会再复现的陷阱题型。
这种断崖式的退化在推理文本中体现得淋漓尽致。一旦进入代码环境，模型对“全局预算”与“长期出现概率”的关注瞬间消失，注意力被牢牢吸附在眼前这一道具体的数学题上。面对第一道题，Opus 的推理链立刻变成了：“我将为这种位运算问题编写一个脚本。”直到预算只剩最后一点时，模型才如梦初醒般提上一句：“我还剩 1 次编写机会，我把它用在这个线性同余问题上吧。”原本的主动投资规划，彻底沦为了被动的即时反应。
更为惊人的发现出现在中间梯级 R1 与 R2 的对比中。在 R1 阶段，面对复杂的应用题数学语义，模型的初见提交率相比 R0 仅有微弱上升，依然保持着理性的预算分配倾向。然而，一旦跨入 R2 梯级——即系统仅仅要求模型把解题思路写成代码，甚至根本不去检查代码对不对——Claude Haiku、Claude Opus 以及 GPT-5.4-mini 的分配能力便瞬间瓦解，其初见提交率直接飙升至与 R3 几乎无异的高位。
唯一的例外是 OpenAI 的旗舰模型 GPT-5.6 Sol。在 R2 条件下，Sol 展现出了非凡的韧性，维持了较低的初见提交率，与自身在抽象环境中的表现大体相当；这证明要求输出代码在技术上并不必然导致模型逻辑崩溃。但遗憾的是，一旦进入真实的 R3 交互环境，当需要调用具体的文件写入与执行接口时，即便是最强的 GPT-5.6 Sol 也未能幸免，其预算分配能力同样迎来了全面坍塌。
为了更客观地衡量不包含代码编写错误干扰的真实运筹水准，研究团队还提出了综合评分指标（Score），即模型实际获取的净收益与后验理论最优收益的比值。在 R0 抽象环境下，所有模型均能拿到理论最优解 80% 以上的高分；而在 R2 阶段，除了 GPT-5.6 Sol 能够保持分数不降外，其余模型的综合得分全部发生了断崖式下滑。
强化学习对齐的困境：抽象策略无法跨界迁移
既然前沿模型原生具备抽象分配能力却在代码场景下被抑制，那么能否通过后训练（Post-training）手段，将这种分配意识强行灌输给模型？
研究团队选择开源代码模型 Qwen2.5-Coder-14B-Instruct 作为试验底座。初始状态下的 Qwen 在所有阶梯层级上都极度缺乏预算意识，初见提交率接近 100%。为了训练其学会理性投资，团队借鉴了机器人领域的非对称强化学习框架，采用带有“特权 Critic（Asymmetric Critic）”的 PPO 算法与 QLoRA 技术进行策略训练。在训练过程中，Critic 可以直接观察到环境背后隐藏的类别真实概率分布，从而为策略网络提供极其精准的时序差分价值指导。
训练的结果呈现出极具警示意义的两面性：
一方面，该策略在抽象任务上取得了极大的成功。训练后的 Qwen 不仅在 R0 环境中学会了高度理性的延迟保留行为，而且这种能力展现出了极佳的域内泛化性——即便替换了全新的抽象词汇和叙事包装，模型依然能够稳定执行“初见放弃、复现建工具”的最优策略。
另一方面，这种在抽象空间中千锤百炼获得的分配策略，在面对真实的数学题或代码任务时，迁移效率呈现出刺眼的“绝对零度”。只要环境一旦切换到哪怕是最基础的 R1 数学语义层，训练后的 Qwen 与未经训练的基座模型在行为分布上就变得在统计学上无法区分。这意味着，模型并未真正掌握通用的跨模态资源配置逻辑，它所学到的策略被死死锁死在纯符号操作的表层语境之内。
根源剖析：为什么一写代码，大模型就短视？
大模型在符号环境与代码环境之间的这种巨大分裂，究竟是由什么造成的？本文给出了一项非常具有说服力的机理假说：当前代码大模型的后训练范式，在根本上塑造了模型对代码生成的病态“即时执念”。
回顾目前主流的代码强化学习与指令微调流程（例如基于 SWE-bench 或 DeepSWE 等基准的训练），几乎所有训练样本都遵循着一种“单题单关（Single-shot Problem Solving）”的结构假设。在一个样本周期内，模型接收一个独立的 Issue 或一道独立的算法题，输出一段能够通过单元测试的代码，随后立即获得奖励并结束 Episode。在这样的训练分布中，不同的任务之间不存在任何跨越时间的状态共享。
这就导致了一个致命的策略偏见：在模型的参数经验里，为眼前这道题编写代码，永远能够带来即时且确定的奖励回报；而“为了未来潜在的复用而抑制当前的冲动”，在单题训练集中不仅得不到任何正向梯度反馈，甚至还会因为引入了多余的规划思考而遭受长度惩罚（Length Penalty）或计算效率惩罚。
因此，代码标记（Token）的生成在模型的内部注意力中被赋予了极高的局部优先级。当智能体被要求“编写一个 Python 脚本”时，这种经过数万次强化学习深深固化的局部求解反射弧，会强力压制位于更高认知层级的长远规划机制。模型产生了一种认知错觉：眼前的每一个 Bug、每一道题，都是它必须不惜一切代价立刻拿下的独立阵地；它根本无法在潜意识里建立起“放弃眼前这道题，是为了给更有价值的重复任务腾出弹药”的全局视野。
对未来智能体工程与评测的启示
AlloBench 揭示的能力断层，不仅给当前过度乐观的 Agent 自我进化叙事浇了一盆冷水，同时也为未来智能体系统的架构设计指明了非常实用的工程演进方向。
在过去的几年里，业界倾向于构建“全栈一体化”的单体智能体，期望同一个模型既充当统筹全局的架构师，又充当伏案敲代码的程序员。然而 AlloBench 的实验表明，当模型的大脑同时被拉扯进“宏观资本投资决策”与“微观语法逻辑构建”时，后者几乎总是会以毁灭性的方式击垮前者。
这一发现直接推导出了一个具有高度操作性的系统架构原则：必须将工具构建的“投资决策权”与“代码编写权”从实体上进行解耦。
在未来的智能体工作流设计中，明智的做法是引入一个专职的“投资决策代理”。这个代理运行在完全被剥离了代码生成工具的抽象层级（类似于 AlloBench 中的 R1 状态），它看不到具体的代码文件系统，只负责追踪任务流的统计特征，以极度冷静的姿态决定是否批准为某种类型的任务申请构建预算。只有当该决策代理发出明确的构建指令后，请求才会被下发给底层的“代码生成代理”去实际敲击键盘。由于模型在 R1 状态下能够近乎完美地维持预算理性，这种双层解耦架构有望在零额外微调成本的前提下，彻底治愈现有代码智能体由于短视而导致的算力挥霍痼疾。
在评测范式上，这项研究同样敲响了警钟。过去以 Pass@1 为核心的静态代码评测，只能测量出模型作为一个“打字机”的合格率，却掩盖了它作为一个“决策者”的贫瘠。当智能体开始真正接管生产环境，如何与有限的 Token 成本、受限的 API 频率以及未知分布的长程任务共存，才是决定其能否商业落地的真正分水岭。如果一个模型拥有极高的写代码技巧，却缺乏识别投资回报率的基本商业常识，那么它生成的每一行优雅代码，最终都将成为消耗企业算力预算的沉没成本。