UC Berkeley提出表征引导：无需微调控制工具调用，准确率升至0.56！
Tunable Tool-Call Rates in LLM Agents via Representation Steering
让大模型从一个只会聊天的文本生成器，转变为能够解决实际问题的智能体（Agent），其核心跨越在于赋予模型调用外部工具的能力。不论是查询实时搜索引擎、运行 Python 脚本，还是发送邮件、执行 SQL 数据库操作，决定“在什么时候使用工具”不仅是智能体认知能力的核心体现，更是工业界落地时必须精打细算的算力账本。
ArXiv URL：https://arxiv.org/abs/2608.25198v1
在一个部署于多千兆瓦级别数据中心的生产环境中，大模型不必要的工具调用会带来额外的延迟、成倍增加 API 成本，并在执行动作类工具时引发不可逆的副作用；而错过必要的工具调用，则会导致模型在面对知识盲区时“强行一本正经地胡说八道”，给出高度自信但完全错误的回答。遗憾的是，即使是最先进的模型，在这两端的平衡上也做得极差：它们既会在遇到长尾事实类问题时过度依赖内部记忆而拒绝查阅资料，也会在能够通过自身常识推导的简单问题上画蛇添足地调用工具。
长久以来，为了纠正这种倾向，开发者们往往不得不依赖昂贵的强化学习微调，或者在系统提示词（Prompt）中编写极度繁杂的规则。但这些方案在推理期都是静态且难以干预的——你很难在算力早高峰时动态降低模型的调用频率，也很难在需要极高精度的场景下一键激发它的探索欲。
针对这一困境，UC Berkeley 与 UC Santa Cruz 的最新研究给出了一个极具优雅感与实用性的解法：不需要修改模型的权重，也不需要重写冗长的提示词，只需在模型推理时的内部表征（Representation）中注入一个特定的线性方向，就能像拧动旋钮一样，将大模型的工具调用率从接近 0% 丝滑地推升至 90% 以上，并在开放域问答任务中将准确率近乎翻倍。
潜入残差流：寻找“工具调用”的神经开关
要控制模型，首先要搞清楚模型内部是如何做出决定的。近年来的可解释性研究提出了一种“线性表征假说”，即大模型所掌握的特定概念往往以简单的线性方向存在于其深层表征空间中。顺着这一思路，如果能够找到代表“要不要调用工具”的那个特定的向量方向，我们就能直接从底层干预模型的行为。
为了以极低的成本提取出这个方向，研究者设计了一套无需反向传播、无需收集微调数据的三步走管线。
核心的突破点在于寻找一个“前向传播倾向代理”（Forward-pass Propensity Proxy）。当模型决定调用工具时，它通常会在生成的开头输出一个特定的工具调用标记（例如 <tool_call> 特殊 Token）。因此，给定一个输入查询 $q$，我们只需获取模型输出这个特定标记的首词对数概率 $s(q)$：
这个设计极其精妙。它使得我们完全不需要等待模型自回归地生成完冗长的工具调用代码，仅凭一次简单的前向计算，就能准确衡量模型在当前问题下对工具的“渴望程度”。
基于这个廉价的评估指标，研究者在包含多个工具（如搜索、计算器、编程等）的混合测试环境中，给模型输入了数千个问题，并根据输出的 $s(q)$ 对问题进行排序。随后，他们截取了倾向最高的一批查询集合 $\mathcal{H}$ 和倾向最低的一批查询集合 $\mathcal{L}$。
在模型的特定深度层 $\ell$ 上，通过提取这两个集合在处理提示词最后一个 Token 时的残差流均值，并将其相减，就得到了控制工具调用倾向的核心“魔法棒”——差异均值向量 $v_{\ell}$（Difference-of-Means）：
\[v_{\ell} \;=\; \frac{1}{|\mathcal{H}|}\sum_{q\in\mathcal{H}}h_{\ell}(q) \;-\; \frac{1}{|\mathcal{L}|}\sum_{q\in\mathcal{L}}h_{\ell}(q)\]因为高倾向集合中包含了各种各样触发不同工具的问题，这个差值向量天然地过滤掉了特定于某个工具的语义噪音，纯粹地保留了“是否调用任意工具”的通用意图。
得到向量后，推理时的干预就变得异常简单。我们只需要在每一层生成时的原始残差流 $h_{\ell}$ 上，简单粗暴地加上一个经过标量 $\alpha$ 缩放的干预向量：
\[h^{\prime}_{\ell} \;=\; h_{\ell} \;+\; \alpha\,v_{\ell}\]这里的 $\alpha$ 就是一个完全受开发者掌控的连续旋钮。当 $\alpha$ 为负数时，它能强行压制那些废话连篇、动不动就想查 API 的模型；当 $\alpha$ 为正数时，它能唤醒那些过于自信、不愿查资料的顽固模型；而当 $\alpha$ 等于 0 时，模型则恢复为未经任何干涉的原生状态。
双向控制与令人惊叹的知识选择性
这种极其简单的线性干预真的有用吗？它会不会只是强行把模型变成一个盲目输出工具代码的损坏机器？实验结果给出了否定的答案，而且展示出了极高的机制鲁棒性。
首先，这种表征引导（Representation Steering）能够完美实现双向控制。对于那些基座模型原本就能靠自身储备算出来的数学题，不受干预的模型可能会画蛇添足地调用计算器，但只要给 $\alpha$ 施加一个负向压力，就能在不破坏答案正确性的前提下，精确地抹掉这个毫无意义的调用动作。反之，面对冷门的生僻知识题，稍微上调 $\alpha$，模型就会乖乖地输出搜索指令，从而获取正确答案。
真正让这一方法具备巨大实用价值的，是其卓越的“知识选择性”。当我们通过调大 $\alpha$ 来强行增加模型的工具调用频率时，新增的工具调用绝不是均匀、随机地撒在所有问题上。
研究通过将问题按实体知名度分层发现，未受干预的模型在解答高度流行的问题（它本来就知道答案）和极度长尾的问题（它根本不可能知道答案）时，调用搜索工具的倾向几乎是一条平稳的低水位线——它完全不知道自己不知道什么。但在施加了正向的表征引导后，新增的搜索行为高度精准地集中在了长尾低知名度问题上，而在头部热门常识题上的工具调用率依然保持克制。
这意味着，这个简单的线性方向并没有破坏模型内在的知识边界判断。它只是放大了模型潜意识中对不确定性的不安感，促使那些原本犹豫不决的内部信号跨过了执行工具动作的阈值。它是在“需要工具的地方召唤工具”，而不是滥用工具。
跨越未知工具与架构深度的通用法则
一个深刻的科学问题是：通过一组特定工具（如网页搜索、计算器、Python 执行器）提取出来的决策方向，是否只是一组特定工具的特征混合？如果明天业务线新增了一个全新的工具，这个干预机制还能生效吗？
为了验证这一点，测试环境向模型投入了六个在提取向量时完全没有出现过的工具：翻译、天气查询、单位转换、发邮件、SQL 数据库查询以及股票价格查询。令人惊叹的是，将军令通达全军，这个在原始多工具环境中提取出的通用方向，在强行施加负向抑制（$\alpha = -2$）时，能够极其有效地压制住这六个全新工具的调用冲动。甚至对于绝大多数测试工具而言，这个“通用向量”的压制力，比单独拿那些工具的数据去专门提取出来的“专用向量”还要强大。
这种强大的泛化能力证明，大模型在处理外部交互时，在底层确乎形成了一个共享的、跨领域的“要不要向外部求助”的二元神经回路。而表征引导技术精准地捕获了这个回路的命门。
那么，这个回路在多深的网络层次才开始起作用？研究对模型的所有解码层进行了逐层扫描。
扫描结果揭示了一个清晰的网络认知加工过程。在最初的浅层网络中，无论怎么施加干预，模型都无动于衷，改变的概率微乎其微。控制力在网络的中间层逐渐积累，并在中后段（例如上述测算的第 21 到 24 层）达到巅峰。在这一关键频段，随着 $\alpha$ 从 -4 调节至 4，工具调用倾向的对数概率跨度达到了惊人的 37 纳特（Nats），这意味着模型的主观意愿被干预到了数百亿倍级的差距，呈现出完美的单调可控性。
然而，一旦越过了这个特定的带域进入最末端的几层，干预虽然依旧能产生巨大的数值波动，但失去了单调的稳定性。双倍的干预强度有时反而会抵消掉原本的效果。这在机制上非常好理解：在深层带域之前，“是否调用工具”的意图还没有在表征中成型；而在深层带域之后，网络已经开始将意图具象化为具体的词汇输出（比如开始计算要吐出什么特定字符），此时强行注入抽象概念只会对输出头造成混乱破坏。因此，精准定位中后期网络的“决策带”，是实现无缝操控的关键。
重塑成本与收益的帕累托前沿
回到工程实践的底色上，这项研究绝不仅仅是一场对模型神经元的手术解剖，它直接在业务核心指标上划下了一道优美的增长曲线。
在面对涉及大量长尾知识的开放域问答任务（PopQA 数据集）并允许实时执行外部搜索时，一套极具实用价值的帕累托边界（Pareto Frontier）被清晰地描绘出来。未经干预的原生模型，由于极度吝啬调用搜索工具，零搜索状态下的准确率仅有 0.29。
当开发者逐渐拨动 $\alpha$ 旋钮注入正向表征引导后，准确率随着工具调用率的增加呈现出陡峭的上升。在平均每道题调用大约 1.1 次搜索时，模型的准确率直接跃升至 0.56。如果我们辅以鼓励搜索的提示词工程，准确率可以进一步逼近 0.58。这种近乎翻倍的提升，完全不需要耗费哪怕一块 GPU 资源去重新微调数百亿参数。
更为难得的是，这套法则并非某一家架构的独门绝技。从数十亿参数的密集模型（Qwen3-4B），到内部机制更为割裂的混合专家模型（Qwen3-30B MoE），再到引入了跨模态对齐的视觉-语言模型（Gemma-4-E4B-it），无需任何训练的表征干预均能完美复用。不论这些模型出厂时是带有严重的“工具欠用”习惯，还是个不问青红皂白就乱用工具的“过度使用者”，同一个操作范式都能将它们拽回理性的轨道。
在这项研究中，大模型的黑盒特性被进一步撬开了一角。过去，当开发者抱怨 AI 智能体在动作决策上过于死板时，只能无奈地堆砌指令或者重启庞大且不稳定的训练流。而现在，表征引导技术证明了，宏观上的复杂行为往往锚定在微观几何空间的单一维度上。只要找准了这个线性方向，在算力成本与业务精度之间来回横跳的自主调节权，就真正交回了开发者的手中。