不是单步防御而是时序赛跑:提前5步拦截99.3%多智能体分布式后门
实验结果揭示了现有防御令人担忧的脆性: 一旦消除了信息熵破绽,并封禁了长度特征,分类器的预警时机直接从第 7 步恶化推迟到了第 12 步,中位预警提前量被压缩殆尽;更致命的是,跨任务域的迁移能力发生断崖式暴跌,从数据库域迁移到 API 域时,模型几乎无法在新环境下建立有效判别面。
实验结果揭示了现有防御令人担忧的脆性: 一旦消除了信息熵破绽,并封禁了长度特征,分类器的预警时机直接从第 7 步恶化推迟到了第 12 步,中位预警提前量被压缩殆尽;更致命的是,跨任务域的迁移能力发生断崖式暴跌,从数据库域迁移到 API 域时,模型几乎无法在新环境下建立有效判别面。
针对这一顽疾,研究团队提出了 FCPAgent (Falsifiable Commitment Planning Agent)。其核心思想借鉴了认知心理学中的目标导向行为理论——真正鲁棒的行为是具备前瞻预期的,规划不应是一成不变的指令序列。
Language:在 Soar 中,问题表征在工作记忆内,各种算子(Operators)被提出作为状态转移候选。当系统面临平局(Tie)、冲突(Conflict)、全盘拒绝或无可用候选时,不会直接抛出异常,而是将其表征为一个“类型化僵局(Typed Impasse)”。
针对这一痛点,来自北京大学、清华大学、中国科学技术大学等机构的研究团队提出了 MAPD(Multi-Agent Protocol Distillation,多智能体协议蒸馏框架)。
GABench:研究人员在 LangChain、LlamaIndex 以及 Vectara 三大主流生产框架下,构建了包含 580 个场景、跨越 6 大业务领域以及 5 种对抗扰动模式的严苛评测体系。
为了打破这种“事后诸葛亮”的困局,新研究提出了名为 JANUS 的前瞻性安全框架,并训练出了专用的预测型护栏模型 Vanguard 。JANUS 的核心思路非常明确:不是等动作发生了再判定违规,而是让护栏模型仅凭已经发生的部分轨迹,主动推演未来最可能出现的安全风险,并将“预判未来”与“当下裁决...
针对这一缺失,开源项目 JarvisHub 给出了一种全新的解题视角:它彻底放弃以线性对话记录为核心的交互范式,提出了一套 以画布为原生载体(Canvas-Native)的开源多模态创作智能体运行底座 。
针对这一瓶颈,弗赖堡大学团队提出了一套轻量级且与底层策略无关的全新框架 DynaMAC (Dynamic Multi-Agent Cooperation)。该方法巧妙地将对侧手臂的末端执行器建模为一个动态任务参数(Dynamic Task Parameter)。
针对这一瓶颈,来自华为、华中科技大学、中山大学与浙江大学的研究团队提出了多智能体修复框架 PhoenixRepair 。该框架重新审视了软件智能体的策略探索机制,通过“多位置采样”与“迭代反思与提炼”两大核心设计,打破了单点定位与盲目修补的局限。
要想走出“加技能反而更不稳定”的怪圈,系统设计者必须改变评测与架构的底层思维。一方面,任何 Agent 评测都必须废除只看净通过率的单一指标,转而全面推行“收益-倒退”配对分解报告。评估一个技能库的优劣,不仅要看它帮谁翻了盘,更要严密监控它让谁翻了车。
针对这一困境,研究团队提出了 ToolGuardian 。该框架将 Agent 工具安全重构为一个双阶段的声明式策略问题:在工具进入系统前进行严格的 前置准入审查 (Pre-admission Vetting)。
为了解决这种长期侵蚀代码库可维护性的隐性冗余,研究人员提出了名为 TRIM (Trajectory-guided Redundancy Identification and Minimization)的算法框架。
ACWorld:这就是研究者们提出的 vibe commerce 。想象一个普通的购物场景:买家给自己的 Buyer Agent 设定至多 100 美元的私人预算上限,卖家则要求 Merchant Agent 绝不能低于 90 美元底价出售。
Agentic:这项研究系统筛查了 7,197 条文献记录,最终穿透式分析了 257 篇横跨智能体评测、软件可靠性工程、信息物理系统(CPS)、运行时监控与监管合规的前沿文献(其中 209 篇集中于 2025 至 2026 年),首次提出了涵盖行为、安全、时序、合规监管与多智能体的五维验证框架。
针对这一系统性困境,一项名为 GAMER (Graph-based Action-centric Memory with Episodic Reasoning)的研究提出了全然不同的解题思路。
来自美团、南京大学、中国科学技术大学与武汉大学的研究团队在最新论文中提出了名为 CAST(Credit Assignment from Solver Teachers) 的全新框架。
来自阿尔伯特·爱因斯坦医学院、香港中文大学(深圳)以及伊利诺伊大学厄巴纳-香槟分校的研究团队提出了一种全新解法: GuideSkill 。他们没有选择继续“卷微调”或“堆检索”,而是构建了一个模型外部的解耦推理层,将死板的临床指南文本“编译”成结构化的可执行技能(Executable Skil...
针对这种“重型审计太慢、轻量模型太噪”的矛盾,最新的研究提出了一种名为 MIND (Memory Intent-Aware Neural Denoising)的防御框架。
为了攻克这一瓶颈,该团队提出了 成本感知边际决策停机框架(Cost-Aware Marginal Decision-Focused Stopping,简称 CAM-DF) 。这是一种极为轻量的执行前插件,无需对底座大模型或上游检索器进行微调,仅依靠离线学习到的真实收益差(Payoff Gap)...
华东师范大学与香港中文大学的研究团队提出了专门针对记忆增强个性化智能体的评测基准 Setoka 。这项工作直击现有记忆基准(如 LongMemEval、LoCoMo 等)的盲区:过去的研究过度关注单轮或多轮长文本对话中的显式事实提取,无法评测系统跨越不同数据源、提炼高阶抽象特征的推理能力。
SWE-Touch:实验结果展现了极其明显的性能滑坡:在受到 Counter-Edit 干扰后,这 9 款模型的平均任务解决率直接下降了 7.7 个百分点。更值得警惕的是,这种性能折损在不同模型间表现出巨大的异质性。
来自上海交通大学与香港理工大学的研究团队提出了 HYSET (HYperedge-based SEt-level Tool retrieval)。该研究首次将大模型智能体的工具检索重构为 基于工具共调用超图的条件超边预测问题 ,直接将“候选工具集合”作为整体进行打分,并设计了随集合容量自适应调...
为了攻克这一威胁在训练层面的边界模糊问题,研究团队提出了边界条件后门注入技术(Boundary-Conditioned Backdoor Injection, BCBI),使模型在跨过阈值时攻击成功率迅速攀升至 95%–100%,而在阈值前误触发率几乎压制为零。
来自阿里巴巴和中国科学技术大学的研究团队在最新论文中提出了 ADRS(Agentic Reinforcement Learning with Self-Distilled Reward Shaping) 。