HERALD:大模型靠洗白引用骗过奖励?单项最小修复把攻击率降至0%
来自中国科学院、复旦大学、南京大学、香港中文大学与香港科技大学的研究团队在论文中提出了名为 HERALD 的离线反事实审计框架,在策略正式训练前对奖励函数进行精确的程序化单元测试。
AGI FRONTIER
深度解读 AI 论文,追踪 Agent、推理、多模态与具身智能的最新进展。
PAPER INSIGHTS
来自中国科学院、复旦大学、南京大学、香港中文大学与香港科技大学的研究团队在论文中提出了名为 HERALD 的离线反事实审计框架,在策略正式训练前对奖励函数进行精确的程序化单元测试。
HelloWorld:更为巧妙的是,这一能力并没有依赖昂贵的人工采集与精细标注,而是通过纯粹的 自蒸馏(Self-Distillation) 管线驱动:先用预训练视频生成模型自生成交互动作,再利用点云重渲染构建相机条件...
针对这一系列痛点,来自北京智源人工智能研究院、清华大学、中国人民大学、香港理工大学等机构的研究团队提出了 GraphThink 框架。该研究的核心洞察在于:不能把长程规划完全寄托于大模型的自由文本生成,而是应当在任务逻...
来自北京航空航天大学、高通公司与中关村实验室的研究团队针对这一痛点,提出了 Gated-BEPO (置信门控贝尔曼策略优化)。该方法在不依赖庞大且难以训练的额外 Critic 网络的前提下,巧妙利用同批次采样的多条交互...
针对这一痛点,最新研究提出了一种名为 EviSD (Evidence-Conditioned Self-Distillation,证据条件自蒸馏)的创新框架。该框架的精妙之处在于:它既不引入昂贵的外部判别模型(Crit...
EcoAgent-Bench 并非人工捏造成本玩具题,而是严格基于 GAIA、HotpotQA 和 MuSiQue 等真实数据集改造而来,总计构建了 304 个固化评测任务。每一个任务都不仅包含用户的原始指令,还内置了...
腾讯混元团队在其针对元宝搜索 Agent 的技术报告中系统剖析了该瓶颈,并提出了名为 Hybrid-OPD 的联合训练框架。该方案依托 Hunyuan3 底座,巧妙地将面向自主搜索的智能体强化学习与多领域专家在策略蒸馏...
为此,研究团队提出了一种无须嵌入模型、不依赖向量数据库的全新方案—— READ (Reliable Embedding-free Agentic Document-search)。该方案让大模型 Agent 借助标准化...
微软研究院最近提出的 Workbook Time Machine(工作簿时光机,简称 WTM) 及其基准测试 WTM-Bench ,彻底打破了这种测试真空。研究团队换了一种反向思路:不再费力去手写或单向生成表格,而是借...
针对这一困境,研究团队在论文中正式定义了智能体多模态大模型合并任务(Agentic MLLM Merging),并提出了名为 AgentPatch 的免训练“由粗到细”(Coarse-to-Fine)弱任务修复框架。
来自北京邮电大学的研究团队在其最新工作中,将多智能体系统的推理时并行(Inference-Time Parallelism)抽象为一个双层决策空间,并提出了名为 TIPEX (Two-tier Inference-ti...
为此,研究团队提出了自进化智能体符号回归框架 A-SR (Agentic Symbolic Regression),将控制的核心从“公式编辑算子”转移到“角色-记忆视图对”,在权威基准测试 LLM-SRBench 上,...
为了严谨量化一条消息到底对后续推理带来的是建设性推力还是破坏性干扰,他们提出了名为 DHD(Diverse Hypothesis Deliberation,多样假设审议)的控制测量协议。
ReFind:在赋予大模型长期记忆能力的军备竞赛中,业界似乎达成了一种不成文的共识:要想让智能体(Agent)准确记住几百轮甚至数千轮之前的对话细节,就必须在问题提出之前,把原始对话提前加工成各种复杂的结构。
针对这一根本顽疾,来自北京邮电大学等机构的研究团队提出了全新的过程监督强化学习框架 VTO (Visual Tool Orchestration)。该工作彻底抛弃静态的端到端黑盒映射,将异常检测重构为一个在动态物理视频...
西北工业大学、深圳河套学院与香港大学的研究团队提出了 VALG。这是一个专门面向机器学习理论研究的自主智能体系统,其命名致敬了统计学习理论与计算学习领域的四位先驱:Leslie Valiant、Dana Angluin...
来自华为、南洋理工大学和中山大学的研究团队提出了 UserToolBench 基准,首次将评估焦点转向 隐式画像下的个性化决策(Personalized Decision Making) 。
由北京邮电大学、MBZUAI、同济大学和电子科技大学等机构联合提出的 UniTexture 正式给出了令人警惕的答案。作为针对多任务 VLA 模型的跨任务通用 3D 对抗纹理攻击,UniTexture 仅优化单一物体的...
针对这一痛点,一项名为 Tree-of-Experience(ToE)的新研究提出了全新的解题思路:它不再将经验平铺或聚类,而是直接将经验镜像构建为一棵与模型思考方式同构的“层次化分析视角树”。
在多智能体系统(Multi-Agent System)的设计中,串行流水线是当前工业界最普遍的落地方案。无论借助 LangGraph、AutoGen 还是 CrewAI,工程师们通常会搭建一条分工明确的流水线:先由研究...
TCS-Bench:研究团队通过解析 arXiv 上的 LaTeX 源码,提出了一套兼顾完整性与可扩展难度的构建流: 1. 依赖有向无环图(DAG)抽取 :系统首先提取论文中所有形式化陈述(包括定理、引理、主张等),并...
来自香港中文大学(CUHK)的研究团队在论文中提出了 SynAct ,一个专为芯片自适应逻辑综合调优设计的闭环推理-行动(Reasoning-Acting)大模型智能体。与以往割裂的方案不同,SynAct 将综合优化建...
SocialBuddy:针对真实社交网络极度私密、数据无法直接用于公开训练与评估的难题,研究团队首先构建了首个大规模社交搜索仿真环境 SocialEnv ,内含 20 万虚拟用户画像、1000 万条社交动态以及 5 万...
为了打破这种主观评测与单一场景的局限,卡耐基梅隆大学(CMU)的研究团队提出了一套完整的评估基准与无须微调的自优化框架: Social Gym 与 SPaRTan 。