基础模型 第2页

ARCTIC:从逐行审查到代码批判,漂移检测让失准再降5.76分

针对这一困局,来自工业界的研究团队提出了全新审查系统 ARCTIC 。这项工作的核心立意,是将以往针对语法和样式的机械式“代码审查”(Code Review),重构为面向全局架构与关键风险的“代码批判”(Code Critique)。

WaiT:让高频先等等!Meta频域流匹配算力减半创下像素SOTA

为了打破这一僵局,研究团队提出了 WaiT (Wavelet-aware image Transformer)。其核心思想异常直观而精妙:名副其实地“等待信号”(Wait for the Signal)。通过可逆且无损的离散小波变换(Haar DWT),WaiT 将生成过程在频域上解耦为低频粗...

微小架构改动让长文本暴跌47%!AI2烧了17万卡时挖出底层隐患

结果表明,四项在当今主流开源模型(如 Llama、Qwen、Olmo)中极度普遍的细微架构改动,存在极其致命的负向复合效应。单独看其中任何一项改动,对长上下文能力的损害都轻微到容易被当成实验噪声;但一旦同时引入三项或全部四项,模型在长文本下游任务(HELMET 基准)中的表现会直接暴跌多达 47%。

TBA:无需写权限,仅凭Query诱导轨迹逼近直接后门注入

本文提出了 轨迹后门攻击 ( Trajectory Backdoor Attack ,简称 TBA )。在完全无需触碰技能代码、没有任何提权行为,甚至仅拥有普通用户提问权限(Query-only)的前提下,攻击者只需巧妙设计正常的任务 Prompt,诱导智能体在执行过程中暴露出特定的行为证据链。

Dion3:全栈重构Muon正交更新,单步开销缩减至AdamW的4倍

由微软研究院、英伟达、纽约大学、普林斯顿大学与耶鲁大学等机构联合提出的 Dion3,正是针对这一系列系统与算法痛点交出的全栈答案。Dion3 从底层硬件算子、数学算法重构、优化器更新机制到分布式通信策略进行了彻底改造,将 Muon 正交化步骤的耗时全面压低。

阿里浙大提出SkillBoost:三阶段受限搜索,让技能泛化差近乎归零

为了打破这一困局,研究团队将技能进化重构为一个在探索与利用之间寻找平衡的受限马尔可夫决策过程(MDP),并提出了全新的进化框架 SkillBoost 。在涵盖复杂代码生成、多轮工具调用、高难度数学推理、具身交互及多模态文档问答等 23 个模型与基准配置的严苛测试中。

浙大SkillAligner:把检索技能当草稿,破解Agent失配且降本38%

为了破解这一痛点,浙江大学的研究者们提出了 SkillAligner 。它的核心观点非常清晰: 在 Agent 执行任务前,绝不能把检索到的外部技能当成不容置疑的硬性指令,而应当将其视作“可以随意修改的底稿”(Adaptable Drafts) 。

XBridge:破解异构模型通信瓶颈,延迟降低11倍且全面超越文本交互

针对这一长期困扰异构通信的核心冲突,研究团队提出了名为 XBridge 的免解码(Decode-free)通信协议。该方案将通信解构为离散实体锚点与连续上下文增强两个独立通道,在三大开源模型家族(Llama、Qwen、Mistral)与七大复杂基准测试中,不仅将通信延迟缩减了整整 11 倍。

VeriSkill:大模型自进化程序验证技能,跨模型迁移最高提升43.7%

为了破解这一死局,研究团队提出了专门面向程序验证的技能自进化框架 VeriSkill 。它跳出了通用自进化框架“见错就改”的粗放范式,建立了一整套兼顾“归因诊断、抽象泛化与语义保真”的进化闭环:首先在责任归因中剔除环境和求解器局限带来的伪信号,只捕获真正的技能缺陷;接着将具体的失败诊断签名聚类。

SkillEvo:多轮交互反馈驱动Agent技能进化,解决率提升51.8点

针对这一系列落地痛点,腾讯云与浙江大学的研究团队提出了名为 SkillEvo 的智能体技能自进化框架。研究的核心判断在于: 制约技能持续自进化的瓶颈,从来不是大语言模型的文本重写能力,也不是迭代轮数的多少,而是评估反馈机制能否持续提供可信的进化梯度。

Modus:单模型统一15种模态,Decoder-Only如何打破Any-to-Any壁垒?

由 Apple、香港中文大学(CUHK)、EPFL 等机构联合提出的 Modus ,直接打破了这一工程惯例。它证明了: 不需要为每个模态定制专门的预测头,也不需要外挂专有损失函数或复杂的任务管道,完全基于统一的单解码器(Decoder-Only)架构。

NCP-ArchPreview:打破单Token限制,以一半数据追平7B基准

NCP-ArchPreview:实验结果显示,仅仅对这 17M 权重在 Magicoder、Orca-Math 等特定语料上进行低成本迭代,模型便能在完全不遗忘通用能力的前提下,迅速完成对目标领域的概念重对齐。其数学与代码能力的跃升幅度,甚至能媲美相当计算量级下的全参数微调。