揭秘大模型SFT数据陷阱：破解步长混杂，ASLEC提点超9%
随着DeepSeek-R1等大模型的爆火，超长思维链（Chain-of-Thought）已成为攻克复杂推理任务的核心武器。为了激发基础模型的这种能力，业界普遍采用一种标准范式：在高质量、大规模的推理数据集上进行监督微调...
AI安全推理
AGI FRONTIER
AI前沿分享第24页
深度解读 AI 论文，追踪 Agent、推理、多模态与具身智能的最新进展。
PAPER INSIGHTS
更多论文解读
Nemotron 3 Super开源：提速7.5倍的120B混合架构MoE解读
大模型推理成本高昂，长文本处理更是内存“吞金兽”。如何在保证千亿参数级别强大推理能力的同时，将推理吞吐量提升数倍？NVIDIA最近开源的Nemotron3Super交出了一份惊艳的答卷。这款总参数量达120B（激活参数...
模型优化基础模型
提速4倍且零工具调用！ReOPD破解多轮智能体蒸馏的“前缀陷阱”
当前沿的大语言模型（LargeLanguageModel,LLM）逐渐进化为能够在复杂环境中执行多轮交互的智能体时，如何高效地将强大“教师”模型的能力蒸馏给小巧的“学生”模型，成为了一个棘手的工程难题。
AI Agent推理
突破智能体孤岛：MATM共享Agent轨迹记忆，任务成功率提升17%
当前的大语言模型智能体在执行各类复杂任务时，会产生大量高价值的中间轨迹。然而，这些包含丰富过程知识的交互数据，通常在单次使用后就被直接丢弃。或者仅被生产该轨迹的单一智能体私有保留。这种“阅后即焚”的孤岛模式，导致新实例...
AI AgentRAG
多智能体AI创造力碾压人类团队？1.5倍断层优势与语义轨迹揭秘
长期以来，创造力被普遍视为人类智能的“终极前沿”。即使大语言模型在标准化考试和代码生成上屡创佳绩，生成兼具新颖性与实用性的绝妙点子，似乎仍是人类独有的特权。然而，一项由微软亚洲研究院、剑桥大学等机构联合发布的研究彻底打...
AI Agent基础模型
牛津大学提出MolJSON：大模型分子推理准确率飙升至98.5%的全新格式
当最先进的大语言模型试图解开复杂化学反应的奥秘时，它们却经常在最基础的环节栽跟头。为什么一个能写出完美代码的AI，却连简单的环状分子结构都容易认错？该研究指出，罪魁祸首并非模型本身的推理能力不足，而是我们给模型喂入数据...
基础模型
1.2B反超200倍巨头：MinerU2.5-Pro重塑文档解析飞轮
当主流文档解析模型在各类基准测试中分数逐渐逼近，一个诡异的现象浮出水面：无论模型架构如何演进，参数量差了多少倍，它们总是在同一批“困难样本”上集体翻车。这暗示了一个核心真相：当前文档解析的性能瓶颈，根本不在于模型架构的...
模型训练AI安全
MEMENTO：大模型学会自主管理上下文，KV缓存直降2.5倍！
当大语言模型在解决复杂数学或编程问题时，往往会生成数以千计的推理Token。这种长长的思维链虽然带来了惊艳的准确率，但也引发了严重的计算灾难。在传统的自回归生成中，每一个历史Token都会被保存在KV缓存中，消耗极其庞...
推理数据工程
Agent评测盲区：BIWM量化执行接口对多步信念的扭曲
评价一个大语言模型Agent的能力，业界通常只看一个最终指标：即该模型是否成功解决了当前任务。这就好比只看考试的最终成绩，却完全忽略了考场环境的干预。该研究揭示了一个在各类大模型榜单中常被忽视的盲点。决定Agent能否...
AI评测AI Agent
提速4.14倍！LoSA破解长文本扩散模型的KV膨胀难题
大语言模型的世界正在悄然发生深刻的变革。传统的自回归生成模式正逐渐显露出其在复杂推理上的局限。块级扩散语言模型（Block-wiseDiffusionLanguageModels,DLMs）异军突起。这种新兴架构允许以...
基础模型
告别失控循环！LLM-as-Code重塑Agent架构，15步通关百步任务
当前主流的Agent框架几乎都遵循同一个默认设定：让大语言模型担任核心调度员。无论是大名鼎鼎的ReAct模式，还是广泛使用的AutoGen或MetaGPT框架。它们都赋予了模型决定下一步调用什么工具、提供什么参数以及何...
AI Agent
LLM化身最强大脑：大模型多智能体战略推理技术全景解析
当人工智能在棋盘上击败人类顶尖棋手时，世界曾为之惊叹。但那往往依赖于封闭规则下的海量自我博弈与搜索计算。如今，大模型正步入更加复杂、充满未知与博弈的真实交互场景。它们不再仅仅是回答常识问题或进行基础的代码编写。它们开始...
AI Agent
LightMem：小模型重构Agent记忆，检索仅83ms，F1提升2.5
Agent在处理长线任务时，往往深深受困于记忆系统的技术瓶颈。目前主流的记忆架构，普遍面临着一个极为尴尬的“两难困境”。传统基于向量检索的系统响应极快，但极其容易召回大量无关的错误噪声。如果直接让超大参数模型接管记忆操...
RAGAI Agent
告别手写规则：离线强化学习让LLM Agent自主掌控工作流
现阶段在开发大语言模型智能体时，开发者们往往将绝大部分精力投入于调优提示词、微调模型，或是费力编写错综复杂的固定代码逻辑。这些包围在模型外围的代码框架，被称为外围控制层（Harness），它决定了Agent何时观察环境...
强化学习AI Agent
提速60%的BoundaryRouter：揭秘LLM与Agent冷启动智能路由
在实际的业务落地中，大型语言模型面对复杂任务常显力不从心。为了提升性能，开发者往往会引入具备工具调用能力的智能体。然而，智能体的算力成本和推理延迟往往让人望而却步。事实上，许多基础查询完全在轻量级模型的原生能力边界之内...
AI Agent知识系统
AI接管设备？超500篇文献全景解码大模型GUI Agent
当Claude发布其具备“电脑操控”能力的最新模型时，整个科技圈为之震动。这项技术让AI不再局限于聊天窗口，而是真正接管了我们的鼠标和键盘。微软、北京大学与上海人工智能实验室近期联合发布了一项重磅长篇综述。该综述系统梳...
多模态&视觉AI评测
全景解构LLM Agent：从单体构建到多智能体进化的底层逻辑
从被动回答问题的聊天机器人，到能够自主完成深度研究的数字员工，AI正在经历一场重大的范式转换。近期爆火的复杂商业系统无不昭示着，大语言模型智能体（LargeLanguageModelAgent,LLMAgent）时代的...
RAGAI评测
Kimi-VL技术解密：28亿激活参数跑通128K长窗口与多模态慢思考
大模型领域的竞争正从单纯的文本向多模态深度推理演进。近期，以推理见长的开源模型层出不穷，但多模态大模型（）在参数规模与推理能力之间往往难以两全。现有的开源视觉语言模型大多依赖密集的庞大架构，且缺乏类似深度思考（）的能力...
多模态&视觉推理
Kimi K2重磅开源：万亿参数与MuonClip重塑Agent智能
大语言模型正经历从静态模仿向主动交互的深刻变革。这标志着智能体（AgenticIntelligence）时代的全面开启。在此范式下，模型必须学会在复杂多变的环境中自主感知、规划、推理并采取行动。然而，打造极致的智能体能...
模型训练AI Agent
Kimi-Dev开源：Agentless训练注入先验，SWE-bench狂砍60.4%
在代码大模型领域，长期存在着一条隐形的界线。一边是按部就班的工作流方法，另一边是自由探索的智能体框架。难道鱼与熊掌真的不可兼得？本文提出的Kimi-Dev给出否定答案。该研究在SWE-benchVerified榜单上拿...
AI Agent
吞吐量飙升3倍！I-DLM破局并行解码，媲美同级自回归质量
大语言模型的世界一直被逐字生成的自回归机制统治。虽然扩散模型承诺了令人兴奋的并行生成前景，但它们在文本质量上始终无法与自回归模型抗衡。为什么扩散模型在图像领域大杀四方，在文本生成领域却总是“差一口气”？
基础模型模型训练
万字长文拆解大模型“听话”的秘密：指令微调（IT/SFT）前沿全景综述
大型语言模型（LLM）的原始形态，本质上是一个极其庞大的“文字接龙”机器。它们通过海量语料学会了预测下一个词，却并不知道如何满足用户的真实业务需求。当用户输入“帮我写一封辞职信”时，原始模型可能会补充“，你需要注意以下...
模型训练
告别黑盒！InfoFlow揭秘多层Transformer：两层架构如何省下指数级参数？
Transformer架构无疑是当今AI繁荣的绝对基石。然而，面对动辄数十乃至上百层的庞然大物，理论界却长期陷入一种尴尬的“偏科”状态。目前，学界对单层Transformer的数学性质已经有了相对透彻的理解，但多层Tr...
AI理论
告别手搓Agent！HarnessX实现大模型与运行时外挂协同进化，性能最高飙升44%
目前开发AIAgent，最痛苦的环节莫过于“手搓”外挂代码。换个新模型，提示词模板可能得全部重写。加个新工具，原本顺畅的控制流直接崩溃。大量在运行中产生的报错记录和轨迹，最后只能被当成垃圾数据扔掉。究竟有没有一种方法，...
AI Agent推理