MoM: Mixtures of Scenario-Aware Document Memories for Retrieval-Augmented Generation Systems
MoM通过模拟专家阅读，把RAG中的被动文本分块改为主动提取结构化文档记忆。本文解读文档大纲、核心内容和原子分块的提取，以及三层文档记忆检索流程，说明这种设计如何组织不同粒度的信息，并讨论实验结果和适用边界。
RAG
AGI FRONTIER
AI前沿分享第41页
深度解读 AI 论文，追踪 Agent、推理、多模态与具身智能的最新进展。
PAPER INSIGHTS
更多论文解读
Midtraining Bridges Pretraining and Posttraining Distributions
本文系统地研究了“中训练 (Midtraining)”这一新兴实践，发现其通过在通用预训练和特定任务微调之间构建一个分布桥梁，能有效提升模型在数学和代码等领域的下游任务性能，并显著减少灾难性遗忘。
基础模型
LLM-guided Hierarchical Retrieval
本文提出了一种名为 LATTICE 的LLM引导分层检索框架，通过将海量文档组织成语义树，并让大型语言模型（LLM）基于创新的校准路径相关性得分进行推理和导航，从而以对数级的搜索复杂度高效解决复杂的推理密集型查询。
RAG
LLM-ERM: Sample-Efficient Program Learning via LLM-Guided Search
本文提出了一种名为 LLM-ERM 的新型程序学习算法，该算法通过大型语言模型（LLM）引导的搜索来高效地最小化经验风险，从而仅需极少量（例如1-2个）的输入输出样例就能成功合成正确的程序。
行业应用
GatePro: Parameter-Free Expert Selection Optimization for Mixture-of-Experts Models
本文提出了一种名为 GatePro 的新型、无参数的专家选择优化方法，它将 MoE 模型中的专家选择问题构建为一个最优传输问题，无需可学习的门控参数或人工调整的负载均衡损失函数，即可实现高效且稳定的专家分配。
模型优化
ARM-FM: Automated Reward Machines via Foundation Models for Compositional Reinforcement Learning
本文提出了ARM-FM框架，利用基础模型（Foundation Models, FMs）从自然语言指令中自动生成奖励机（Reward Machines, RMs），为组合式强化学习（Compositional Rein...
强化学习
Valid Survey Simulations with Limited Human Data: The Roles of Prompting, Fine-Tuning, and Rectification
本文提出了一种将大型语言模型（LLM）用于调查问卷模拟的有效框架，其核心思想是：不应将所有宝贵的人类数据用于微调模型，而应将大部分数据用于对LLM生成的大量合成数据进行统计校正（Rectification），从而在有限...
数据工程
Unifying Tree Search Algorithm and Reward Design for LLM Reasoning: A Survey
随着大型语言模型 (LLM) 的扩展定律进入回报递减的阶段，研究前沿正从数据和参数的暴力增长转向算法效率和新的推理形式。在此背景下，两个相互关联的范式成为核心：深思熟虑的推理时搜索 (deliberative Test...
推理行业应用
QeRL: Beyond Efficiency -- Quantization-enhanced Reinforcement Learning for LLMs
本文提出了QeRL，一个量化增强的强化学习框架，它通过利用量化噪声来提升策略探索，在显著加速大模型强化学习（RL）训练、降低显存占用的同时，实现了超越16位基线方法的性能。
强化学习模型训练
Part II: ROLL Flash -- Accelerating RLVR and Agentic Training with Asynchrony
本文提出了 ROLL Flash，一个通过引入异步机制来解耦 rollout 和训练阶段的系统，从而显著提升了强化学习后训练（RL Post-Training）的吞吐量和资源可扩展性，同时通过精细化的陈旧度控制确保了模...
AI Agent强化学习
LLM$ imes$MapReduce-V3: Enabling Interactive In-Depth Survey Generation through a MCP-Driven Hierarchically Modular Agent System
本文提出了一种名为 LLM×MapReduce-V3 的分层模块化智能体系统，该系统通过模型-上下文-协议 (MCP) 驱动的动态规划，实现了交互式、可定制的深度综述论文生成。
AI Agent
Large Language Model Sourcing: A Survey
大语言模型溯源：一篇综述。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
DocReward: A Document Reward Model for Structuring and Stylizing
本文提出了一种名为 DocReward 的文档奖励模型，它通过在一个包含117K对文档的大规模数据集上学习，专门用于评估文档的结构和风格专业性，并在该任务上显著优于 GPT-5 等强大的基线模型。
强化学习
BabyBabelLM: A Multilingual Benchmark of Developmentally Plausible Training Data
本文提出了 BabyBabelLM，一个包含45种语言、模拟人类语言习得环境的多语言基准，旨在推动语言模型在数据效率和认知合理性方面的跨语言研究。
AI评测模型训练
Autonomous Agents for Scientific Discovery: Orchestrating Scientists, Language, Code, and Physics
本文提出一个信息论框架来分析和构建用于科学发现的自主智能体(Autonomous Agents)，通过对信息熵、可验证性和耗散的分析，建立了一套信息流转的分类体系，并在此基础上提出了一个衡量智能体自主能力的五级模型。
AI Agent行业应用
A Survey on Parallel Reasoning
Parallel Reasoning综述系统梳理大模型的并行推理方法，区分独立生成、多路协作等测试时扩展路线。本文说明并行推理与串行思维链的差异，解读分类框架、代表方法、计算成本以及开放问题。
推理
A Survey on Agentic Multimodal Large Language Models
关于Agentic多模态大语言模型的综述。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
多模态&视觉AI Agent
A Survey of Vibe Coding with Large Language Models
关于使用大型语言模型进行 Vibe Coding 的综述。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
A Survey of Inductive Reasoning for Large Language Models
本节介绍归纳推理的相关概念、应用场景及其重要性。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
推理
A Comprehensive Survey on Benchmarks and Solutions in Software Engineering of LLM-Empowered Agentic System
好的，我将遵循您的指示，撰写一份关于该论文的报告。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
AI AgentAI工程
Who Said Neural Networks Aren't Linear?
本文提出了一种名为 Linearizer 的新架构，通过将一个线性算子置于两个可逆神经网络之间，使得传统的非线性映射在特定构造的向量空间中表现为严格的线性变换，从而能够将线性代数的强大工具（如SVD、伪逆）应用于深度学...
基础模型
The Alignment Waltz: Jointly Training Agents to Collaborate for Safety
本文提出了一种名为 的多智能体强化学习框架，该框架通过训练一个对话智能体和一个反馈智能体进行协作，将安全对齐问题转化为一个正和博弈，从而同时减少大型语言模型（LLM）的不安全响应和过度拒绝现象，提升了模型在有益性（he...
AI AgentAI安全
QAgent: A modular Search Agent with Interactive Query Understanding
本文提出了 QAgent，一个统一的智能体 RAG 框架，它通过一个采用两阶段强化学习策略训练的模块化搜索智能体，进行交互式查询理解和自适应检索，从而提高了对复杂问题的检索质量和作为可插拔模块的泛化能力。
AI Agent行业应用
Prompts Generalize with Low Data: Non-vacuous Generalization Bounds for Optimizing Prompts with More Informative Priors
本文提出了一种新颖的泛化界理论，通过引入基于困惑度（perplexity）的、信息更丰富的先验（prior），为数据稀疏场景下的提示（prompt）优化提供了非空泛的（non-vacuous）理论保证，并证明了这种方法...
数据工程