PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
本文提出了一个名为 PLUM 的框架，旨在将预训练语言模型（LLM）应用于工业级生成式推荐任务，该框架通过语义ID（Semantic IDs）、领域持续预训练（CPT）和生成式微调三个阶段，实现了超越传统大规模嵌入模型...
基础模型
AGI FRONTIER
AI前沿分享第42页
深度解读 AI 论文，追踪 Agent、推理、多模态与具身智能的最新进展。
PAPER INSIGHTS
更多论文解读
Mid-Training of Large Language Models: A Survey
本文首次将大语言模型（LLMs）的中期训练（mid-training）概念化为一个统一的范式，并提出了一个涵盖数据分布、学习率调度和长上下文扩展的分类体系，旨在系统性地梳理这一介于大规模预训练和任务微调之间的关键阶段。
模型训练
MeSH: Memory-as-State-Highways for Recursive Transformers
本文为解决递归 Transformer 的性能瓶颈，提出了以下关键概念。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
知识系统
Memory Retrieval and Consolidation in Large Language Models through Function Tokens
本文提出了“功能性Token假说” (Function Token Hypothesis)，揭示了语言模型中的一小部分高频Token（功能性Token）在记忆检索和巩固中扮演着核心角色：在推理时激活上下文中的预测性特征...
RAG知识系统
LiveThinking: Enabling Real-Time Efficient Reasoning for AI-Powered Livestreaming via Reinforcement Learning
本文提出了一种名为 LiveThinking 的两阶段优化框架，旨在解决AI直播等实时场景中推理质量与延迟之间的权衡问题。该框架首先通过知识蒸馏将大型推理模型的能力压缩到轻量级模型中，然后利用强化学习进一步优化推理路径...
强化学习推理
Learning on the Job: An Experience-Driven Self-Evolving Agent for Long-Horizon Tasks
本文提出了MUSE，一个经验驱动的自进化智能体 (Agent) 框架，通过一个分层的记忆模块和“计划-执行-反思-记忆”的闭环系统，使智能体能够在执行长时程任务中持续学习、积累经验并实现自我进化。
AI Agent
Large Language Models Meet Virtual Cell: A Survey
本文全面综述了大型语言模型（LLM）在构建“虚拟细胞”（virtual cell）——一个能够表示、预测和推理细胞状态与行为的计算系统——中的应用，并提出了一个将现有方法分为“作为预言机的LLM”（LLMs as Or...
基础模型
Inefficiencies of Meta Agents for Agent Design
本文通过实验揭示了一类流行的元智能体（meta-agent）在自动化智能体设计中存在的三个核心问题：学习效率低下、生成的智能体多样性不足以及经济可行性有限，并发现进化式上下文策展策略可以有效提升性能。
AI Agent
First Try Matters: Revisiting the Role of Reflection in Reasoning Models
本文通过大规模量化分析揭示，当前推理模型中的“反思”步骤主要起确认作用而非纠错，其性能提升源于首次尝试正确率的提高，并基于此发现提出了一种可大幅提升推理效率的提前终止策略。
推理
Beyond Turn Limits: Training Deep Search Agents with Dynamic Context Window
本文提出了DeepMiner框架，通过构造高难度训练任务和设计动态上下文窗口策略，显著提升了大型语言模型在多轮长程交互中作为深度搜索智能体的推理与执行能力。
AI Agent模型训练
Artificial Hippocampus Networks for Efficient Long-Context Modeling
本文提出了一种名为人工海马网络（Artificial Hippocampus Networks, AHN）的框架，通过一个可学习的循环模块将滑窗外的Key-Value缓存压缩为固定大小的长期记忆，从而在显著降低计算和内...
基础模型
A Multi-Agent Framework for Stateful Inference-Time Search
本文提出了一个无需训练的有状态多智能体进化搜索框架，通过结合持久化推理时状态、对抗性变异和进化式搜索，提升单元测试中边缘案例的生成能力和代码覆盖率。
AI Agent模型训练
Webscale-RL: Automated Data Pipeline for Scaling RL Data to Pretraining Levels
本文提出了一种名为 Webscale-RL 的自动化数据流水线，旨在通过从网络文档中自动挖掘和生成数据，将强化学习（RL）数据的规模扩展到与预训练数据相当的水平，从而显著提升大型语言模型的性能。
数据工程
Why Low-Precision Transformer Training Fails: An Analysis on Flash Attention
本文首次系统性地揭示了在使用Flash Attention进行低精度（BF16）Transformer模型训练时，导致训练崩溃的内在机制，指出其根源在于注意力机制中出现的相似低秩表示与BF16算术固有有偏舍入误差的累积...
模型训练模型优化
Understanding the Role of Training Data in Test-Time Scaling
本文通过一个可理论分析的线性回归任务，从理论上解释了训练数据的特性如何决定测试时增加计算（即更长的思想链）能否成功提升模型性能，并证明了在多样化、相关且困难的任务上进行训练对测试时扩展（test-time scalin...
模型训练数据工程
The Landscape of Agentic Reinforcement Learning for LLMs: A Survey
本文提出并形式化了“智能体强化学习（Agentic Reinforcement Learning, Agentic RL）”这一新兴范式，将其定义为将大语言模型（LLM）从被动的序列生成器转变为在复杂动态环境中进行自主...
AI Agent强化学习
Staircase Streaming for Low-Latency Multi-Agent Inference
Staircase Streaming通过流式协作降低多智能体推理的串行等待，让下游智能体在上游输出完整结果前开始处理。本文解读分块传递、流水线并行和前缀缓存优化，比较首Token延迟与回答质量的权衡，并说明实验设置及...
AI Agent模型训练
MARS: Optimizing Dual-System Deep Research via Multi-Agent Reinforcement Learning
本文提出了一种名为 MARS 的双系统多智能体强化学习框架，该框架通过模拟人类认知的双系统（系统1的快速直觉与系统2的审慎推理），让两个智能体协同解决需要外部知识的复杂推理任务，显著提升了模型在动态信息环境下的深度研究...
AI Agent强化学习
Hybrid Architectures for Language Models: Systematic Analysis and Design Insights
本文系统性地分析和评估了语言模型的混合架构（层间与层内），发现层内混合策略在模型质量与计算效率之间取得了最佳的帕累托前沿 (Pareto-frontier)。
基础模型
Expand Neurons, Not Parameters
本文提出了一种名为“固定参数扩展”（Fixed Parameter Expansion, FPE）的方法，通过在不增加非零参数总数的情况下增加网络中的神经元数量，来减少由特征叠加（superposition）引起的干扰...
基础模型
CALM Before the STORM: Unlocking Native Reasoning for Optimization Modeling
本文提出 CALM 框架，通过专家智能体注入轻量级提示来修正大型推理模型 (LRM) 的原生推理缺陷，从而生成高质量数据，并通过监督微调和强化学习两阶段训练，打造出在优化建模任务上达到业界顶尖水平且参数高效的模型 ST...
强化学习模型训练
Allocation of Parameters in Transformers
本文通过数学分析 Transformer 模型中参数分配的效率，从理论上揭示了对于信息提取任务，早期层中的注意力头数量与头维度之间存在权衡关系，并证明了 Softmax 激活函数存在饱和效应，这为后期层减少参数提供了理...
AI理论
Aligning Perception, Reasoning, Modeling and Interaction: A Survey on Physical AI
教给AI理解物理世界是现代AI研究中最根本的挑战之一。尽管人类自幼就能直观地预测物体动态并理解复杂的物理交互，但目前的AI模型在掌握幼儿轻松掌握的基础物理推理方面仍然存在困难。随着AI系统被部署到自动驾驶、机器人操控等...
推理
A Practitioner's Guide to Multi-turn Agentic Reinforcement Learning
本文通过将多轮智能体强化学习（multi-turn agentic reinforcement learning）的设计空间分解为环境、奖励和策略三大支柱，系统性地进行了实证研究，并最终提炼出一套用于训练大型语言模型（...
AI Agent强化学习