Transformers learn factored representations
Transformer的世界观：自动将指数级复杂世界拆解为线性正交因子。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
AGI FRONTIER
AI前沿分享第27页
深度解读 AI 论文，追踪 Agent、推理、多模态与具身智能的最新进展。
PAPER INSIGHTS
更多论文解读
Trainable Log-linear Sparse Attention for Efficient Diffusion Transformers
LLSA：让Diffusion Transformer提速28倍的“对数级”稀疏注意力机制。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
多模态&视觉模型优化
Towards Execution-Grounded Automated AI Research
斯坦福自动化AI科研：10轮进化准确率飙升21%，RL反而“变笨”？。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
Towards Automated Kernel Generation in the Era of LLMs
告别手写CUDA噩梦：LLM+Agent自动生成高性能Kernel技术全景。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
AI工程
Top 10 Open Challenges Steering the Future of Diffusion Language Model and Its Variants
扩散模型能否颠覆GPT？华为诺亚详解阻碍DLM爆发的十大核心挑战。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
多模态&视觉
The Two-Stage Decision-Sampling Hypothesis: Understanding the Emergence of Self-Reflection in RL-Trained LLMs
RL为何能让大模型“学会自省”？双阶段决策采样假说揭秘SFT的死穴。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
The Reasoning-Creativity Trade-off: Toward Creativity-Driven Problem Solving
剑桥重磅：直击LLM“创造力坍缩”，DCR框架如何打破推理单一化僵局？。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
推理
The Illusion of Insight in Reasoning Models
普林斯顿揭秘：模型“顿悟”竟是幻觉？百万推理轨迹拆解“自我修正”真相。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
推理
The Evolution of Reranking Models in Information Retrieval: From Heuristic Methods to Large Language Models
RAG效果提升神器：重排序模型从BERT到LLM的硬核进化史。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
RAG
The Curse and Blessing of Mean Bias in FP4-Quantized LLM Training
FP4训练的诅咒与祝福：简单“减均值”，性能直追BF16。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
模型训练
Tackling the Inherent Difficulty of Noise Filtering in RAG
RAG去噪为何这么难？人大清华揭秘“三元困境”，非线性微调让LLM自带“过滤器”。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
RAG
T5Gemma 2: Seeing, Reading, and Understanding Longer
Google DeepMind重磅发布T5Gemma 2：让Encoder-Decoder架构在长文本与多模态中强势回归。
基础模型
Structured Hints for Sample-Efficient Lean Theorem Proving
DeepSeek-Prover潜力释放：仅需简单“骨架”提示，性能飙升43%。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
AI理论
Step-GUI Technical Report
成本暴降100倍！Step-GUI刷新SOTA，打造手机端最强“操作员”。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
Step-DeepResearch Technical Report
32B模型媲美OpenAI？Step-DeepResearch揭秘：低成本实现专家级深度研究。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
Statistical Reinforcement Learning in the Real World: A Survey of Challenges and Future Directions
RL不该只会打游戏：哈佛联合帝国理工发布“现实世界落地”三步走指南。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
强化学习
Stackelberg Learning from Human Feedback: Preference Optimization as a Sequential Game
ETH新作SLHF：用“领导者-跟随者”博弈重塑对齐，推理性能零样本提升。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
推理模型优化
SortedRL: Accelerating RL Training for LLMs through Online Length-Aware Scheduling
SortedRL：简单排个序，LLM强化学习训练吞吐量提升近40%，性能最高涨18%。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
模型训练
SonicMoE: Accelerating MoE with IO and Tile-aware Optimizations
SonicMoE：64张H100顶96张用，MoE训练显存暴降45%。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
模型训练模型优化
SkillRouter: Retrieve-and-Rerank Skill Selection for LLM Agents at Scale
颠覆常识！阿里SkillRouter：Agent选对工具，代码比描述重要44%。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
RAGAI Agent
SimpleMem: Efficient Lifelong Memory for LLM Agents
SimpleMem：让Agent记忆成本暴降30倍！F1提升26.4%的“语义无损压缩”新架构。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
知识系统AI Agent
Sigmoid Head for Quality Estimation under Language Ambiguity
告别Softmax“分票”困境：Sigmoid Head无需人工标注，精准量化大模型置信度。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
基础模型
Semiparametric Preference Optimization: Your Language Model is Secretly a Single-Index Model
DPO假设失效？康奈尔联合Netflix提出SPO：大模型对齐的“单指标”革命。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
推理模型优化
Seedance 1.5 pro: A Native Audio-Visual Joint Generation Foundation Model
字节Seedance 1.5 pro发布：原生音视频联合生成，推理加速超10倍。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
多模态&视觉