The human biological advantage over AI
本文提出，人类相较于人工智能（AI）的核心优势在于我们基于生物学的中央神经系统（Central Nervous System, CNS），它使我们能够沉浸式地与物理现实融为一体，体验真实的情感，从而发展出植根于经验、有意义且可持续的伦理体系，这是任何非生物的AI都无法复制的。
基础模型 第9页
Transition Models: Rethinking the Generative Learning Objective
本文提出了一种名为过渡模型 (Transition Models, TiM) 的新型生成范式，它通过学习一个能够在任意时间间隔 上进行状态转换的精确动力学方程，成功统一了高效的少步生成与高质量的多步精炼，解决了现有生成模型中普遍存在的“速度-质量”权衡困境。
Loong: Synthesize Long Chain-of-Thoughts at Scale through Verifiers
本文提出了Loong项目，一个旨在通过人工审查的种子数据集（LoongBench）和模块化的合成环境（LoongEnv），大规模生成跨多个推理领域、可自动验证的长链思维（Chain-of-Thoughts）数据，以解决高质量训练数据稀缺的问题，并为基于可验证奖励的强化学习（RLVR）提供支持。
Not All Parameters Are Created Equal: Smart Isolation Boosts Fine-Tuning Performance
本文提出了一种名为“核心参数隔离微调”（CPI-FT）的新框架，通过识别并隔离每个任务的核心参数区域、根据区域重叠度对任务进行分组，并结合参数融合与动态冻结策略进行多阶段微调，从而有效缓解多任务监督微调中的任务冲突和灾难性遗忘问题。
UNIFORM: Unifying Knowledge from Large-scale and Diverse Pre-trained Models
本文提出了一个名为 UNIFORM 的统一知识迁移框架，旨在从大量异构（不同架构、不同训练数据）的预训练模型中，通过新颖的特征投票和Logit投票机制，解决知识冲突问题，从而高效地将共识知识迁移到一个学生模型中，且无需任何手动标注。
VibeVoice Technical Report
本文提出了一种名为 VibeVoice 的新模型，它通过一个创新的、具有超高压缩率的连续语音tokenizer和一个基于大型语言模型的下一token扩散框架，实现了长达90分钟、多达4人的高质量长篇对话语音合成。
A Prompt Pattern Catalog to Enhance Prompt Engineering with ChatGPT
软件模式与提示模式的比较。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
A Survey of Large Language Models
A Survey of Large Language Models。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
Action Language BC+
本文提出了一种名为 BC+ 的新动作语言，通过将其语义建立在通用的稳定模型（Stable Model）之上，成功地统一并扩展了多种现有动作语言（如 , , , ），并自然地集成了现代答案集规划（Answer Set Programming, ASP）中的高级构造（如选择规则和聚合）。
AlpacaFarm: A Simulation Framework for Methods that Learn from Human Feedback
本文提出了AlpacaFarm，这是一个旨在使用大型语言模型（LLM）模拟人类反馈，从而以低成本、高效率地研究、开发和评估人类反馈学习方法的仿真框架。
Bias and Fairness in Large Language Models: A Survey
大型语言模型 (Large Language Models, LLMs) 的崛起已从根本上改变了语言技术。然而，这些模型在取得巨大成功的同时，也可能会学习、延续并放大有害的社会偏见，这些偏见源于不平衡的社会群体表征、刻板印象、贬损性语言等，不成比例地影响着边缘化社区。
DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model
本文提出了一种名为DeepSeek-V2的强混合专家（MoE）语言模型，该模型通过创新的多头潜在注意力（MLA）和DeepSeekMoE架构，在实现顶尖性能的同时，显著降低了训练成本并提升了推理效率。
DeepSeek-V3 Technical Report
本文提出了一种名为 DeepSeek-V3 的671B参数的强混合专家(MoE)模型，它通过创新的无辅助损失负载均衡策略、多Token预测训练目标以及高效的MLA和DeepSeekMoE架构，以极高的训练效率和经济成本，实现了与顶级闭源模型相媲美的性能。
DELTA: Decoupling Long-Tailed Online Continual Learning
本文提出了一种名为 DELTA 的解耦学习框架，通过两阶段训练策略（监督对比学习 + 均衡损失）有效解决了长尾在线持续学习（Long-Tailed Online Continual Learning, LTOCL）中的灾难性遗忘和类别不平衡问题。
Explaining the Success of Nearest Neighbor Methods in Prediction
解释预测中最近邻方法的成功。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
F -- A Model of Events based on the Foundational Ontology DOLCE+DnS Ultralite
本文提出了一种名为 Event-Model-F (F) 的事件形式化模型，该模型基于 foundational ontology (基础本体) DOLCE+DnS Ultralite (DUL)，通过一种模式驱动的方法，全面地表示事件中的时间、空间、参与对象、结构关系（部分-整体、因果、相关）...
Gemma 2: Improving Open Language Models at a Practical Size
本文介绍Gemma 2系列开放语言模型（2B、9B、27B），通过在Transformer架构中交错使用局部-全局注意力、采用分组查询注意力，并对2B和9B模型应用知识蒸馏进行训练，实现了在同等参数规模下的最佳性能，甚至能与2-3倍大的模型相媲美。
Generative AI
Generative AI。本文系统梳理其研究背景、核心方法、关键实验结果、现有局限以及后续工程实践启示。
GPT-4 Technical Report
本文介绍了一个大规模、多模态模型GPT-4，它能够接收图像和文本输入并生成文本输出，在多项专业和学术基准上展现出与人类相当的性能，并通过可预测的扩展方法实现了其性能的精准预测。
GPT-4o System Card
本文发布了GPT-4o，一个端到端训练的原生多模态（omni）模型，该模型能够统一处理和生成文本、音频、图像的任意组合，并详细介绍了其在新能力（特别是实时语音交互）下的安全评估体系、风险缓解措施及其潜在的社会影响。
Graph of Thoughts: Solving Elaborate Problems with Large Language Models
本文提出了一种名为“思想图谱 (Graph of Thoughts, GoT)”的新型提示框架，通过将大型语言模型 (LLM) 的思维过程建模为任意图结构，其中“思想”是节点，依赖关系是边，从而实现了超越链式或树状思维模式的、更复杂和强大的推理能力，尤其擅长聚合多个推理路径以生成协同的、更高质...
Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond
本文是一份面向实践者和终端用户的综合性实践指南，围绕模型、数据和下游任务三个维度，深入探讨了如何有效利用大型语言模型（LLMs）解决自然语言处理（NLP）问题，并详细剖析了不同场景下选择LLMs或微调模型的利弊。
Introduction to Machine Learning
本文是一部综合性的教科书或讲义，旨在介绍机器学习领域的数学基础和核心技术。其内容组织体现了对该领域的系统性分类。
Is ChatGPT a General-Purpose Natural Language Processing Task Solver?
本文通过在覆盖7大类任务的20个NLP数据集上进行全面的零样本（zero-shot）评估，系统性地剖析了ChatGPT作为通用自然语言处理任务解决器的能力，发现其在推理密集型任务上表现出色，但在序列标注等特定任务上仍面临挑战，且综合性能通常不及为特定任务微调的模型。