AI Research & Engineering: RecSys, Search, NLP, Generative AI and Beyond

Category LLM

LLM相关技术文章

DeepSeekMath 详解:从 PPO 到 GRPO,定义开源 reasoning 的训练范式(DeepSeek 系列第 4 篇)

DeepSeekMath(arXiv:2402.03300)详解:120B 数学语料 + GRPO 算法 + 三阶段训练管线,7B 模型在 MATH 上接近 GPT-4 当时水位,并定义了后来 R1 系列的 RL 训练范式。

Loading

DeepSeek-Coder 详解:从 file-level 到 repo-level,代码模型训练范式的关键演进(DeepSeek 系列第 3 篇)

DeepSeek-Coder(arXiv:2401.14196)详解:从 file-level 升级到 repo-level 训练 + 拓扑排序、FIM 双模混合 (50% PSM + NTP)、16K 长上下文,让 6.7B 模型在 HumanEval / MBPP 上追平 CodeLlama-34B。

Loading

DeepSeekMoE 详解:Fine-grained Expert 与 Shared Expert 双柱设计的奠基之作(DeepSeek 系列第 2 篇)

转载本文请注明出处:https://yudonglee.me/deepseekm… Continue Reading →

Loading

DeepSeek LLM 详解:数据质量为何会改变最优 Scaling 分配(DeepSeek 公司开山之作 · 系列第 1 篇)

转载本文请注明出处:https://yudonglee.me/deepseek-… Continue Reading →

Loading

DeepSeek 技术路线图:从 2024-01 LLM 到 2026-04 V4 的两年半完整演进史(30+ 论文导读 · 系列序章)

转载本文请注明出处:https://yudonglee.me/deepseek-… Continue Reading →

Loading

Newer posts »

© 2026 Yudong‘s Blog — Powered by WordPress

Theme by Anders Noren — Up ↑