index.md

hide	toc

REM'S LLM NOTES

LLM 学习笔记

欢迎来到雷姆哈滋邦德的频道!!! 这里收录了我平时学习LLM、RL与Post-Train的学习笔记。欢迎大家学习、指正!! (正文保留 Markdown 原稿，数学公式使用 LaTeX 编写)

REM

快速入口

01 简介 了解这个站点记录什么，以及笔记的整理方式。 02 分类 先选择学习方向，再进入该分类的文章目录。 03 最新更新 按发布日期查看更新，并直接进入具体文章。 04 下载入口 下载完整仓库、单篇 Markdown 原稿与相关图片。

最新更新

2026.07.15 后训练基础

PyTorch 训练底层与 CausalLM 手撕

从 Tensor、计算图和 AdamW 开始，串起 CausalLM 的前向传播、Loss、反向传播与参数更新。

直接阅读 →

2026.07.14 从数学讲清后训练

DPO 为什么只做偏好分类，却“自带” KL 约束？

从 KL-Regularized RL 出发，推导最优策略、Reward 表达与 DPO Loss 之间的关系。

直接阅读 →

2026.07.14 从数学讲清后训练

在分布视角下理解语言模型后训练

从序列分布与自回归概率树出发，在同一视角下理解 SFT、RL 与 OPD。

直接阅读 →

查看全部更新记录 →

下载入口

Markdown 原稿、数学公式和文章图片均保留在 GitHub 仓库中。

前往下载页面{ .md-button .md-button--primary }