START
起点
这里不是读书笔记，也不是书摘合集。
这里是我基于多本书、多篇论文、多轮实验，逐步形成的自有知识体系。
别人的书是起点，不是终点。
CURRENT FOCUS
当前聚焦
知识体系不是静态的。以下是我正在推进的具体方向，最新进展都在 GitHub 上。
FRAMEWORK
我的 LLM 知识框架
从底层原理到工程实现，我把 LLM 的学习拆为四层。 每一层都引用了具体的参考来源，但最终的解释和取舍，是我自己的。
底座
Transformer 架构、Token 与 Embedding、注意力机制的直觉与公式。
预训练与对齐
缩放定律、Chinchilla、SFT 与 RLHF，理解模型能力的来源。
推理与思考
CoT、PRM/ORM、GRPO、蒸馏，理解新一代推理模型的本质。
系统与落地
MLA、MoE、MTP、FP8，从算法到工程实现，理解本地化部署的边界。
SOURCES
参考来源
这些是形成上述框架的主要参考输入。仅作起点，引用而非复述。
Hands-On Large Language Models
Jay Alammar & Maarten Grootendorst · O'Reilly, 2024
提供了 Transformer 内部、嵌入、语义搜索、RAG、微调的系统基线。 我在此基础上叠加了 DeepSeek 系列论文与本地实验，形成自己的理解。