01
DeepSeek 深度研究
解码新一代推理模型
从 MLA 低秩压缩到 MoE 专家路由,从 GRPO 到多词元预测,逐层拆解 DeepSeek 的技术创新。
大模型原理与 DeepSeek 架构
Agent 架构与工具调用
本地 AI 基础设施实践
三个并行推进的项目,覆盖大模型原理、Agent 架构与本地部署实践。 每一个方向都在回答同一个问题:AI 如何才能真正落地。
解码新一代推理模型
从 MLA 低秩压缩到 MoE 专家路由,从 GRPO 到多词元预测,逐层拆解 DeepSeek 的技术创新。
从工具调用到自主执行
研究 Agent 的 memory、planning、tool use,探索本地化 Agent 的架构与产品化路径。
双平台实测与部署方案
在 Mac M5 Max 与 Windows RTX 5070 Ti 上跑通 RAG、微调、推理,沉淀可复用的环境方案。
为什么 MLA 在 KV 缓存占用更多的情况下仍能带来性能优势? 我对低秩压缩维度做了推导和本地验证,试图把这个问题讲清楚。
“MLA 不是减少缓存,而是让缓存中的信息更高效。”