5LOI.COM

在深水与长夜之间,
吾路独行,亦与灯火同行

研究大模型原理,实践本地部署与 Agent 落地。
在本地与云端之间,在原理与产品之间,寻找可落地的方法。

关注方向

大模型原理与 DeepSeek 架构

Agent 架构与工具调用

本地 AI 基础设施实践

研究方向
向下
LAB

正在研究的
方向

三个并行推进的项目,覆盖大模型原理、Agent 架构与本地部署实践。 每一个方向都在回答同一个问题:AI 如何才能真正落地。

01

DeepSeek 深度研究

解码新一代推理模型

从 MLA 低秩压缩到 MoE 专家路由,从 GRPO 到多词元预测,逐层拆解 DeepSeek 的技术创新。

02

AI Agent 探索

从工具调用到自主执行

研究 Agent 的 memory、planning、tool use,探索本地化 Agent 的架构与产品化路径。

03

本地 AI 基础设施

双平台实测与部署方案

在 Mac M5 Max 与 Windows RTX 5070 Ti 上跑通 RAG、微调、推理,沉淀可复用的环境方案。

LATEST THINKING

从标准 Transformer 到 DeepSeek 的 MLA:
KV 缓存的另一种解法

为什么 MLA 在 KV 缓存占用更多的情况下仍能带来性能优势? 我对低秩压缩维度做了推导和本地验证,试图把这个问题讲清楚。

DeepSeek 深度研究/12 min read
查看 DeepSeek 深度研究
InputQuery低秩压缩KV Cache潜在向量Output

“MLA 不是减少缓存,而是让缓存中的信息更高效。”

SPACE DISPLAY

把研究放进房间

当网站不只是被浏览,而是成为空间的一部分。 在客厅、茶室或办公室的屏幕上,呈现研究状态、方向图谱、时间与动态氛围视觉。

进入空间屏
--:--
关注方向:DeepSeek MLA
CONTACT

有想法,不妨聊聊

无论你是想探讨 AI 落地、合作开发、还是单纯对某个研究方向感兴趣, 我都愿意先听你说。

吾路科技 · 5loi.com