Tag: #LLM
All the articles with the tag "#LLM" (4 posts).
-
DeepSeek-V4 技术架构与高效百万上下文推理工程评估报告
Posted on: · 10 min read深入剖析 DeepSeek-V4 (1.6T MoE / 49B 激活) 的底层系统架构：CSA/HCA/SWA 三阶混合注意力、流形约束超连接 (mHC)、Birkhoff 多面体双随机残差与 Muon 优化器在 1M 上下文下的工程实现。
-
Kimi K3 技术报告深度拆解：2.8T 开源基座的 KDA 线性注意力、Stable LatentMoE 与 AgentENV 基础设施
Posted on: · 7 min read全面剖析月之暗面 Kimi K3（2.8T MoE / 104B 激活）的核心架构突破：Kimi Delta Attention (KDA) 3:1 混合注意力、Attention Residuals (AttnRes)、Stable LatentMoE 拓扑与微虚拟机 AgentENV 强化学习基础设施。
-
Pi Agent 架构设计与实现技术评估报告
Posted on: · 15 min read深度剖析面向软件工程场景的终端 AI Coding Agent 框架：DAG 树形会话存储、非对称上下文滑动压实、Prompt Cache 保序优化与事务化状态机。
-
从 MemGPT 到自主进化：LLM Agent 长期核心记忆工程实践
Posted on: · 3 min read解析大模型智能体跨会话记忆的实现原理：如何让 Agent 主动拥有自己的知识库，并在交互中自主反思、修正与持久化演进。