Tag: #KDA

All the articles with the tag "#KDA" (1 post).

• Kimi K3 技术报告深度拆解：2.8T 开源基座的 KDA 线性注意力、Stable LatentMoE 与 AgentENV 基础设施

  Posted on: 20 Aug, 2026 · 7 min read

  全面剖析月之暗面 Kimi K3（2.8T MoE / 104B 激活）的核心架构突破：Kimi Delta Attention (KDA) 3:1 混合注意力、Attention Residuals (AttnRes)、Stable LatentMoE 拓扑与微虚拟机 AgentENV 强化学习基础设施。