Tag: #Attention

All the articles with the tag "#Attention" (1 post).

• 大模型注意力机制与上下文压缩的数学基础

  Posted on: 16 Aug, 2026 · 2 min read

  从线性代数与信息论视角，严格推导 Scaled Dot-Product Attention 以及上下文窗口压缩的数学理论与算法实现。