#transformer

共 2 篇

2026-03-19
《Attention Residuals》：让残差连接也注意力化
Kimi 团队 Attention Residuals 技术报告：为什么残差连接也该“注意力化”，以及 Full AttnRes / Block AttnRes 如何把这个想法做成可训练、可部署的系统

#technical-report-reading #residual-connections #transformer #AI #LLM #python
2026-01-06
《Attention Is All You Need》：Transformer 的设计原点
拆解 Transformer 论文，附真实 Python 代码

#paper-reading #transformer #AI #LLM #python