记录 RoPE 与 Attention 的核心原理、Shape 变化、常见坑点和实现注意事项。

记录 RMSNorm 与 SwiGLU 的核心原理、学习重点、常见坑点和实现注意事项。