task1:RMSNorm 与 SwiGLU 学习笔记

记录 RMSNorm 与 SwiGLU 的核心原理、学习重点、常见坑点和实现注意事项。

训练微调