主题： regularization

• 早停：耐心值、验证与最佳权重恢复

  将停止轮次视为模型选择，监控独立验证信号，并区分最后训练得到的权重和表现最佳时的权重。

  article · zh · unreviewed · 知识截至 2026-10-11

• AdamW：解耦权重衰减为什么不同于 L2 惩罚

  AdamW 将参数收缩与自适应梯度更新分开，因此衰减项不会进入 Adam 的矩估计；但学习率、更新次数和参数分组仍会影响正则化。

  article · zh · unreviewed · 知识截至 2026-10-11

机器可读： JSON