一个热爱编程的技术博主
### 深度学习实践与优化 - 数据集拆分比例通常为98%训练、1%验证和1%测试。增加数据量或正则化可提高模型性能。验证和测试集应来自同一分布。调整正则化参数有助于减少过拟合。 - 优化算法方面，小批量梯度下降比全批处理更快；理想的小批量大小介于1到m之间；指数加权平均用于跟踪数据变化；学习率衰减技术如0.95^tα₀和1/√t α₀有效。Adam结合了RMSProp优点与动量。 ### 超
