参数范数惩罚 ………………………….192

  1. 7.1.1 L2参数正则化 ……………………..193
  2. 7.1.2 L1参数正则化 ……………………..196

作为约束的范数惩罚 ………………………198 正则化和欠约束问题 ………………………200 数据集增强 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201 噪声鲁棒性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202 7.5.1 向输出目标注入噪声 . . . . . . . . . . . . . . . . . . . . . . . 203 半监督学习 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203 多任务学习 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204 提前终止 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205 参数绑定和参数共享 ………………………211 7.9.1 卷积神经网络 . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 稀疏表示…………………………….212 Bagging和其他集成的方法……………………214 Dropout …………………………….216 对抗训练…………………………….224 切面距离、正切传播和流形正切分类器 ……………..225

深度模型中的优化 228