正则化
任何防止模型过度拟合其训练数据的约束。
概览
正则化是一类刻意让拟合训练集变得更困难的技术:丢弃单元、惩罚大权重、提前停止、限制容量。它解决的是这样一个问题:参数足够多的模型会去记忆而非泛化。它的存在是一种有意为之的取舍——以更差的训练表现为代价,换取在模型未见过的数据上更好的表现。
技术图谱
正则化 如何与技术栈的其他部分相连。
应用于
- Fine-tuning technique Techniques 正则化 used for Fine-tuning High ✓ source
- Pretraining technique Techniques 正则化 used for Pretraining High ✓ source
- Overfitting concept Algorithms 正则化 solves Overfitting High ✓ source
工具
实现或集成 正则化 的软件。