L1 Regularization

释义 Definition

L1 正则化：一种在模型训练时加入“参数绝对值之和”（L1 范数）惩罚项的技术，用来限制模型复杂度、减少过拟合，并常常促使部分参数变为 0，从而产生“稀疏”解（相当于自动做特征选择）。在统计学习中常与 Lasso 回归相关。

发音 Pronunciation (IPA)

/ˌɛlˈwʌn ˌrɛɡjələraɪˈzeɪʃən/

例句 Examples

L1 regularization can make some weights exactly zero.
L1 正则化可以让某些权重变成精确的 0。

In high-dimensional datasets, L1 regularization helps reduce overfitting by encouraging sparse models that rely on only a subset of features.
在高维数据集中，L1 正则化通过鼓励稀疏模型（只依赖一部分特征）来帮助减少过拟合。

词源 Etymology

“L1”来自数学中的 L1 范数（( |w|_1=\sum_i |w_i| )），表示向量各分量绝对值之和；“regularization”意为“正则化/规整化”，在机器学习里指通过添加约束或惩罚项来控制模型复杂度。该术语在统计学与机器学习文献中用于描述“用 L1 范数做惩罚”的一类方法。

相关词 Related Words

• Lasso
• Regularization
• Sparsity
• Penalty
• Overfitting
• L2 Regularization
• Ridge
• Elastic Net
• Norm

文学与名著用例 Literary Works

• The Elements of Statistical Learning（Hastie, Tibshirani, Friedman）——讨论 L1 惩罚与 Lasso 等稀疏方法。
• Pattern Recognition and Machine Learning（Christopher M. Bishop）——在正则化与线性模型章节中涉及 L1/L2 惩罚思想。
• Deep Learning（Goodfellow, Bengio, Courville）——在正则化章节中介绍包括 L1 正则化在内的多种抑制过拟合方法。