这篇文章给大家分享的是有关线性回归中的L1与L2正则化的内容。小编觉得挺实用的，因此分享给大家做个参考，一起跟随小编过来看看吧。
描述回归建模中的L1和L2正则化方法。
在处理复杂数据时，我们往往会创建复杂的模型。太复杂并不总是好的。过于复杂的模型就是我们所说的“过拟合”，它们在训练数据上表现很好，但在看不见的测试数据上却表现不佳。
有一种方法可以对损失函数的过拟合进行调整，那就是惩罚。通过惩罚或“正则化”损失函数中的大系数，我们使一些(或所有)系数变小，从而使模型对数据中的噪声不敏感。
在回归中使用的两种流行的正则化形式是L1又名Lasso回归，和L2又名Ridge回归。在线性回归中我们使用普通最小二乘(OLS)是用于拟合数据的:我们对残差(实际值与预测值之间的差异)进行平方，以得到均方误差(MSE)。最小的平方误差，或最小的平方，是最适合的模型。
让我们来看看简单线性回归的成本函数:
对于多元线性回归，成本函数应该是这样的，其中????是预测因子或变量的数量。
因此，随着预测器(????)数量的增加，模型的复杂性也会增加。为了缓解这种情况，我们在这个成本函数中添加了一些惩罚形式。这将降低模型的复杂性，有助于防止过拟合，可能消除变量，甚至减少数据中的多重共线性。
L2或岭回归，将????惩罚项添加到系数大小的平方????。????是一个超参数，这意味着它的值是自由定义的。你可以在成本函数的末端看到它。
加上????惩罚，????系数受到约束，惩罚系数大的代价函数。
L1或Lasso回归，几乎是一样的东西，除了一个重要的细节-系数的大小不是平方，它只是绝对值。
在这里，成本函数的最后是????的绝对值，一些系数可以被精确地设置为零，而其他的系数则直接降低到零。当一些系数变为零时，Lasso回归的效果是特别有用的，因为它可以估算成本并同时选择系数。。
还有最重要的一点，在进行任何一种类型的正则化之前，都应该将数据标准化到相同的规模，否则罚款将不公平地对待某些系数。
感谢各位的阅读！关于“线性回归中的L1与L2正则化”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，让大家可以学到更多知识，如果觉得文章不错，可以把它分享出去让更多的人看到吧！
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
