知识百科
当前位置:首页 > 知识百科 > IT常识 > l1和l2正则化的区别

l1和l2正则化的区别

2023/1/23 10:38:01  

l1和l2正则化的区别是:

  1、L1是模型各个参数的绝对值之和。L2是模型各个参数的平方和的开方值。

  2、L1会趋向于产生少量的特征,而其他的特征都是0,因为最优的参数值很大概率出现在坐标轴上,这样就会导致某一维的权重为0 ,产生稀疏权重矩阵。L2会选择更多的特征,这些特征都会接近于0。

  3、最优的参数值很小概率出现在坐标轴上,因此每一维的参数都不会是0。当最小化||w||时,就会使每一项趋近于0。

声明:该内容系网友自行发布,所阐述观点不代表本网(威客牛网)观点,如若侵权请联系威客牛网删除。