L1范数和L2范数，哪个更容易产生稀疏解

【L1范数比L2范数更容易产生稀疏解】

当q=1时，其正则化项就是L1范数正则化项;当9-2时，其正则化项就是 L2范数正则化项。
正则化项的形式当然不是最重要的,最重要的是要理解L1范数和L2范数的特点，为什么在LS-PLM 模型中加入L1范数能够增加模型的稀疏性呢?
这里用一个二维的例子来解释为什么L1范数更容易产生稀疏性。L2范数|w1|+|w2|的曲线

如图 2-19(a)的红色圆形，L1 范数|w1|+|w2|的曲线如图 2-19(b)红色菱形。用蓝色曲线表示不加正则化项的模型损失函数曲线。

求解加入正则化项的损失函数最小值，就是求解红圈上某一点和蓝圈上某一点之和的最小值。这个值通常在红色曲线和蓝色曲线的相切处(如果不在相切处，那么至少有两点值相同，与极值的定义矛盾)，而L1范数曲线更容易与蓝色曲线在顶点处相交，这就导致除了相切处的维度不为零，其他维度的权重均为0，从而容易产生模型的稀疏解。