hard Margin:

使用这种方法，对下面这张图中的样本，hard SVM会给出这样一根决策边界

hard SVM非常明显地受到一个蓝点的影响，而这个蓝点很有可能是outlier或者是个错误点。

这根决策边界可能是一根更好的决策边界。
而对于下图这样的样本点，线性不可分的情况，hard SVN是无解的。

hard SVM需要更好的容错性。
改进：增加一个宽松量

即允许一些点出现在图中虚线和实线之间的位置。
这里的宽松量不是一个定值，它对每一个样本都是不同的。
同时还要最小化所有的宽松量。
目标函数变成了：

L1正则、L2正则