1、感知机基础
感知机是一种二类分类模型，训练样本需要完全线性可分，学习策略包括两种：一种是误分
类点的数目，另外一种是误分类点到分离超平面的总距离，通过梯度下降法最小化损失函数。
分离超平面：w * x + b = 0
误分类点：-y(i) * (w * x(i) + b) > 0，若不等式成立，确认x(i),y(i)为误分类点
决策函数：y = sign(w * x + b)
损失函数：Loss1 = -∑ y(i) * (w * x(i) + b)，其中0 < i <= M，M为误分类点的数目，
Loss2 = Loss1 / ||w||（总距离公式）；两种损失函数均是非负的，损失函数越小
，代表误分类点到分离超平面的总距离越小，误分类点的数目可能越少，当损失
函数为0，则所有训练样本分类正确。
2、感知机学习算法
输入：训练样本
输出：f(x) = sign(w * x + b)
具体操作：首先初始化w和b，重复过程：然后在训练样本中遍历数据，如果y(i) * (w * x(i) + b) <= 0，
则为误分类点，更新w和b，更新方式为w = w - (- n * y(i) * x(i))，b = b - (-n * y(i))，直到训练样本中
没有误分类点。
原文：https://www.cnblogs.com/cookbook/p/12339883.html