经典的损失函数：
①交叉熵：判断一个输出向量和期望向量有多接近。交叉熵刻画了两个概率分布之间的距离，他是分类问题中使用比较广泛的一种损失函数。概率分布刻画了不同事件发生的概率。
熵的定义：解决了对信息的量化度量问题，香农用信息熵的概念来描述信源的不确定度，第一次用数学语言阐明了概率与信息冗余度的关系。
Softmax：原始神经网路的输出被作用在置信度来生成新的输出，新的输出满足概率分布的所有要求。这样就把神经网络的输出变成了一个概率分布，从而可以通过交叉熵来计算预测的概率分布和真实答案的概率分布之间的距离。
原文：https://www.cnblogs.com/lemonzhang/p/13229884.html