首页 > 其他 > 详细

softmax,entropy,crossentropy 总结

时间:2020-08-14 17:32:40      阅读:45      评论:0      收藏:0      [点我收藏+]

一、softmax函数

softmax用于多分类过程中,它将多个神经元的输出,映射到(0,1)区间内,可以看成概率来理解,从而来进行多分类!

假设我们有一个数组,V,Vi表示V中的第i个元素,那么这个元素的softmax值就是

技术分享图片

 

技术分享图片

 

 

技术分享图片

tensorflwo中举例:

技术分享图片

 

 

二  信息熵:

技术分享图片

技术分享图片

 

 

 技术分享图片

技术分享图片

 

 

 

技术分享图片

 

 

 

 

 技术分享图片

 

技术分享图片

 

技术分享图片

 

在tensorflow中:

技术分享图片

 

 

pytorch中:

 

softmax,entropy,crossentropy 总结

原文:https://www.cnblogs.com/kpwong/p/13503205.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!