首页 > 其他 > 详细

简介GloVe词向量:推导、实现、应用

时间:2020-12-14 18:44:59      阅读:56      评论:0      收藏:0      [点我收藏+]
零、Introduction

类似于word2vec,GloVe也是一种词向量训练方法,改进如下:
能够更好的利用全局统计量,训练速度更快
仍然保留了局部窗口共现信息,语义效果略好于word2vec
接下来,我会简要介绍GloVe模型的推导、PyTorch实现、使用方法

一、推导

原文提到了两种推导思路:一是【用词向量点积去拟合共现概率比】,二是【逐步改良SkipGram】;分别介绍如下

直接拟合概率比

首先定义拟合目标,得出 式(1)

技术分享图片
(注: 确切来说,更喜欢

简介GloVe词向量:推导、实现、应用

原文:https://blog.51cto.com/15054042/2564021

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!