首页 > 其他 > 详细

Transformer【Attention is all you need】

时间:2018-12-31 15:01:47      阅读:272      评论:0      收藏:0      [点我收藏+]

前言

Transfomer是一种encoder-decoder模型,在机器翻译领域主要就是通过encoder-decoder即seq2seq,将源语言(x1, x2 ... xn) 通过编码,再解码的方式映射成(y1, y2 ... ym), 之前的做法是用RNN进行encode-decoder,但是由于RNN在某一时间刻的输入是依赖于上一时间刻的输出,所以RNN不能并行处理,导致效率低效,而Transfomer就避开了RNN,因此encoder-decoder效率高。

Transformer

从一个高的角度来看Transformer,它就是将源语言 转换 成目标语言

技术分享图片

打开Transformer单元,我们会发现有两个部分组成,分别是encoder和decoder

技术分享图片

 

 

 

参考:

https://jalammar.github.io/illustrated-transformer/

Transformer【Attention is all you need】

原文:https://www.cnblogs.com/zhaopAC/p/10202071.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!