首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
V2EX 提问指南
广告
V2EX
›
问与答
Transformer 的 Decoder 为什么都说是要一个单词一个单词输出，所以要 masked multi-head attention
zxCoder
·
2021-11-25 22:07:01 +08:00
· 907 次点击
这是一个创建于 1120 天前的主题，其中的信息可能已经有所发展或是发生改变。
encoder 能并行，decoder 为什么不能并行，看了好多资料都没讲到这个
decoder
并行
单词
multi-head
1 条回复
1
1023
2021-11-26 12:27:58 +08:00 via Android
因为 decoder 本来就是要根据前一个词的结果计算下一个词，没法并行
关于
·
帮助文档
·
博客
·
API
·
FAQ
·
实用小工具
·
2750 人在线
最高记录 6679
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 24ms ·
UTC 12:26
·
PVG 20:26
·
LAX 04:26
·
JFK 07:26
Developed with
CodeLauncher
♥ Do have faith in what you're doing.
Select Language