热门
最新
红包
立Flag
投票
同城
我的
发布
《【AI大模型】深入Transformer架构：编码器部分的实现与解析（上）》
编码器部分:* 由N个编码器层堆叠而成 * 每个编码器层由两个子层连接结构组成 * 第一个子层连接结构包括一个多头自注意力子层和规范化层以及一个残差连接 * 第二个子层连接结构包括一个前馈全连接子层和规范化层以及一个残差连接掩代表遮掩，码就是我们张量中的数值，它的尺寸不定，里面一般只有1和0的元素，代表位置被遮掩或者不被遮掩，至于是0位置被遮掩还是1位置被遮掩可以自定义，因此它的作用就是让另外一个张量中的一些数值被遮掩，也可以说被替换, 它的表现形式是一个张量.
——来自博客 https://blog.csdn.net/2301_76820214/article/details/142674335
您感觉本文质量如何(单选)
18 人已经参与 已结束
优秀
16人
一般
2人
还需改进
0人
CSDN App 扫码分享
评论
点赞
- 复制链接
- 举报
