admin 管理员组

文章数量: 1184232

整理transformer容易理解(可能质量不会太好，但肯定容易理解)的一些文章
1.embeding
https://chriszou/2019/06/29/embedding-explained/
通俗的方式解释了，embeding是什么东西

2.位置编码
英文https://www.youtube/watch?v=dichIcUZfOw
英文https://wwwblogs/emanlee/p/17137698.html
英文https://www.inovex.de/de/blog/positional-encoding-everything-you-need-to-know/#:~:text=The%20simplest%20example%20of%20positional,and%20added%20to%20that%20input
英文https://machinelearningmastery/a-gentle-introduction-to-positional-encoding-in-transformer-models-part-1/
英文https://kazemnejad/blog/transformer_architecture_positional_encoding/

2.transformer图解计算过程
中文http://fancyerii.github.io/2019/03/09/transformer-illustrated/
中文https://zhuanlan.zhihu/p/219714713
英文http://jalammar.github.io/illustrated-transformer/
中文https://zhuanlan.zhihu/p/338817680

3.transformer的代码实现
http://fancyerii.github.io/2019/03/09/transformer-codes/#the-annotated-transformer_14_0

本文标签： 思路 Transformer

版权声明：本文标题：transformer的理解思路 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.roclinux.cn/b/1758302619a3084195.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。