标签：视频 Transformer 顺序 老师 attention transformer 学习 讲解 李沐

因为我个人不喜欢听一个老师重复讲而喜欢听多位老师讲同一个东西所以整理了一下这份清单，我觉得比我自己的学习顺序要好一些！

attention本质还是权重（？

1. （可选）前置知识：词嵌入、表征（文章）：完全没接触NLP的我觉得它讲的真的挺清楚
2. （可选）了解transformer的基本结构（视频）：看这个封面真的没想到讲的这么好，刻板印象害人。用很符合直觉的方式讲了一遍【为什么要】以及【核心架构】
3. （建议）李沐老师论文逐段讲解（视频）：李沐老师对论文的讲解绝对是非常非常细致清楚的，补充了很多知识，讲的非常非常好；李宏毅老师的据说讲的更直白，但是两个半小时我实在懒得（？
4. （建议）手推 attention（视频）：对手推公式的人我一向只有敬意，而且这位讲的真的很清楚，相当于顺了一遍，在看代码之前就能知道每一部分的具体表现应该是什么
5. （可选但比较建议）再看transformer（文章）：讲解内容倒是和2的视频差不太多，补充了很多图例；主要是评论区很多问题是共通的，挺精彩
6. 代码实现1：把重点结构逐个拆开来写了
7. 代码实现2：但是上面那个需要自己组装（？）这个复制粘贴就好，感觉很爽

标签：视频,Transformer,顺序,老师,attention,transformer,学习,讲解,李沐
来源： https://www.cnblogs.com/youtmdyang/p/16172480.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。