【资源介绍】:
Transformer发轫于NLP(自然语言处理),并跨界应用到CV(计算机视觉)领域。目前已成为深度学习的新范式,影响力和应用前景巨大。
本课程对Transformer的原理和PyTorch及TensorFlow 2代码进行精讲,来帮助大家掌握其详细原理和具体实现。
原理精讲部分包括:注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力(Multi-Head Attention)、Encoder的位置编码(Positional Encoding)、残差链接(Residual Connection)、层规范化(Layer Normalization)、FFN(Feed Forward Network)、Transformer的训练及性能、Transformer的机器翻译工作流程。
代码精讲部分使用Jupyter Notebook对Transformer的PyTorch及TensorFlow 2实现代码进行逐行解读,包括:安装PyTorch/TensorFlow、Transformer的数据集加载与预处理代码解读、Transformer的位置编码与多头注意力代码解读、Transformer的Transformer类代码解读、Transformer的优化器与损失函数代码解读、Transformer的训练代码解读、Transformer的推理与权重保存代码解读。
【资源目录】:
├──01 课程介绍
| └──01 课程介绍.mp4 39.50M
├──02 Transformer原理精讲
| ├──01 注意力机制和自注意力机制.mp4 99.60M
| ├──02 Transformer的架构概述.mp4 34.81M
| ├──03 Transformer Encoder的多头注意力.mp4 48.62M
| ├──04 Transformer Encoder的位置编码.mp4 17.06M
| ├──05 Transformer 残差链接、LayerNorm、FFN.mp4 19.01M
| ├──06 Transformer Decoder.mp4 20.00M
| ├──07 Transformer的训练及性能.mp4 36.92M
| └──08 Transformer的机器翻译工作流程.mp4 6.11M
├──03 Transformer代码精讲(Pytorch)
| ├──01 安装pytorch.mp4 32.55M
| ├──02 Transformer的Encoder代码解读.mp4 54.68M
| ├──03 Transformer的Decoder代码解读.mp4 82.76M
| ├──04 Transformer的超参设置代码解读.mp4 27.31M
| ├──05 Transformer的训练示例(人为随机数据)代码解读.mp4 29.27M
| └──06 Transformer的训练示例(机器翻译)代码解读.mp4 65.15M
└──04 Transformer代码精讲(TensorFlow 2)
| ├──01 安装TensorFlow.mp4 22.01M
| ├──02 Transformer的数据集加载与预处理代码解读.mp4 37.64M
| ├──03 Transformer的位置编码与多头注意力代码解读.mp4 70.30M
| ├──04 Transformer的Transformer类代码解读.mp4 61.00M
| ├──05 Transformer的优化器与损失函数代码解读.mp4 24.89M
| ├──06 Transformer的训练代码解读.mp4 25.30M
| └──07 Transformer的推理与权重保存代码解读.mp4 50.63M