进阶篇—现代网络

全连接网络虽然通用,但在处理图像、文本等高维且具有结构特征的数据时显得力不从心。现代深度学习的爆发,源于我们学会了将数据的“归纳偏置”(Inductive Bias)注入到网络结构设计之中。

本部分将带领读者进入现代架构的殿堂。我们将看到卷积(Convolution)如何利用空间的局部性与平移不变性来理解图像,循环(Recurrent)如何利用时间的序列性来理解语言,以及注意力机制(Attention)如何打破时空限制,利用全局关联重构了我们对序列建模的认知。

学习路径: