如果现在重新学深度学习,我反而会更重视这种「能把经典论文拆开跑一遍」的资源。
有人把 Ilya Sutskever 推荐过的 30 篇经典论文,全部做成了可运行的教学实现,而且尽量只用 NumPy,不依赖 PyTorch / TensorFlow 这类框架。
这点很重要,因为框架太强以后,很多细节会被封装掉。你知道怎么调用 attention、怎么 import 一个 ResNet,但未必真的理解梯度怎么流、信息怎么传、记忆怎么写入、模型为什么会稳定训练。
这个仓库覆盖的范围也很完整:RNN、LSTM、AlexNet、ResNet、Attention、GNN、VAE、Neural Turing Machine、Scaling Laws、RAG、Lost in the Middle,基本是一条从早期深度学习到现代大模型的技术脉络。
它的价值在于,把「经典论文阅读清单」变成了「可以动手拆开的学习路径」。
读论文容易停在概念层面,跑一遍实现,才会真正知道每个模块在系统里承担什么角色。
AI 时代很多人直接从调用大模型开始学,但底层直觉依然很值钱。
知道模型为什么能工作,可能比只会用模型更抗周期。
顯示更多