Skip to content

学习资料模块

本模块收集高质量的学习资源。

目录结构

9-学习资料/
├── README.md            # 本文件
├── 课程/
├── 书籍/
├── 论文/
└── GitHub/

课程推荐

免费课程

课程难度时效性推荐度链接
Stanford CS229★★★经典★★★★★B站有翻译
Stanford CS224N★★★★2024★★★★★B站有翻译
Stanford CS231N★★★★2024★★★★★B站有翻译
DeepLearning.AI★★★经典★★★★coursera
黄广海深度学习★★★★2024★★★★★知乎/B站

付费课程

课程难度推荐度适用人群
贪心学院LLM★★★★★★★★LLM应用
七月在线LLM★★★★★★★★LLM应用
门徒AI★★★★★★★★算法岗

书籍推荐

必读

★★★★★ 必读
1. 《动手学深度学习》D2L - PyTorch版 - 入门圣经
2. 《深度学习》花书 - 理论经典
3. 《Pattern Recognition and Machine Learning》- ML理论

★★★★ 选读
4. 《神经网络与深度学习》邱锡鹏 - 中文DL理论
5. 《Hands-On Machine Learning》- 工程实践
6. 《Deep Learning for NLP》- NLP专项

书籍难度对比

入门:
  → D2L(最简单,边学边代码)
  → Hands-On ML(偏工程)

进阶:
  → 花书(理论深)
  → PRML(理论更深)

专项:
  → 邱锡鹏(中文DL理论好)
  → Speech and Language Processing(NLP)

论文清单

深度学习基础(必读)

★★★★★ 面试必须能聊
1. Attention Is All You Need - Transformer
2. ResNet - 残差连接
3. Batch Normalization - 训练稳定性
4. Adam - 优化器
5. Dropout - 正则化

LLM必读

★★★★★ 核心
1. GPT-3 - LLM scaling
2. InstructGPT - RLHF
3. LLaMA - 开源基础
4. LoRA - 高效微调
5. Flash Attention - 注意力优化

★★★★ 进阶
6. RLHF/DPO - 对齐技术
7. RAG - 检索增强
8. Claude's Constitutional AI - 对齐

前沿论文

按需阅读:
- ViT/Swin - 视觉Transformer
- Diffusion - 生成模型
- AlphaFold - 科学应用
- GPT-4 - 多模态

GitHub资源

优质仓库

学习:
  stanford-cs329s - ML系统设计
  papers-with-code - 论文+代码
  d2l-en - D2L教材
  best-of-ml - ML资源汇总

LLM:
  transformers - 模型库
  vllm - 推理框架
  langchain - 应用框架
  peft - 微调工具

工具:
  imarkdown - 笔记
  wandb - 实验管理
  tensorboard - 可视化

学习技巧

论文阅读方法

1. 先读摘要和结论(5分钟)
   → 确定是否值得读

2. 读引言和图(10分钟)
   → 了解动机和贡献

3. 读方法(20分钟)
   → 理解核心算法

4. 读实验(15分钟)
   → 了解效果和tricks

5. 复现代码(2-4小时)
   → 真正理解

视频学习建议

✓ 1.5x - 2x倍速播放
✓ 边看边做笔记
✓ 看完立刻代码实践
✗ 不要只看不动手