学习资料模块
本模块收集高质量的学习资源。
目录结构
9-学习资料/
├── README.md # 本文件
├── 课程/
├── 书籍/
├── 论文/
└── GitHub/课程推荐
免费课程
| 课程 | 难度 | 时效性 | 推荐度 | 链接 |
|---|---|---|---|---|
| Stanford CS229 | ★★★ | 经典 | ★★★★★ | B站有翻译 |
| Stanford CS224N | ★★★★ | 2024 | ★★★★★ | B站有翻译 |
| Stanford CS231N | ★★★★ | 2024 | ★★★★★ | B站有翻译 |
| DeepLearning.AI | ★★★ | 经典 | ★★★★ | coursera |
| 黄广海深度学习 | ★★★★ | 2024 | ★★★★★ | 知乎/B站 |
付费课程
| 课程 | 难度 | 推荐度 | 适用人群 |
|---|---|---|---|
| 贪心学院LLM | ★★★★ | ★★★★ | LLM应用 |
| 七月在线LLM | ★★★★ | ★★★★ | LLM应用 |
| 门徒AI | ★★★★ | ★★★★ | 算法岗 |
书籍推荐
必读
★★★★★ 必读
1. 《动手学深度学习》D2L - PyTorch版 - 入门圣经
2. 《深度学习》花书 - 理论经典
3. 《Pattern Recognition and Machine Learning》- ML理论
★★★★ 选读
4. 《神经网络与深度学习》邱锡鹏 - 中文DL理论
5. 《Hands-On Machine Learning》- 工程实践
6. 《Deep Learning for NLP》- NLP专项书籍难度对比
入门:
→ D2L(最简单,边学边代码)
→ Hands-On ML(偏工程)
进阶:
→ 花书(理论深)
→ PRML(理论更深)
专项:
→ 邱锡鹏(中文DL理论好)
→ Speech and Language Processing(NLP)论文清单
深度学习基础(必读)
★★★★★ 面试必须能聊
1. Attention Is All You Need - Transformer
2. ResNet - 残差连接
3. Batch Normalization - 训练稳定性
4. Adam - 优化器
5. Dropout - 正则化LLM必读
★★★★★ 核心
1. GPT-3 - LLM scaling
2. InstructGPT - RLHF
3. LLaMA - 开源基础
4. LoRA - 高效微调
5. Flash Attention - 注意力优化
★★★★ 进阶
6. RLHF/DPO - 对齐技术
7. RAG - 检索增强
8. Claude's Constitutional AI - 对齐前沿论文
按需阅读:
- ViT/Swin - 视觉Transformer
- Diffusion - 生成模型
- AlphaFold - 科学应用
- GPT-4 - 多模态GitHub资源
优质仓库
学习:
stanford-cs329s - ML系统设计
papers-with-code - 论文+代码
d2l-en - D2L教材
best-of-ml - ML资源汇总
LLM:
transformers - 模型库
vllm - 推理框架
langchain - 应用框架
peft - 微调工具
工具:
imarkdown - 笔记
wandb - 实验管理
tensorboard - 可视化学习技巧
论文阅读方法
1. 先读摘要和结论(5分钟)
→ 确定是否值得读
2. 读引言和图(10分钟)
→ 了解动机和贡献
3. 读方法(20分钟)
→ 理解核心算法
4. 读实验(15分钟)
→ 了解效果和tricks
5. 复现代码(2-4小时)
→ 真正理解视频学习建议
✓ 1.5x - 2x倍速播放
✓ 边看边做笔记
✓ 看完立刻代码实践
✗ 不要只看不动手