技术栈模块
本模块介绍工业界常用的AI技术栈。
目录结构
7-技术栈/
├── README.md # 本文件
├── PyTorch/ # 深度学习框架
├── HuggingFace/ # 模型库生态
├── LangChain/ # LLM应用框架
├── vLLM/ # 推理框架
├── Docker/ # 容器化
└── FastAPI/ # API开发学习优先级
★★★★★ 必须精通
1. PyTorch - 深度学习框架基础
2. HuggingFace Transformers - 模型调用
3. Git - 版本控制
4. Docker - 容器化
5. Linux - 服务器操作
6. FastAPI - API开发
7. Redis - 缓存
★★★★ 重要
8. LangChain/LlamaIndex - LLM应用
9. PEFT - 模型微调
10. vLLM - 推理框架
11. Milvus - 向量数据库
12. DeepSpeed - 分布式训练
★★★ 加分项
13. CUDA/Triton - 推理优化
14. Kubernetes - 云原生
15. Kafka - 消息队列企业真实使用场景
场景1: AI应用公司(智能客服/文档处理)
技术栈: FastAPI + LangChain + Redis + Milvus + Docker
典型工作:
- RAG系统开发
- Prompt优化
- Agent编排
- API开发场景2: AI Infra公司(推理平台)
技术栈: CUDA + TensorRT + vLLM + Kubernetes
典型工作:
- 推理性能优化
- 模型量化
- GPU调度
- 模型服务化场景3: 算法公司(内容审核/推荐)
技术栈: PyTorch + timm + DeepSpeed + W&B
典型工作:
- 模型训练
- 调参优化
- 实验管理
- 模型部署快速上手路线
第一周: Python工程化
→ FastAPI + Redis + Docker
第二周: 深度学习框架
→ PyTorch + timm
第三周: LLM应用
→ HuggingFace + LangChain + RAG
第四周: 模型微调与部署
→ PEFT + DeepSpeed + vLLM工具速查
python
# 深度学习
import torch
from transformers import AutoModel, AutoTokenizer
import pytorch_lightning as pl
# LLM应用
from langchain.chains import LLMChain
from langchain.vectorstores import Milvus
from langchain.embeddings import HuggingFaceEmbeddings
# 实验管理
import wandb
from tensorboard import SummaryWriter
# API
from fastapi import FastAPI
import redis
# 部署
# docker build -t myapp:latest .
# docker run -p 8000:8000 myapp:latest