学习资源库
只列真正值得花时间的。 每项标注：难度、前置要求、适合哪个阶段。
一条使用原则
一个阶段只用一份主教材。 其余的当参考书，遇到问题再查。 收藏 40 门课 = 一门都学不完。
一、课程（按阶段）
| 阶段 | 资源 | 说明 | 难度 |
|---|---|---|---|
| L0 | 《Python 官方教程》（中文版） | 够用即可，别通读 | ★ |
| L0 | Google Colab 官方入门 | 5 分钟上手云端 GPU | ★ |
| L1 | 3Blue1Brown《线性代数的本质》 | 建立直觉，3 天看完，强烈推荐 | ★★ |
| L1 | 3Blue1Brown《微积分的本质》 | 同上 | ★★ |
| L1 | 《利用 Python 进行数据分析》（Wes McKinney） | Pandas 作者写的，权威 | ★★ |
| L2 | 吴恩达《Machine Learning Specialization》 | 入门最稳，配套作业扎实 | ★★ |
| L2 | StatQuest（YouTube） | 每个算法 5 分钟讲清直觉 | ★ |
| L2 | 《Hands-On Machine Learning》（Géron） | 第二版后的 scikit-learn/Keras 部分极实用 | ★★★ |
| L3 | 《动手学深度学习》（李沐，d2l.ai） | 中文最佳，代码与理论并重 | ★★★ |
| L3 | 李沐《论文精读》系列（B 站） | 学会怎么读论文，顺便学表达 | ★★ |
| L3 | CS231n（斯坦福，视觉） | CNN 讲得最透 | ★★★ |
| L3 | Karpathy《Neural Networks: Zero to Hero》 | 从零写反向传播/Transformer，必看 | ★★★ |
| L4 | Karpathy nanoGPT / minbpe / llm.c | 手写 GPT 全链路 | ★★★ |
| L4 | Hugging Face NLP / LLM Course | 工程落地标准做法 | ★★ |
| L4 | 《Attention Is All You Need》原文 + 精读视频 | 反复读三遍 | ★★★ |
| L4 | TRL / PEFT 官方文档 | 微调实操 | ★★ |
| L5 | vLLM 官方文档 | 部署与调优 | ★★★ |
| L5 | LangChain / LlamaIndex（选一个读文档） | 建立工程范式认知，不要依赖 | ★★ |
| L6 | DeepSpeed / Megatron-LM 文档 | 规模化训练 | ★★★★ |
| L6 | 各方向顶会 tutorial | 系统补课 | ★★★★ |
二、书
| 书 | 适合 | 备注 |
|---|---|---|
| 《深度学习》（花书） | 参考 | 不适合入门，当字典查 |
| 《动手学深度学习》 | L3 主教材 | 免费在线，代码可跑 |
| 《机器学习》（西瓜书） | L2 补充 | 公式多，配视频看 |
| 《统计学习方法》（李航） | L2 强化 | 传统 ML 理论最清晰 |
| 《Pattern Recognition and Machine Learning》 | 理论深入 | 难度高，选读 |
| 《Designing Machine Learning Systems》（Chip Huyen） | L5 必读 | 讲系统与生产，稀缺 |
| 《AI Engineering》（Chip Huyen） | L5 | LLM 应用工程视角 |
| 《Build a Large Language Model (From Scratch)》 | L4 | 从零实现 GPT |
三、必读论文（按顺序）
| 顺序 | 论文 | 为什么读 |
|---|---|---|
| 1 | Attention Is All You Need (2017) | 一切的地基 |
| 2 | BERT (2018) | 预训练范式 |
| 3 | GPT-3: Language Models are Few-Shot Learners (2020) | 上下文学习、缩放 |
| 4 | Scaling Laws for Neural Language Models (2020) | 为什么越大越强 |
| 5 | Training Compute-Optimal LLMs / Chinchilla (2022) | 数据与参数配比 |
| 6 | LoRA (2021) | 微调基石 |
| 7 | QLoRA (2023) | 单卡微调 7B |
| 8 | InstructGPT / RLHF (2022) | 对齐三阶段 |
| 9 | DPO (2023) | 现代对齐主流 |
| 10 | Chain-of-Thought (2022) | 推理提示 |
| 11 | RAG (2020, Lewis et al.) | 检索增强起点 |
| 12 | ReAct (2022) | Agent 范式 |
| 13 | FlashAttention (2022) | 注意力工程优化 |
| 14 | vLLM / PagedAttention (2023) | 推理服务 |
| 15 | LLaMA / LLaMA 2/3 | 开源模型设计取舍 |
| 16 | Mixtral / DeepSeek-MoE | MoE 实践 |
| 17 | Survey: Retrieval-Augmented Generation for LLMs | 系统性综述 |
| 18 | Survey: LLM Agents | Agent 全景 |
四、工具清单
基础
| 类别 | 工具 |
|---|---|
| 环境 | Miniconda、uv（更快）、Docker |
| 交互 | JupyterLab、VS Code + Jupyter 插件 |
| 版本 | git、DVC（数据版本） |
建模
| 类别 | 工具 |
|---|---|
| 传统 ML | scikit-learn、XGBoost、LightGBM、CatBoost |
| 深度学习 | PyTorch（只学这个） |
| 训练框架 | Hugging Face Transformers、Accelerate、TRL、PEFT |
| 分布式 | DeepSpeed、FSDP、Megatron-LM |
| 实验管理 | W&B、MLflow、TensorBoard |
数据
| 类别 | 工具 |
|---|---|
| 处理 | Pandas、Polars（大数据更快）、DuckDB |
| 可视化 | Matplotlib、Seaborn、Plotly |
| 标注 | Label Studio、Argilla |
| 文档解析 | PyMuPDF、Unstructured、docling |
应用与部署
| 类别 | 工具 |
|---|---|
| 向量库 | FAISS（本地）、Qdrant、Milvus、pgvector |
| 检索 | BM25（rank_bm25）、bge-m3、bge-reranker |
| 推理服务 | vLLM、SGLang、TGI、llama.cpp（端侧） |
| 编排 | LangGraph、LlamaIndex、DSPy（按需） |
| 服务 | FastAPI + Uvicorn、Redis（缓存）、Nginx |
| 可观测 | Langfuse、Phoenix、自建 trace |
评测
| 类别 | 工具 |
|---|---|
| LLM 评测 | 自建评测集（首选）、promptfoo、DeepEval |
| RAG 评测 | RAGAS |
| 基准 | lm-evaluation-harness |
五、数据集与练习场
| 平台 | 用途 |
|---|---|
| Kaggle | 表格赛、数据集、免费 GPU（每周 30 小时） |
| Hugging Face Datasets | 一切 NLP/视觉数据集 |
| Google Colab | 免费 T4 |
| ModelScope（魔搭） | 国内模型与数据集，下载快 |
| Papers with Code | 找论文的官方实现 |
| Tianchi / DataFountain | 国内赛题，业务场景真实 |
六、社区与信息源
| 类型 | 推荐 |
|---|---|
| 论文 | arXiv cs.CL / cs.CV / cs.LG；Papers with Code |
| 中文 | 李沐 B 站、机器之心、量子位（了解动态） |
| 英文 | Hugging Face Blog、Sebastian Raschka 的 newsletter、Lilian Weng 博客 |
| 讨论 | HF Discord、Reddit r/MachineLearning |
| 开源 | GitHub trending、各模型官方 repo |
信息摄入要有配额
每天刷 AI 新闻 2 小时 = 一年 700 小时，足够你从 L0 学到 L4。 建议：每周固定 1 小时看动态，其余时间只做清单内的事。
七、硬件与预算
| 需求 | 方案 | 大致成本 |
|---|---|---|
| L0–L2 | 笔记本 CPU / Colab | 0 |
| L3 | Colab T4 / 本地 8GB 显卡 | 0–3000 元 |
| L4 微调 | 租 4090（24GB）按小时 | 2–5 元/小时 |
| L5 部署 | 轻量云服务器 + API | 50–200 元/月 |
| L6 训练 | 多卡 A100/H100 按需 | 按小时，谨慎规划 |
学习阶段总投入建议控制在 2000 元以内（主要是租卡与 API）。真正需要大算力时，你已经能算出投入产出比了。