L3深度学习
周期:7–9 周 · 前置要求:L2
从这一阶段开始,你处理的不再是「一行一个样本的表格」,而是图像、文本、语音这些高维、有结构的数据。
这一阶段要解决什么
| 问题 | 对应章节 |
|---|---|
| 神经网络到底在算什么,为什么要「深度」 | 神经网络 |
| 训练不收敛、loss 变 nan、过拟合怎么办 | 训练与调参 |
| 图像任务怎么做 | CNN |
| 文本/序列任务怎么做 | 序列建模 |
| 为什么 Transformer 统一了所有领域 | Transformer |
| 工程代码怎么写才不出错 | PyTorch 工程习惯 |
学习顺序(重要)
神经网络基础(2周)
↓
训练技巧(1周) ← 很多人跳过这步,然后在后面所有项目里反复翻车
↓
CNN(1.5周)
↓
序列与注意力(1周)
↓
Transformer(2周) ← 本阶段的核心,也是 L4 的入口
↓
PyTorch 工程习惯(贯穿全程)不要跳过训练技巧
90% 的「模型效果不好」不是架构问题,是:学习率不对、没做归一化、batch 太小、没 shuffle、数据有 bug。 先把训练流程调对,再谈换模型。
通过标准
里程碑项目(两个)
项目一:图像分类
| 项 | 要求 |
|---|---|
| 数据 | CIFAR-10 或自定义小数据集 |
| 模型 | 至少两个:自写 CNN + 迁移学习(ResNet18) |
| 指标 | 自写 CNN ≥ 75%;迁移学习 ≥ 92% |
| 必做分析 | 混淆矩阵、错分样本可视化、数据增强的消融对比 |
| 交付 | 代码 + 训练曲线 + 300 字结论 |
项目二:文本分类
| 项 | 要求 |
|---|---|
| 数据 | 影评/新闻/工单等任意中文文本分类集 |
| 模型 | 至少两个:TextCNN(或 BiLSTM)+ 预训练模型微调 |
| 指标 | 报告 macro-F1,不只看准确率 |
| 必做分析 | 类别失衡处理、错误样本分析、为何预训练模型更好 |
| 交付 | 代码 + 报告 |
这两个项目为什么有价值
面试官问「你做过深度学习项目吗」,能答出「我对比了自写 CNN 与迁移学习,差 17 个点,因为数据量只有 5 万,预训练的特征先验起决定作用」——这比「我跑过 ResNet」高一个层次。
常见卡点
| 卡点 | 真相 |
|---|---|
| 「没显卡学不了」 | Colab 免费 T4 足够跑完本章所有项目 |
| 「框架太多」 | 只学 PyTorch。TensorFlow 用到再学 |
| 「公式看不懂」 | 先看形状,再看公式。(B,T,C) 想清楚了公式自然清楚 |
| 「效果不如教程」 | 教程数据是调过的。差距通常来自数据处理与超参,不是玄学 |
| 「一上来就想微调大模型」 | 没有 L3 的训练直觉,微调只会变成盲目试错 |