Skip to content

L3深度学习 ​

周期:7–9 周 · 前置要求:L2

从这一阶段开始,你处理的不再是「一行一个样本的表格」,而是图像、文本、语音这些高维、有结构的数据。

这一阶段要解决什么 ​

问题对应章节
神经网络到底在算什么,为什么要「深度」神经网络
训练不收敛、loss 变 nan、过拟合怎么办训练与调参
图像任务怎么做CNN
文本/序列任务怎么做序列建模
为什么 Transformer 统一了所有领域Transformer
工程代码怎么写才不出错PyTorch 工程习惯

学习顺序(重要) ​

神经网络基础(2周)
   ↓
训练技巧(1周)        ← 很多人跳过这步,然后在后面所有项目里反复翻车
   ↓
CNN(1.5周)
   ↓
序列与注意力(1周)
   ↓
Transformer(2周)     ← 本阶段的核心,也是 L4 的入口
   ↓
PyTorch 工程习惯(贯穿全程)

不要跳过训练技巧

90% 的「模型效果不好」不是架构问题,是:学习率不对、没做归一化、batch 太小、没 shuffle、数据有 bug。 先把训练流程调对,再谈换模型。

通过标准 ​

里程碑项目(两个) ​

项目一:图像分类 ​

项要求
数据CIFAR-10 或自定义小数据集
模型至少两个:自写 CNN + 迁移学习(ResNet18)
指标自写 CNN ≥ 75%;迁移学习 ≥ 92%
必做分析混淆矩阵、错分样本可视化、数据增强的消融对比
交付代码 + 训练曲线 + 300 字结论

项目二:文本分类 ​

项要求
数据影评/新闻/工单等任意中文文本分类集
模型至少两个:TextCNN(或 BiLSTM)+ 预训练模型微调
指标报告 macro-F1,不只看准确率
必做分析类别失衡处理、错误样本分析、为何预训练模型更好
交付代码 + 报告

这两个项目为什么有价值

面试官问「你做过深度学习项目吗」,能答出「我对比了自写 CNN 与迁移学习,差 17 个点,因为数据量只有 5 万,预训练的特征先验起决定作用」——这比「我跑过 ResNet」高一个层次。

常见卡点 ​

卡点真相
「没显卡学不了」Colab 免费 T4 足够跑完本章所有项目
「框架太多」只学 PyTorch。TensorFlow 用到再学
「公式看不懂」先看形状,再看公式。(B,T,C) 想清楚了公式自然清楚
「效果不如教程」教程数据是调过的。差距通常来自数据处理与超参,不是玄学
「一上来就想微调大模型」没有 L3 的训练直觉,微调只会变成盲目试错

下一步 ​

→ 神经网络:从一次前向传播讲起

AI 学习路线 · 从入门到专家