L4大模型与生成式 AI

周期：7–9 周 · 前置要求：L3 深度学习（尤其 Transformer）

这一阶段是当前岗位需求最集中的一段。核心不是「训练一个大模型」，而是 用好、改好、评好一个现成的大模型。

一个现实前提

你可能想做的	现实
从头预训练一个 GPT	需要数千万美元 + 数十人团队。个人不做
全参数微调 70B	需要多卡 A100/H100。部分团队做
微调 7B / LoRA	单卡 24GB 可做。推荐重点
Prompt + RAG + Agent	零训练成本，效果显著。必须精通

定位建议

训练能力决定你的天花板，应用能力决定你的就业面。 本阶段请两条腿走：既会 LoRA 微调，也会把 RAG/Agent 做到能上线。

学习清单

顺序	章节	时长	核心收获
1	大模型原理	1.5 周	token、预训练、缩放律、涌现、上下文窗口
2	Prompt 工程	1 周	结构化提示、少样本、CoT、结构化输出、防注入
3	微调	2 周	SFT 数据构造、LoRA/QLoRA、训练与合并
4	对齐与评测	1.5 周	RLHF/DPO 原理、基准选择、LLM-as-Judge
5	多模态	1 周	VLM 结构、语音、图像生成的工程用法
6	推理优化	1.5 周	量化、KV Cache、vLLM、成本核算

一个必须先建立的判断：什么时候不用微调

需求	首选方案	为什么
让模型知道我的私有知识	RAG	知识会变，微调不能实时更新
让模型按我的格式输出	Prompt / 结构化输出	零成本，改起来快
让模型学会一种风格/口吻	微调（LoRA）	这是「行为」而非「知识」
提升某个窄任务的准确率	微调 或 少样本	先试少样本，30 条示例常够
让模型会调用我的工具	Agent + 函数调用	不需要训练
降低延迟/成本	小模型 + 蒸馏 / 量化	微调不解决成本

最常见的错配

用微调塞知识。 结果：模型学会了「用那种口吻编造答案」，比不微调更糟。 知识 → RAG；行为 → 微调。这条要刻在脑子里。

通过标准

• 能说清 tokenizer、embedding、next-token 预测、上下文窗口的关系
• 能设计一个稳定产出 JSON 的提示模板，并在 100 条测试上验证成功率
• 能用 LoRA 微调一个 7B 模型（单卡或 Colab），并给出「比 Prompt 好在哪」的量化对比
• 能解释 RLHF 与 DPO 的区别、以及为什么 DPO 更常用
• 能部署一个量化模型并用 vLLM 压测出 QPS 与单次成本

里程碑项目

二选一（有精力可都做）：

A. 行业助手微调

项	要求
基座	Qwen2.5-7B / Llama-3.1-8B 等开源模型
数据	自建 500–2000 条 SFT 数据（指令-回答对）
方法	QLoRA（4bit）
评测	同一测试集上：Prompt-only vs 微调后，人工/LLM 双评
交付	数据构造说明 + 训练配置 + 对比报告 + 失败案例分析

B. 高可靠结构化输出

项	要求
任务	从非结构化文本抽取指定字段（如合同要素/工单分类）
方案	至少三种：纯 Prompt、Prompt + JSON Schema 约束、微调小模型
指标	字段级准确率、格式合法率、平均延迟、单次成本
交付	对比矩阵 + 推荐方案 + 成本测算

常见卡点

卡点	真相
「显存不够微调」	QLoRA 4bit 在 24GB 卡上可微调 7B；Colab 也可
「效果不如 GPT-4」	正常。目标是「在你的窄任务上够用且便宜 10 倍」
「微调后变笨了」	典型灾难性遗忘 + 数据质量差，见 微调
「跑分很高但用户不满意」	基准与真实场景不匹配，见 评测
「推理太慢太贵」	没做量化/批处理/缓存，见 推理优化

下一步

→ 大模型原理：从 token 到涌现能力