迁移学习与微调：站在巨人的肩膀上

如果你的数据集只有 100 张图片，能达到别人用 10,000 张图片训练出的效果吗？迁移学习（Transfer Learning） 就是这个答案——站在巨人的肩膀上，借用别人已经学到的知识来解决你的问题。

本章概览

章节	内容	与前面章节的联系
导论与核心思想	迁移学习的核心动机与形式化定义	为什么要迁移？
迁移学习分类体系	从情境和方法两个维度的分类体系	有哪些迁移方式？
基于模型的迁移	特征提取、微调、分层学习率等核心技术	优化器：用梯度更新参数 的高级应用
实操指南	实操指南与常见问题解决方案	工程实践技巧
结语：站在巨人的肩膀上	总结与展望	知识体系梳理

学习路径

本章是 PyTorch 实践：把理论变成代码 中技能的高级应用：

        graph LR
    A[预训练模型<br/>已学知识] --> B[迁移学习<br/>复用知识]
    B --> C[特征提取<br/>冻结骨干]
    B --> D[微调<br/>适配任务]
    C --> E[小数据<br/>大效果]
    D --> E
    

核心认知：迁移学习不是新技术，而是前面所有知识的综合运用——你仍然在使用相同的 PyTorch API，只是站在了巨人的肩膀上。

前置知识

前置章节	本章应用
神经网络模块：搭建计算图	加载预训练模型、替换分类头
优化器：用梯度更新参数	分层学习率、参数冻结
完整训练流程	完整训练流程、早停机制
训练基础：登山纪律	过拟合诊断、正则化策略
卷积：发现装备	归纳偏置 与预训练权重的关系
架构心法：从会用装备到会设计装备	微调中的架构改造——何时解冻、何时加模块

贡献者与修订历史

查看详细修订记录

• dc35df2 2026-06-14 - Heyan Zhu: refactor: unify into two-chapter mountain-climbing narrative
• f1c39fd 2026-05-11 - Heyan Zhu: docs: deduplicate index & introduction; fix the latex export problem on index content structures
• 2dc78ed 2026-05-09 - Heyan Zhu: fix: address latex errors when building pdf
• f159d56 2026-05-08 - Heyan Zhu: fix: address complaints from the linter
• 15d1b15 2026-05-03 - Heyan Zhu: docs(model-architecture-design): add new chapter on CNN architecture design methodology
• bba351e 2026-04-29 - Heyan Zhu: docs: update chapter summaries and learning paths for consistency
• b5be2d6 2026-04-28 - Heyan Zhu: docs: update documentation and improve content organization
• b7ed915 2026-02-28 - Heyan Zhu: docs: add transfer learning