引言：真正的山#

上篇：练习峰 中我们登顶了练习峰。MNIST 教会了我们攀登的基础——赤手空拳走不远，把山的结构刻进装备里（归纳偏置），然后打包行囊、遵守纪律、完成首登。

但 MNIST 是 28×28 的灰度手写数字。10 个类别。70,000 张图。

现实世界的山比这大 1,000 倍。

ImageNet——140 万张彩色照片，1,000 个类别。狗、猫、汽车、人脸、日落、显微镜下的细胞。这座山在 2012 年之前从未有人登顶。传统计算机视觉方法（SIFT + 特征编码 + SVM）的错误率卡在 28%，五年没有实质进步。人类水平大约是 5%。28% 到 5% 之间的鸿沟，没人知道怎么跨越。

然后 AlexNet 出现了。然后一切都不一样了。

本章要回答的核心问题：练习峰上的技巧，在真正的山上还管用吗？如果不——需要发明什么新装备？

八年的路：从炮火到精算#

        graph TD
    A["⑧ 🟠 AlexNet<br/>首登 ImageNet！<br/>错误率：28%→15%"] --> B["⑨ Inception<br/>多尺度：一种冰镐不够"]
    B --> C["⑩ ResNet<br/>高原反应：补给站"]
    C --> D["⑪ SE-Net<br/>学会聚焦：通道注意力"]
    D --> E["⑫ CBAM<br/>双重视角：通道+空间"]
    E --> F["⑬ MobileNet<br/>极致省钱"]
    F --> G["⑭ EfficientNet<br/>精打细算"]
    G --> H["⑮ 八年回顾<br/>指向架构心法"]

    style A fill:#FF6F00,color:#fff
    style H fill:#1565C0,color:#fff

2012 到 2019。八年的故事，一句话概括：

  • AlexNet 的第一声炮响：深度学习不是玩具。真山，可以爬。

  • Inception 发现新问题：练习峰上一种冰镐够了。真山上——有的岩壁是裂缝（细粒度），有的是悬崖（全局结构）。一种工具，打不了所有的地形。

  • ResNet 遇到致命瓶颈：想爬得更高，就得建更深的补给线。但越往上空气越稀薄——56 层网络不如 20 层。高原反应。 跳跃连接就是在关键海拔建补给站。

  • 注意力机制 教会网络聚焦：人类攀登时自然知道看重点。CNN 却对所有特征一视同仁——无论"狗耳朵"还是"背景噪声"，权重一样。SE-Net 和 CBAM 装上了"可学习的放大镜"。

  • MobileNet 和 EfficientNet 回答终极问题：预算有限。深度可分离卷积把参数砍到 1/9——一个人一把冰镐也能爬。复合缩放学会按比例花钱——每一分钱花在刀刃上。

登山下篇目标

完成登山下篇后，你将能够：

  1. 理解 AlexNet 的革命：ReLU、Dropout、GPU 并行——首登 ImageNet 的四个关键设计

  2. 掌握多尺度设计：Inception 如何让网络同时拥有多个感受野

  3. 诊断高原反应：为什么更深反而更差？ResNet 的跳跃连接如何解决

  4. 学会聚焦：SE-Net 通道注意力 + CBAM 空间注意力——让网络"看重点"

  5. 掌握预算权衡：MobileNet 的极致省钱 vs EfficientNet 的精打细算

出发#

练习峰教会了你怎么爬。

登山下篇教会你在真正的山上怎么活。

AlexNet：真正的未登峰，首登！——2012 年，炮声响了。

前置提醒

登山下篇建立在 上篇：练习峰 的基础上。建议确认已理解：

贡献者与修订历史

查看详细修订记录
  • dc35df2 2026-06-14 - Heyan Zhu: refactor: unify into two-chapter mountain-climbing narrative