登山者笔记：四件装备，三十年#

两座山。四次冲顶。三十年的路。

从全连接：赤手空拳的赤手空拳，到 EfficientNet：每一分钱，花在刀刃上的复合缩放——你翻越了从 1989 到 2019 的整个卷积神经网络演化史。

但翻完了，然后呢？坐下来，趁热写下笔记。

四件装备#

诊断入门：信息论听诊器中我们问过：面对一座全新的山，你该怎么选装备？翻完两座山之后，答案不再是一堆零散的技术名称，而是四个维度，四件装备：

装备	核心问题	就像登山	关键策略
感受野	看多大范围？	望远镜——看裂缝还是看山脊？	多尺度、空洞卷积、FPN
深度连接	信息怎么传？	补给线——高海拔还能呼吸吗？	跳跃连接、密集连接、特征融合
注意力	重点看哪？	聚焦——盯裂缝，忽略光滑岩面	通道注意力、空间注意力、长程依赖
效率	怎么省力气？	背包——哪些装备可以不带？	DW 卷积、Bottleneck、复合缩放

归纳偏置告诉我们：好的先验比暴力学习更高效。这四件装备教会我们另一件事：好的设计，是把山的形状刻进每一件装备里。

叙事弧线：一座山，三十年#

        graph LR
    A["🏕️ 1989<br/>全连接<br/>赤手空拳出发<br/>20万参数，走不远"]
    B["🧗 1998<br/>CNN + LeNet<br/>发现装备<br/>练习峰首登"]
    C["🔥 2012<br/>AlexNet<br/>真正的山<br/>错误率砍半"]
    D["🔭 2014<br/>Inception<br/>一种冰镐不够<br/>多尺度工具"]
    E["🪜 2015<br/>ResNet<br/>高原反应<br/>补给站"]
    F["🎯 2018<br/>注意力<br/>学会聚焦<br/>通道+空间"]
    G["💰 2017-2019<br/>MobileNet/EfficientNet<br/>预算有限<br/>系统花钱"]

    A -->|"参数爆炸"| B
    B -->|"换山"| C
    C -->|"固定感受野"| D
    D -->|"越深越差"| E
    E -->|"一视同仁"| F
    F -->|"效率问题"| G

    style C fill:#FF6F00,color:#fff
    style G fill:#1565C0,color:#fff

每一个箭头背后，都是一次"爬不上去"时的回应——也是一件新装备的诞生。

登山装备演化史#

把三十年摊开，每件装备解决了一个问题，也暴露了下一个。右边一列，标注了每件装备主攻的维度：

年份	装备	核心创新	解决了什么	暴露了什么	主攻维度
1989	LeNet	卷积+池化+全连接	证明端到端学习可行	只在 MNIST 上有效	感受野
2012	AlexNet	ReLU+Dropout+GPU	ImageNet 首登	大卷积核浪费参数	效率
2014	Inception	多分支并行	多尺度感受野	单分支信息瓶颈	感受野
2015	ResNet	跳跃连接	高原反应（梯度消失）	对所有特征一视同仁	深度连接
2018	SE-Net/CBAM	通道/空间注意力	学会聚焦	注意力 ≠ 效率	注意力
2017	MobileNet	深度可分离卷积	极致省钱	没有系统性缩放策略	效率
2019	EfficientNet	复合缩放	预算的最优分配	缩放需要搜索，没有解析解	效率

每一条记录，都是一个维度的突破。 伟大的架构（ResNet、EfficientNet）往往同时在多个维度上推动帕累托边界。

关键数字：策略性价比#

四件装备不是免费午餐。每件都有自己的代价：

改造策略对比#

策略	效果提升	效率影响	实施难度	对应维度
多尺度并行（Inception）	+3-5%	中等增加	中等	感受野
空洞卷积	感受野扩大不增参	几乎零影响	低	感受野
FPN	+5-8%（检测）	中等增加	高	感受野
跳跃连接	使深层可能（质变）	零影响	低	深度连接
SE 注意力	+1-2%	增加 <3% 参数量	低	注意力
DW 卷积	-1% 精度	减少 5-10× 计算量	低	效率

帕累托边界上的里程碑#

模型	年份	核心贡献	推动边界的维度
Inception	2014	多尺度 + 1×1 降维	感受野 + 效率
ResNet	2015	跳跃连接	深度连接
MobileNet	2017	DW 卷积	效率
SE-Net	2018	通道注意力	注意力
EfficientNet	2019	复合缩放	效率（系统性）
ConvNeXt	2022	现代化 CNN	四维度精细优化

登山者关于规模的发现#

翻越了足够多的山之后，一些规律浮现出来。

更大的团队，更细的分工，更深的补给线#

观察	规律	山上的含义
更大的团队	参数量 ↑ → 成功率 ↑（但有边际递减）	人多覆盖面广，但协调成本也上升
更细的分工	通道数 ↑ → 每种模式有专人负责	有人专攻裂缝，有人专攻悬岩
更深的补给线	层数 ↑ → 但高原反应也 ↑	跳跃连接就是在关键海拔建补给站
更精细的地图	分辨率 ↑ → 能看到更小的冰裂缝	但也意味着每一步的计算量都更大

收益递减是山本身的形状#

模型	年份	参数	ImageNet Top-1	边际收益
AlexNet	2012	60M	~63%	—
VGG-16	2014	138M	71.6%	+8.6%
Inception V1	2014	7M	69.8%	更小但差不多
ResNet-50	2015	25M	76.0%	+6.2%
ResNet-152	2015	60M	77.8%	+1.8%（更深但提升变小）
SE-ResNet-50	2018	28M	77.6%	+1.6%（几乎不增参数）
EfficientNet-B7	2019	66M	84.3%	复合缩放的效果

从 AlexNet 到 ResNet-152，参数量翻倍但准确率只从 63% 涨到 78%。翻倍投入，收益却在递减。 这不是任何人的失败——这是山本身的形状。

在数学上，这种关系遵循幂律：

\[ L(N) = L_{\infty} + A \cdot N^{-\alpha} \]

\(L_{\infty}\)（不可约损失）：山的物理极限。即使无限大的模型、无限多的数据，也无法突破
\(N^{-\alpha}\)：增加投入带来的收益，呈幂律递减

学会聚焦：注意力的故事#

ResNet 解决了高原反应。但还有一个更深的问题。

CNN 对所有特征一视同仁。无论这个通道编码的是"狗耳朵"还是"背景噪声"，卷积核给的权重一样。就像登山者盯着每一块岩石——包括那些根本不值得抓的碎石。

2018 年，SE-Net 装上了"可学习的放大镜"：通道注意力——让网络自己判断"哪些特征重要"。只加了 8,000 个参数（ResNet-50 的 0.03%），准确率提升 1.5%。CBAM 再加一层空间注意力——让网络同时知道"哪里重要"。49 个参数，又提升 1.1%。

这不是"更大更强"的故事。这是 “更聪明” 的故事。

归纳偏置告诉我们好的先验比暴力学习更高效。注意力教会我们另一件事：好的选择比好的先验更高效。 先验告诉你"该看哪里"——注意力让你根据实际情况动态决定看哪里。登山者不需要一直盯着每一块岩石。他们知道什么时候聚焦裂缝，什么时候扫视全景。

从 ResNet 的"对所有特征一视同仁"到 SE-Net/CBAM 的"学会聚焦"——这不是技术改进，是哲学转变。

四件装备在包里。三十年的路在脚下。笔记写完了。

参考文献

[HZRS16]

Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun. Deep residual learning for image recognition. In Proceedings of the IEEE conference on computer vision and pattern recognition, 770–778. 2016.

[HZC+17]

Andrew G Howard, Menglong Zhu, Bo Chen, Dmitry Kalenichenko, Weijun Wang, Tobias Weyand, Marco Andreetto, and Hartwig Adam. Mobilenets: efficient convolutional neural networks for mobile vision applications. arXiv preprint arXiv:1704.04861, 2017.

[HSS18]

Jie Hu, Li Shen, and Gang Sun. Squeeze-and-excitation networks. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 7132–7141. 2018.

[KSH12]

Alex Krizhevsky, Ilya Sutskever, and Geoffrey E Hinton. Imagenet classification with deep convolutional neural networks. In Advances in Neural Information Processing Systems, volume 25, 1097–1105. 2012.

[SLJ+15]

Christian Szegedy, Wei Liu, Yangqing Jia, Pierre Sermanet, Scott Reed, Dragomir Anguelov, Dumitru Erhan, Vincent Vanhoucke, and Andrew Rabinovich. Going deeper with convolutions. In Proceedings of the IEEE conference on computer vision and pattern recognition, 1–9. 2015.

[TL19]

Mingxing Tan and Quoc V Le. Efficientnet: rethinking model scaling for convolutional neural networks. In Proceedings of the 36th International Conference on Machine Learning (ICML), 6105–6114. 2019.

贡献者与修订历史

查看详细修订记录

2af6985 2026-06-14 - Heyan Zhu: feat(model-serving): add quantization and pruning chapter, restructure for general-first narrative
dc35df2 2026-06-14 - Heyan Zhu: refactor: unify into two-chapter mountain-climbing narrative