登山下篇回顾：八年，八件装备#
AlexNet 的第一声炮响。Inception 的多尺度工具。ResNet 的补给站。SE-Net 和 CBAM 的聚焦。MobileNet 的一人一镐。EfficientNet 的每一分钱花在刀刃上。
2012 到 2019。从错误率 28% 到 15%，再到 84.3% 的 Top-1。八年间每一次"爬不上去"，都逼出了一件新装备。
八年级装备清单#
年份 |
架构 |
解决的问题 |
核心洞察 |
|---|---|---|---|
2012 |
AlexNet |
ImageNet 首登 |
ReLU + Dropout + GPU——深度学习能爬真山 |
2014 |
Inception |
单一感受野不够 |
多分支并行——不同尺度，同时捕捉 |
2015 |
ResNet |
越深越差（退化） |
跳跃连接——梯度有捷径，深层能训练 |
2017 |
SE-Net |
对所有通道一视同仁 |
Squeeze→Excite→Scale——动态通道加权 |
2018 |
CBAM |
只看通道不够 |
通道 + 空间注意力——先选频道，再调区域 |
2017 |
MobileNet |
模型太大塞不进手机 |
深度可分离卷积——空间/通道拆开，参数砍到 1/9 |
2019 |
EfficientNet |
深度/宽度/分辨率各自调 |
复合缩放——三个旋钮按比例一起拧 |
回过头看，这些装备不是孤立的。
Inception 的多尺度本质上是操控感受野。ResNet 的跳跃连接本质上是操控信息通路。SE-Net/CBAM 本质上是操控注意力。MobileNet/EfficientNet 本质上是操控效率。
同一件事，四个维度。八年的经验，可以炼成一条原则：面对一座全新的山，不是加哪个模块——是判断哪个维度出了问题。
这就是下一站要做的。
架构心法：从会用装备到会设计装备——走。把经验炼成心法。
贡献者与修订历史
查看详细修订记录
-
ea7e1062026-06-16 - Heyan Zhu: fix: cross-ref syntax, formulas, code, and structure across 5 chapters -
dc35df22026-06-14 - Heyan Zhu: refactor: unify into two-chapter mountain-climbing narrative