翻越两座山:CNN 三十年攀登史#

深度学习核心数学基础 给了你理论。但知道公式,和设计出真正能工作的网络,是两回事。

深度学习面前有一座山:完美的泛化。 我们永远到不了山顶,但每一次攀登都让我们离它更近。本章是一场翻越——两座山,三十年。登山上篇 爬练习峰(MNIST),登山下篇 换真正的未登峰(ImageNet)。

本章概览

#

章节

叙事节点

核心问题

引言:因为山在那里

出发宣言

为什么要攀登?

🏔️

上篇:练习峰

上篇:练习峰 MNIST

赤手空拳 → 发现装备 → 首登

🔧

拆开看看:CNN 消融研究

拆解装备

每个零件到底贡献了多少?

⛰️

下篇:真正的未登峰

下篇:真正的未登峰

AlexNet首登 → 高原反应 → 聚焦 → 预算学

🔬

架构心法:从会用装备到会设计装备

架构心法 → 🏁 登山者笔记

感受野/深度连接/注意力/效率——四维度 + 三十年回望

🏁

下一座山

下一座山

从设计到落地:模型部署

学习路径

        graph LR
    A[🏔️ 上篇:练习峰<br/>MNIST] --> B[🔧 消融研究<br/>拆装备]
    B --> C[⛰️ 下篇:未登峰<br/>ImageNet]
    C --> D[🔬 架构心法<br/>四维度]
    D --> E[🏁 登山者笔记]

    style A fill:#4CAF50,color:#fff
    style C fill:#FF6F00,color:#fff
    style E fill:#1565C0,color:#fff
    

核心认知:每一个架构都不是凭空设计的。每一个突破都是对"上一代为什么摔倒"的深刻回应。

前置知识

前置章节

本章如何延伸

深度学习核心数学基础

计算图 → PyTorch 自动求导;梯度下降 → optimizer.step()

归纳偏置

为什么 CNN 比全连接更适合图像——把山的结构刻进装备里

贡献者与修订历史

查看详细修订记录
  • dc35df2 2026-06-14 - Heyan Zhu: refactor: unify into two-chapter mountain-climbing narrative