Deep Learning Club 学习教程

Deep Learning Club 学习教程#

欢迎来到深度学习：一群人在黑盒子里找规律，70%的数据清洗，20%的调参玄学，10%的祈祷。有时候能找到规律，有时候找到的是过拟合。但至少，我们的loss曲线很好看！

这是我们深度学习社的教学资料库，面向具备微积分基础的高中生，提供从理论到实践的深度学习课程。

课程结构#

本课程采用理论→实践→进阶的三阶段设计：

学习路径#

graph LR A[数学基础<br/>计算图与梯度] --> B[神经网络基础<br/>CNN架构] B --> C[PyTorch实践<br/>训练流程] C --> D{进阶方向<br/>任选其一} D --> E[CNN消融研究<br/>科学方法论] D --> F[迁移学习<br/>实用技术] D --> G[注意力机制<br/>模型改进] D --> H[U-Net分割<br/>CV实战] D --> I[模型部署<br/>工程实践]

核心路径（必修）：数学基础 → 神经网络基础 → PyTorch实践
进阶路径（选修）：根据兴趣选择一个或多个方向深入研究

前置知识#

领域

要求

具体内容

数学

必修

微积分（导数、链式法则）、线性代数（矩阵乘法）、基础概率论

编程

必修

Python基础（函数、类、NumPy数组操作）

深度学习

无需

本课程从零开始，不需要前置知识

配套教材：《深度学习入门》（斋藤康毅）——建议作为预习材料配合使用。

时间规划#

阶段

章节

预计时间

核心目标

基础阶段

数学基础

2-3小时

理解自动微分和梯度下降的核心机制

神经网络基础

3-4小时

掌握归纳偏置，理解全连接与CNN的本质差异

实践阶段

PyTorch实践

4-5小时

动手搭建并训练完整神经网络

进阶阶段

CNN消融研究

2-4周

培养科学实验思维，理解各组件贡献

迁移学习

2-3小时

掌握小数据集训练大模型的核心技术

注意力机制

2-3小时

理解SE-Net、CBAM等注意力模块原理

U-Net分割

3-4小时

实现图像分割模型，理解编码器-解码器架构

模型部署

2-3小时

将训练好的模型导出并部署为API服务

学习建议：理论理解 40% + 代码实践 60% = 最佳效果

技术特点#

  • 构建系统：Sphinx + Markdown，支持HTML/PDF输出

  • 数学支持：LaTeX公式渲染

  • 可视化：TikZ图表、Mermaid流程图

  • 代码实践：完整PyTorch实现，每行代码带详细注释

  • Cross-Reference：章节间紧密关联，形成知识网络

附录：环境配置#

当你从"跑通代码"进阶到"实际项目"时，迟早需要一台GPU服务器。附录 环境配置番外篇 不讲神经网络，只讲"让深度学习代码跑起来"的实操技能：

章节

内容

典型场景

Linux基础：为什么炼丹用Linux

Linux基础、文件系统、SSH连接

第一次接触Linux服务器

NVIDIA驱动与CUDA：让GPU真正工作

NVIDIA驱动、CUDA、PyTorch GPU版

nvidia-smi报错时

远程访问：从任何地方连上你的GPU服务器

内网穿透、Frp配置

服务器在机房/实验室

服务管理：让训练一直跑，服务一直开

tmux、systemd、开机自启

训练跑到一半终端关了

使用建议：这不是必修内容，遇到具体问题时按需查阅即可。

⚠️ 警告：本课程包含大量梯度下降、反向传播和玄学调参。副作用可能包括：对 GPU 产生依赖、对过拟合产生恐惧、以及半夜醒来突然想到"是不是学习率太大"。

最后更新：2026-04-29

贡献者与修订历史

查看详细修订记录
  • fb0be0d 2026-04-29 - Heyan Zhu: docs: update course documentation structure and content
  • c71cb87 2026-04-29 - Heyan Zhu: docs(appendix): add environment setup guide for GPU servers
  • b5be2d6 2026-04-28 - Heyan Zhu: docs: update documentation and improve content organization
  • b20ef3e 2026-04-28 - Heyan Zhu: docs: update pytorch practice section with detailed explanations and code examples
  • 9446c12 2026-04-26 - Heyan Zhu: docs: update index and add preface with humorous tone
  • e1bf5e0 2026-03-09 - Heyan Zhu: Add metric leaning
  • b7ed915 2026-02-28 - Heyan Zhu: docs: add transfer learning
  • dcecce4 2026-01-26 - Heyan Zhu: docs: enrich math fundamentals documentation with code captions and TikZ visualizations
  • cec393d 2025-12-11 - Heyan Zhu: docs: partially complete migration and restructure course materials
  • 0c291d7 2025-12-10 - Heyan Zhu: docs: restructure course materials and add new content
目录