Research series深度学习:Basics
深度学习:Basics
从表示、优化与泛化开始,建立可以继续理解现代模型的基础。
parz1Est. 2026Continuously revised
Question of this issue
当模型说自己“学会”了,它究竟改变了什么?
深度学习不是一组框架 API,而是一套关于表示、优化与泛化的共同语言。
Scope表示 / 张量 / 优化 / 梯度 / 泛化
Essays and arguments
定义:学习意味着什么
先建立模型、数据、目标与误差之间的基本关系。
- 01什么是学习从函数、数据与目标出发,理解模型改变的究竟是什么。Forthcoming
机制:表示如何被计算与更新
从张量与计算图进入梯度驱动的优化过程。
- 02张量、计算图与自动微分张量如何承载表示,计算图如何组织变化与梯度。Forthcoming
- 03优化、损失函数与梯度下降训练目标如何被定义,参数又如何沿梯度逐步更新。Forthcoming
判断:模型何时真正学会
讨论训练结果如何越过样本,成为可迁移的能力。
- 04泛化、正则化与过拟合为什么训练集上的成功不等于模型获得了可靠能力。Forthcoming
This series continues to grow through reading, writing, and revision.