M06 · 特征值
一句话:矩阵会把大多数方向拧弯,只有少数方向保持方向不变;找到这些方向,就能把矩阵的幂、微分方程、二次型和迭代过程全部拆成「一维的伸缩」。
这个模块解决什么
学完前面几个模块,你会算矩阵乘法、行列式、秩,也能解线性方程组。但还有一类问题没有回答:
- 反复用一个矩阵乘向量,最后会停在哪里?为什么?
- 一个 的矩阵,能不能用几个数概括它的「本质」?
- 为什么对称矩阵总有互相垂直的主方向?
- 损失函数在极小点附近,怎么判断它是一个碗还是马鞍?
- 几十亿个网页,怎么在不求逆的前提下排出名次?
这些问题的共同答案是特征分解。本模块从 出发,依次建立:
- 特征值与特征向量的定义、几何与动力系统解释(6.1);
- 特征多项式、迹、行列式与重数(6.2);
- 对角化与矩阵幂(6.3);
- 对称矩阵的谱定理(6.4);
- 二次型、正定性与 Cholesky(6.5);
- 幂迭代、马尔可夫链与 PageRank(6.6);
- 不可对角化时的 Jordan 标准形与矩阵函数(6.7)。
本模块的现实问题
- 行人步频 2.0 Hz,为什么能让人行桥的 1.8 Hz 模态共振?装 TMD 还是限流?(6.1)
- 反应釜从 24 h 缩到 12 h 出料,收率会掉多少?能不能从矩阵对角元直接读出来?(6.2)
- 5 亿元的组合,卖空 6.3% 到底能省多少波动?为什么优化器给出的答案可能不可信?(6.5)
- 5 000 万个节点的引用图,PageRank 要迭代几轮、每轮多少成本?(6.6)
概念地图
flowchart LR
A[6.1 特征值与特征向量] --> B[6.2 特征多项式/迹/行列式]
A --> F[6.6 幂迭代与 PageRank]
B --> C[6.3 对角化]
C --> D[6.4 对称矩阵与谱定理]
D --> E[6.5 二次型与正定]
C --> G[6.7 Jordan 与矩阵函数]
D -.Rayleigh 商.-> F
实线是建议阅读顺序,虚线是概念上的复用关系。
学习顺序
| 顺序 | 文档 | 时间 | 读完你应该能…… |
|---|---|---|---|
| 1 | 6.1 特征值与特征向量:不转向的方向 | 35 min | 手算 特征值,解释动力系统为何收敛到主方向 |
| 2 | 6.2 特征多项式、迹与行列式 | 35 min | 写出特征多项式,用迹/行列式校验,区分代数与几何重数 |
| 3 | 6.3 对角化:换基让矩阵变简单 | 40 min | 判断可对角化,写出 ,手算 |
| 4 | 6.4 对称矩阵与谱定理 | 40 min | 正交对角化,解释特征值实、特征向量正交 |
| 5 | 6.5 二次型与正定 | 40 min | 用特征值/Sylvester/Cholesky 判断正定,联系凸性 |
| 6 | 6.6 幂迭代与 PageRank | 35 min | 推导收敛比,手算三节点 PageRank |
| 7 | 6.7 Jordan 标准形与矩阵函数 | 35 min | 解释 Jordan 块、 与多项式因子 |
总时长约 260 分钟。建议顺序阅读 6.1–6.6;6.7 是进阶内容,可以第二轮再读。
本模块的大模型钩子
- 稳定性:残差流/循环层线性化后,谱半径决定信号指数增长还是衰减(6.1)
- 谱与条件数:Hessian、协方差矩阵的特征值给出曲率、总方差与条件数(6.2、6.4)
- 解耦: 把耦合系统拆成独立模式,状态空间模型靠它并行扫描(6.3)
- 损失曲面:正定 Hessian 严格凸; 决定学习率上限(6.5)
- 幂迭代:估计谱范数、求主奇异向量,是谱归一化的核心循环(6.6)
- PageRank 类稳态:图上的随机游走收敛到平稳分布,阻尼因子控制收敛速度(6.6)
- 矩阵指数:Neural ODE 与连续时间模型的解,非正规矩阵可能瞬态增长(6.7)
自测(读完再做)
- 特征值定义中为什么要求 ? 意味着什么?
- 对 ,求特征值、特征向量,并写出 。
- 一个 矩阵的迹为 6、行列式为 6,两个特征值是 1 和 2,第三个是多少?为什么?
- 判断 能否对角化;若不能,Jordan 形是什么?
- 对 ,求正交矩阵 与对角阵 ,使 。
- 对 ,从 做一次幂迭代;收敛比是多少?PageRank 的阻尼因子 起什么作用?
自测答案
- 若 ,则 对一切 成立,特征值不再由矩阵决定;零向量也没有方向。 意味着存在非零向量被 压成零,即 奇异、不可逆。
- 、,特征值 ,特征向量 、。,,。
- :特征值之和等于迹,;积为 ,吻合。
- 不能。,但 秩为 1,几何重数 。Jordan 形是 本身。
- 特征值 ;特征向量 、。,。
- ,归一化 ,Rayleigh 商为 3。特征值 ,收敛比 ,每步副方向减半。PageRank 的 控制沿链接走的概率, 是随机跳转; 越大越忠实链接结构但收敛越慢,且保证平稳分布唯一。
习题与实验
- 习题:m06-习题 | m06-答案
- 实验:lab06 特征值与幂迭代 —— NumPy 复核本模块所有手算例子,并观察收敛比与 PageRank 迭代。
做习题前建议先合上文档,自己把 6.1–6.5 的手算例子重做一遍;算错的步骤比读十遍更有价值。
下一篇 → 6.1 特征值与特征向量:不转向的方向