M02 · 向量空间

一句话：向量空间把「箭头」抽象成「一切可以做线性组合的对象」；基、维数、秩则回答「这个空间到底有多大、有没有冗余」。

这个模块解决什么

学完 M01，你会算点积和投影，但还没有回答：

• 为什么有的向量组能张成整个空间，有的只能张成一条线？
• 「维度」到底是什么？为什么 ${\mathbb{R}}^3$ 的维数是 3，而不是「有三个坐标」这么简单？
• 一个矩阵的「秩」为什么能代表信息量？
• 为什么正交基这么好用？

本模块给出这套语言：空间 → 子空间 → 无关 → 基/维数 → 坐标 → 秩 → 内积/正交化。 它也是后面矩阵、特征值、SVD 的地基。

本模块的现实问题

这些抽象概念，在下面四个具体问题里会立刻变得有血有肉：

1. 电网调度员只有 4 秒，怎么用「叠加」估算 200 个运行场景？（2.1）
2. 投影仪要在墙上还原一幅油画，怎么判断目标颜色在不在它能调出的色域里？（2.2）
3. 96 个基因的肿瘤面板，怎么判断真正独立的只有 14 个？删掉 82 个会丢什么？（2.3）
4. 一张 36 MB 的 RAW，怎么在 33 ms 内压到 2 MB？换基到底换了什么？（2.5）

概念地图

学习顺序

本模块的大模型钩子

• 低秩子空间：LoRA 的 $\Delta W=BA$ 落在维数至多 $r$ 的子空间（2.2、2.6）
• 有效维度：激活/权重的谱衰减，远小于名义维度（2.4、2.6）
• 秩坍缩：深层 Transformer 的 token 表示趋同（2.3、2.6）
• 正交初始化 / 正交微调：QR 分解构造正交矩阵（2.7）
• 概念擦除：减去在概念子空间上的投影（2.8）

自测（读完再做）

1. 判断：$\{(x,y,z)\mid x+y+z=1\}$ 是 ${\mathbb{R}}^3$ 的子空间吗？为什么？
2. $(1,0,1),(0,1,0),(1,1,1)$ 是否线性无关？若相关，写出关系。
3. 求 $A=\left[\begin{array}{ccc}1& 2& 3\\ 0& 1& 1\end{array}\right]$ 的秩与零空间维数。
4. 为什么同一线性映射在不同基下的矩阵特征值相同？
5. 标准正交基下，投影矩阵为什么可以写成 $Q{Q}^{\top }$？
6. 若 $A$ 是 $4\times 6$ 矩阵且秩为 4，零空间维数是多少？

下一篇 → 2.1 向量空间：为什么需要八条公理