5.4 行列式与 Jacobian：变量替换

本节位置：模块 5 · 行列式｜前置：5.1、8.3 Jacobian ｜预计：35 分钟

一句话：非线性变换没有全局的 $det$ ，但在每一点有一个局部体积缩放因子——那就是 Jacobian 行列式。

0. 场景引入

一个做全球碳汇的团队拿到一张 Web Mercator 的全球栅格： $1440 \times 720$ 个格子，每格 $0.2 5^{\circ}$ ，标着「森林 / 非森林」。他们要在 2 小时内交出一个数字：格陵兰的冰盖边缘这一年退缩了多少平方公里。

最直接的做法是数格子。格陵兰主体在 $7 2^{\circ}$ N 附近，覆盖约 9 070 个格子；把每格都按赤道上的 $0.2 5^{\circ} \times 0.2 5^{\circ} \approx 772.8$ km² 折算，得到 $9070 \times 772.8 = 7.01 \times 1 0^{6}$ km²。而格陵兰的真实面积是 $2.166 \times 1 0^{6}$ km²——高估了 3.2 倍。

原因不在数据，在投影：Mercator 在纬度 $φ$ 处把面积放大 $1/ cos^{2} φ$ 。 $7 2^{\circ}$ N 时 $cos 7 2^{\circ} = 0.3090$ ， $1/ cos^{2} 7 2^{\circ} = 10.47$ ：地面上 238.8 km² 的一格，在图上占 2500 km²。

决策：接受「像素计数」只做相对变化（退缩比例），还是给每格乘一个随纬度变化的面积权重、报绝对平方公里？

代价：用错权重，局部面积高估 10.47 倍、全球合计高估 3.2 倍；一份按 $7.0 \times 1 0^{6}$ km² 写进报告的碳汇估算会被评审打回，而重跑一次全球栅格统计要 6 小时。

读完本节，你应该能回答三件事：

为什么换元时面积元要乘 $∣ det J ∣$ ，极坐标的 $r$ 从哪来？
为什么 Jacobian 行列式是逐点的，而线性变换只有一个常数？
投影变形、密度换元、归一化流，用的是同一个公式吗？

1. 直觉

1.1 局部看，非线性也是线性的

一个非线性映射会把方格网弯成曲线网。但取一个很小的方格，它的像近似是一个平行四边形——因为可微函数在小范围里近似为线性映射。这个平行四边形的面积 ÷ 原方格面积，就是该点的 $∣ det J_{f} ∣$ 。所以：

💡 一句话直觉：Jacobian 行列式是「逐点的体积缩放因子」；积分时把它乘进面积元。

1.2 一维的类比

一维换元 $\int f (g (x)) g^{'} (x) d x = \int f (u) d u$ 里的 $g^{'} (x)$ 就是 $1 \times 1$ 的 Jacobian。 $∣ g^{'} (x) ∣$ 告诉你「 $x$ 附近的一小段被拉长了几倍」。高维只是把「拉长倍数」换成「体积倍数」。

极坐标的网格是同心圆和射线：半径 $r$ 处的格子，沿 $r$ 方向宽 $d r$ ，沿 $θ$ 方向弧长 $r d θ$ ，面积约 $r d r d θ$ 。那个 $r$ 就是「离原点越远，同样的角宽度对应的弧越长」。类比边界：这个「小格子近似平行四边形」的误差是 $o (Δ u)$ ，单独看不为零；但积分取极限后消失。要求 $f$ 连续可微，且 $J_{f}$ 在积分区域上几乎处处可逆。

极坐标映射把 (r, θ) 方格变成扇形小格

图：左图是 $(r, θ)$ 平面上的方格；右图是极坐标映射后的像。橙色小格在 $r \approx 1.4$ 处的面积被放大 $r$ 倍，所以面积元要乘 $r d r d θ$ 。

1.3 它在现实世界里对应什么

地图上，Jacobian 行列式是面积汇率：地面上 1 km²，画到这张图上占多少 km²。

数学对象	地图/气象里的对应物
$J$	从经纬度 $(λ, φ)$ 到平面 $(x, y)$ 的局部线性化
$∣ det J ∣$	图上面积 ÷ 地面面积；乘它把地面搬到图上
$det J$ 随位置变	越往高纬，同样的经纬度格子在地图上越大
$det J = 0$	投影把区域压成零面积，例如 sinusoidal 投影的极点
$det J \to \infty$	Mercator 的极点附近，一格像素代表的地面面积趋于 0
$sign (det J)$	是否镜像，例如经度方向被翻转的图

量级： $6 0^{\circ}$ N 处 $1/ cos^{2} 6 0^{\circ} = 4$ ，地面上 1 km² 在 Mercator 上占 4 km²； $7 2^{\circ}$ N 处是 10.47； $8 0^{\circ}$ N 处是 33.2；到 $8 5^{\circ}$ N 已经是 131.6。Web Mercator 通常截在 $\pm 85.0511 3^{\circ}$ ，再往上格子面积趋于无穷。

这个对应在哪里失效：Mercator 保角（角度不变）但不保面积，所以「图上量面积」必须加权；换成等面积投影（sinusoidal、EASE-Grid）权重就是常数。另外这是球面到平面的映射， $det J$ 逐点变化，不能提到积分号外面。

2. 定义

2.1 Jacobian 矩阵

对 $f : R^{n} \to R^{m}$ ， $f (u) = (f_{1} (u), \dots, f_{m} (u))$ ，Jacobian 矩阵 是 $J_{f} (u) = [\partial f_{i} / \partial u_{j}]_{m \times n} \in R^{m \times n}$ ，即第 $i$ 行第 $j$ 列是 $\partial f_{i} / \partial u_{j}$ 。当 $m = n$ 时， $det J_{f}$ 有意义，称为 Jacobian 行列式（Jacobian determinant）。

2.2 变量替换公式（change of variables）

设 $g : U \to R^{n}$ 连续可微、在 $U$ 上单射，且 $det J_{g}$ 几乎处处不为零，则

\int_{g (U)} f (y) d y = \int_{U} f (g (u)) ∣ det J_{g} (u) ∣ d u .

逐项读法：目标空间的体积元 $d y$ ，换成源空间的 $∣ det J_{g} ∣ d u$ 。绝对值保证体积为正。完整的条件与证明见 Munkres。

2.3 概率密度（probability density）变换

若 $Y = g (X)$ 且 $g$ 可逆，则

p_{Y} (y) = \frac{p _{X} ( g ^{- 1} ( y ))}{∣ det J _{g} ( g ^{- 1} ( y )) ∣} .

线性情形 $g (u) = A u$ 时 $J_{g} = A$ ，退化为 5.1 的 $p_{Y} (y) = p_{X} (A^{- 1} y) /∣ det A ∣$ 。

3. 为什么这样定义

把源区域切成很多边长 $Δ u$ 的小方块。第 $k$ 个小方块的体积是 $Δ u^{n}$ ；它的像近似是平行多面体，体积是 $∣ det J_{g} (u_{k}) ∣Δ u^{n}$ 。

于是 $\sum_{k} f (g (u_{k})) ∣ det J_{g} (u_{k}) ∣ Δ u^{n} ⟶ \int_{U} f (g (u)) ∣ det J_{g} (u) ∣ d u$ ，右边正是目标空间里对 $f$ 的黎曼和。这就是变量替换公式的全部内容：先把体积按局部比例换算，再求和。

导数的链式法则保证：先做 $g$ 再做 $h$ ，总的体积因子是 $∣ det J_{h} ∣ \cdot ∣ det J_{g} ∣$ ，与「逐点缩放相乘」一致。

3.1 反事实：漏掉 $∣ det J ∣$ ，圆盘面积会变成 $2 π$

取极坐标换元，但假装 $d x d y = d r d θ$ （把 $∣ det J ∣$ 当成 1）。单位圆盘的面积变成

\int_{0}^{2 π} \int_{0}^{1} 1 d r d θ = 2 π,

而真实面积是 $π$ 。算出来的正好是半径为 $2$ 的圆盘——同一个圆盘，只因为换了坐标就变大一倍，而且没有任何数值误差，全是精确算术。

再取 $f (u, v) = (u + v, u - v)$ ， $∣ det J ∣ = 2$ 。如果写成 $d y = det J d u = - 2 d u$ 而不取绝对值，一个真实面积为 2 的菱形会得到 $- 2$ ——负面积。

这两种错法都能通过「量纲检查」（结果都是面积），却分别错在漏了局部比例和漏了绝对值。公式里 $∣ det J ∣$ 的每一部分都不是装饰。

对地图同理：把每个 $0.2 5^{\circ}$ 格子的面积都当成赤道上的 772.8 km²，相当于漏掉 $cos φ$ 这个局部因子，于是格陵兰那 9 070 个格子被算成 $7.01 \times 1 0^{6}$ km²——正是第 0 节高估 3.2 倍的结果。

4. 性质与推导

链式法则： $J_{h \circ g} (u) = J_{h} (g (u)) J_{g} (u)$ ，因此 $det J_{h \circ g} = det J_{h} \cdot det J_{g}$ 。
逆映射： $det J_{g^{- 1}} (y) = 1/ det J_{g} (u)$ ，其中 $y = g (u)$ 。
线性映射： $J_{A} = A$ ， $det J_{A} = det A$ ，回到 5.1。
三角 Jacobian：若 $J$ 是三角阵， $det J = \prod_{i} J_{ii}$ ；归一化流的 coupling 层就靠这一点把 $O (D^{3})$ 降到 $O (D)$ 。
极坐标： $det J = r$ ；球坐标： $det J = ρ^{2} sin φ$ 。
定向： $det J < 0$ 表示局部翻转；积分用 $∣ det J ∣$ ，所以面积/体积仍为正。

5. 例子

5.1 极坐标：完整的推导

x = r cos θ, y = r sin θ, J = [cos θ sin θ - r sin θ r cos θ] .

det J = cos θ \cdot r cos θ - (- r sin θ) \cdot sin θ = r (cos^{2} θ + sin^{2} θ) = r .

所以 $d x d y = r d r d θ$ 。单位圆盘面积：

\int_{0}^{2 π} \int_{0}^{1} r d r d θ = 2 π \cdot \frac{1}{2} = π .

高斯积分也变简单： $\iint e^{- (x^{2} + y^{2})} d x d y = \int_{0}^{2 π} \int_{0}^{\infty} e^{- r^{2}} r d r d θ = 2 π \cdot \frac{1}{2} = π$ 。

5.2 线性变换：面积比是 $∣ det ∣$

$f (u, v) = (u + v, u - v)$ ， $J = [11 1 - 1]$ ， $det J = - 2$ 。

单位正方形的四个顶点映到 $(0, 0)$ 、 $(1, 1)$ 、 $(2, 0)$ 、 $(1, - 1)$ ，围成菱形，面积 $= 2 = ∣ det J ∣$ 。 $det < 0$ 说明定向翻转，但面积仍取绝对值。

5.3 非线性变换：缩放逐点变化

$f (u, v) = (u^{2}, v)$ ， $J = [2 u 0 01]$ ， $det J = 2 u$ 。

在 $u = 0.5$ 处局部面积因子为 1，在 $u = 2$ 处为 4。这不是一个全局常数，必须放在积分号里面。

对单位正方形： $\int_{0}^{1} \int_{0}^{1} 2 u d u d v = 1$ ，而像区域是 $[0, 1] \times [0, 1]$ ，面积确实为 1——局部缩放有大有小，积分后正好抵消。

5.4 概率：线性变换后的密度

设 $X \sim N (0, I_{2})$ ， $Y = A X$ ， $A = diag (2, 3)$ ， $det A = 6$ ，则 $p_{Y} (y) = \frac{1}{6} \cdot \frac{1}{2 π} exp (- \frac{1}{2} ∥ A^{- 1} y ∥^{2})$ 。在原点： $p_{Y} (0) = 1/ (12 π) \approx 0.0265$ 。可以验证： $Y$ 的协方差是 $A A^{⊤} = diag (4, 9)$ ，二维高斯在原点处的密度正是 $1/ (2 π 36) = 1/ (12 π)$ 。

5.5 场景闭环：1 036 800 个格子，20 毫秒

输入： $1440 \times 720 = 1036800$ 个 $0.2 5^{\circ}$ 格子。每个格子的面积权重用 float32 存，一张图 $1036800 \times 4 B \approx 4.1$ MB；森林比例另存一张。

计算：每格的真实面积是 $R^{2} Δ λ Δ φ cos φ$ ， $R = 6371$ km、 $Δ λ = Δ φ = 0.2 5^{\circ} = 0.004363$ rad：

R^{2} Δ λ Δ φ = 772.8 km^{2}, A (φ) = 772.8 cos φ .

$7 2^{\circ}$ N 处 $A = 238.8$ km²，和 §0 的数对得上： $2.166 \times 1 0^{6} /238.8 = 9070$ 。对 100 万个格子各算一次 $cos φ$ ，单核约 20 ms。

规模感：这里每个点是一个 $2 \times 2$ 行列式，3 次乘法；100 万个格子合计约 $3 \times 1 0^{6}$ 次乘法，几毫秒。换成 100 维的换元（flow 的一层），每个点的 $J$ 是 $100 \times 100$ ，一次 $det$ 要 $\frac{2}{3} n^{3} \approx 6.7 \times 1 0^{5}$ 次乘加；同样 100 万个点就是 $6.7 \times 1 0^{11}$ 次，单核 1 GFLOP/s 要 670 秒。这就是 coupling 层把 $det$ 变成对角元乘积、把 $O (D^{3})$ 降到 $O (D)$ 的现实动机。

输出：加权面积 $2.17 \times 1 0^{6}$ km²，对比像素计数的 $7.01 \times 1 0^{6}$ km²。决策：绝对面积必须加权；相对变化可以用像素比，前提是两期用同一张投影。

成本：20 ms CPU、4.1 MB 内存，相比 6 小时的人工复核可以忽略。真正的成本是验证：所有权重之和应等于 $4 π R^{2} = 5.10 \times 1 0^{8}$ km²，差一点就说明经纬度网格或 $cos φ$ 写错了。

失败条件：

极点权重： $φ \to 9 0^{\circ}$ 时 $cos φ \to 0$ ，权重趋于 0，而 Mercator 的 $y$ 趋于无穷；Web Mercator 截在 $\pm 85.0511 3^{\circ}$ ，两极的格子直接缺失。兜底：换等面积投影，或在球面网格上积分。
经度环绕：跨 $18 0^{\circ}$ 经线的格子被切成两半，按像素数会重复计数。兜底：在球面坐标里处理边界。
分辨率不一致：两期栅格一个 $0.2 5^{\circ}$ 、一个 $0. 1^{\circ}$ ，像素比没有意义。兜底：重采样到同一网格再比。

6. 常见误区

误区： $d x d y = d r d θ$ 。纠正：极坐标下是 $r d r d θ$ ，漏掉 $r$ 是最经典的错误。 $r = 2$ 处的角宽度 $d θ$ 对应的弧长是 $2 d θ$ ，面积自然多一个因子 2。
误区： $det J$ 是一个常数，可以提到积分号外。纠正：只有线性变换才是常数。非线性时 $J$ 逐点变化，必须留在积分号内。
误区：换元时用 $g^{- 1}$ 的 Jacobian 还是 $g$ 的，随便。纠正：记住「源空间体积元 × $∣ det J_{g} ∣$ = 目标空间体积元」。若用 $p_{Y}$ 的公式，分母是 $g$ 的 Jacobian 在 $g^{- 1} (y)$ 处的值。
误区： $J$ 在某点奇异，换元就失效。纠正：失效只发生在该点附近；如果奇异点集是零测集（如极坐标的 $r = 0$ ），积分仍成立。

7. 概念网络

前置：5.1 行列式几何 —— 线性变换的体积缩放，是这里的局部版本。
前置：5.2 行列式的性质与计算 —— 算 $2 \times 2$ 、 $3 \times 3$ 的 $det J$ 。
关联：5.3 逆与 Cramer 法则 —— 逆映射的 Jacobian 是原 Jacobian 的逆。
后续：8.3 Jacobian —— 把这里的矩阵当作多元导数，反向传播是它的链式法则。
后续：9.2 多元高斯—— 密度变换与协方差行列式。
关联：1.7 叉积 —— 二维面积与三维平行六面体体积。

8. 通往大模型：归一化流的 $lo g ∣ det J ∣$

出现位置：归一化流（normalizing flow）的似然计算、概率密度变换、可逆残差网络。

形状： $z \in R^{D}$ ，可逆网络 $x = f (z)$ ， $J_{f} = \partial f / \partial z \in R^{D \times D}$ 。训练时要算

lo g p_{X} (x) = lo g p_{Z} (z) - lo g ∣ det J_{f} (z) ∣.

为什么需要：生成模型要最大化数据似然。密度变换必须带体积修正；少了这一项，优化的就不再是数据空间的归一化似然：模型可以靠任意改变体积把密度数值抬高，而不用为体积变化负责（偏好放大还是缩小，取决于网络参数化成 $z \to x$ 还是 $x \to z$ ）。

怎么算得动：一般 $D \times D$ 矩阵的 $det$ 是 $O (D^{3})$ ，且高维容易下溢。Coupling 层（Dinh 等）把 $z$ 分成两半：

x_{1} = z_{1}, x_{2} = z_{2} ⊙ s (z_{1}) + t (z_{1}) .

它的 Jacobian 是块三角阵， $det J = \prod_{i} s_{i} (z_{1})$ ，于是 $lo g ∣ det J ∣ = \sum_{i} lo g ∣ s_{i} (z_{1}) ∣$ ，只要 $O (D)$ 。这是 flow 能堆很多层的关键。

数值坑： $D = 1024$ 、每维缩放 $0.1$ 时， $det J = 1 0^{- 1024}$ ，float64 直接下溢为 0， $lo g$ 变 $- \infty$ ；每维缩放 $10$ 则上溢。必须在对数域累加，或调用 slogdet。可检验结论：np.linalg.det 对这种矩阵返回 0.0，而 np.linalg.slogdet 仍能给出约 $- 2357.8$ 的有限值。

算错时下游看到什么：漏掉 $lo g ∣ det J ∣$ ，密度积分不再等于 1，模型可以靠缩小体积把 $lo g p_{X}$ 抬到任意大——训练 loss 一路下降，但采样出的分布与数据无关；忘记绝对值，遇到 $det J < 0$ 的层时 $lo g$ 负数，loss 一次前向就变 NaN。两种故障都不是「精度差一点」，而是目标函数本身错了。

9. 练习

推导：用 $x = r cos θ, y = r sin θ$ 推导 $det J = r$ ，并解释为什么是 $r$ 而不是 1。
计算： $f (u, v) = (u + v, u - v)$ 。求 $J$ 、 $det J$ ，以及单位正方形像的面积；定向翻转了吗？
计算： $f (x, y) = (e^{x} cos y, e^{x} sin y)$ 。求 $J$ 与 $det J$ ；在 $(0, π /4)$ 处局部面积放大几倍？
概率： $X \sim N (0, I_{2})$ ， $Y = A X$ ， $A = diag (2, 3)$ 。求 $p_{Y} (0)$ ，并与 $p_{X} (0)$ 比较。
开放：归一化流为什么偏爱「三角 Jacobian」的 coupling 层？它在表达能力上牺牲了什么？

参考答案

$J = [cos θ sin θ - r sin θ r cos θ]$ ， $det J = r cos^{2} θ + r sin^{2} θ = r$ 。半径 $r$ 越大，同样的 $d θ$ 对应的弧长越长（ $r d θ$ ），面积元多出因子 $r$ 。
$J = [11 1 - 1]$ ， $det = - 2$ ；像是顶点 $(0, 0), (1, 1), (2, 0), (1, - 1)$ 的菱形，面积 $2 = ∣ det ∣$ ； $det < 0$ ，定向翻转。
$J = [e^{x} cos y e^{x} sin y - e^{x} sin y e^{x} cos y]$ ， $det = e^{2 x} (cos^{2} y + sin^{2} y) = e^{2 x}$ ；在 $(0, π /4)$ 处为 $e^{0} = 1$ ，局部保面积。
$p_{X} (0) = 1/ (2 π)$ ； $p_{Y} (0) = p_{X} (0) /∣ det A ∣ = 1/ (2 π \cdot 6) = 1/ (12 π) \approx 0.0265$ 。
三角 Jacobian 让 $det$ 变成对角元乘积、 $lo g ∣ det ∣$ 变成 $O (D)$ 的求和，数值稳定且反向传播便宜。代价是每层只变换一部分维度（另一半保持不变），需要堆叠多层并交替划分，单层表达能力受限。

10. 一页速记

非线性映射的局部体积因子是 $∣ det J_{f} (u) ∣$ ，逐点变化。
物理意义 / 现实对应： $∣ det J ∣$ 是面积汇率——地面上 1 km² 在 $7 2^{\circ}$ N 的 Mercator 上占 10.47 km²。
变量替换： $d y = ∣ det J_{g} (u) ∣ d u$ ；概率密度要除以它。
极坐标 $det J = r$ ，所以 $d x d y = r d r d θ$ ；球坐标 $det J = ρ^{2} sin φ$ 。
链式法则让 $det$ 相乘， $lo g ∣ det ∣$ 相加；三角 $J$ 的 $det$ 是对角元乘积。
高维用 $lo g ∣ det ∣$ （slogdet），别直接算 $det$ 。

11. 参考文献与致谢

这一页的知识不是凭空来的。下面列出本页直接借用的原始工作与权威整理；正文中的人名、定理名已链接到对应条目。链接优先指向 DOI、arXiv 或可长期访问的原文存档。

Jacobi（Carl Gustav Jacob Jacobi, 1841）：De determinantibus functionalibus。把 $n$ 个函数对 $n$ 个变量的偏导行列式作为独立对象研究，并给出复合时的乘法规则；「Jacobian 行列式」的名字由此而来，本页第 2.1 节与第 4 节的链式法则都建立在这个对象上。Journal für die reine und angewandte Mathematik
Munkres（James R. Munkres, 1991；CRC 2018 重印）：Analysis on Manifolds。给出变量替换定理的完整陈述与证明，包括 $C^{1}$ 、单射、 $det J_{g}$ 几乎处处非零这些条件各自的作用——本页第 2.2 节的公式以它为准。CRC Press
Dinh 等（Laurent Dinh, Jascha Sohl-Dickstein & Samy Bengio, 2016）：Density estimation using Real NVP。提出仿射 coupling 层 $x_{2} = z_{2} ⊙ s (z_{1}) + t (z_{1})$ ，其块三角 Jacobian 让 $lo g ∣ det J ∣$ 只需 $O (D)$ ；本页第 8 节的设计直接取自这篇。arXiv:1605.08803

本篇是模块 5 的最后一篇。回到模块导览做自测，或去做习题。

返回 M05 导览去练习场

随堂测 · 5 题

数值难度 2第 1 / 5 题

f (u, v) = (u^{2}, v)

的 Jacobian 矩阵记为

J

。在

u = 2

处，局部面积放大倍率

∣ det J ∣

是多少？

没思路？看原文

源文件：05-行列式/04-行列式与Jacobian.md