课程/符号表
附录源文件:docs/符号表.md

符号表

全课程统一记号。第一次遇到某个符号时,回到这里查。 约定:数学索引从 1 开始,代码索引从 0 开始;文中会显式说明。

1. 基础对象

符号读法含义示例
小写斜体标量(一个数)
粗体小写向量(一列数)
零向量所有分量都是 0
大写斜体矩阵
单位阵对角为 1、其余为 0 的 矩阵
花体大写张量
实数集所有实数—
n 维实空间 个实数组成的向量集合—
— 行 列实矩阵集合—
复数集复数(进阶章节用)—

2. 运算

符号读法含义注意
A 转置行列互换不写
A 的逆满足 只有方阵且满秩才存在
A 的伪逆Moore–Penrose 广义逆任意矩阵都有
A 的共轭转置复数版转置实矩阵时
内积实向量即点积 —
p-范数默认
逐元素积Hadamard 积形状必须相同
Kronecker 积分块放大形状相乘
或 行列式体积缩放因子 在别处可能是绝对值
迹对角线元素之和等于特征值之和
秩列空间的维数—
对角阵用向量 构造对角矩阵—
正定对任意 ,要求 对称

3. 集合与映射

符号读法含义
x 属于 S元素属于集合
S 包含于 T子集
, 交、并—
子空间和
直和和空间中每个元素表示唯一
映射输入 维,输出 维
核/零空间
像/列空间
张成所有线性组合构成的集合
维数基向量的个数
正交补与 中所有向量正交的向量集合

4. 微积分与概率

符号读法含义
梯度偏导组成的向量
偏导固定其他变量对 求导
或 Jacobian一阶偏导矩阵,形状
或 Hessian二阶偏导矩阵,形状
期望随机变量的均值
方差—
协方差矩阵
高斯分布均值 、协方差
sigmoid / softmax视上下文,文中会注明
正比于差一个常数因子

5. 大模型专用

记号含义典型形状
batch size标量
序列长度(token 数)标量
或 隐藏维度标量,如 4096
注意力头数标量,如 32
每个头的维度标量,如 128
隐藏状态三维张量
注意力投影矩阵 或
query/key/value
按最后一维归一化不改变形状
或 attention 权重矩阵
前馈网络
旋转位置编码对 成对旋转
层数标量

6. 容易混淆的记号

容易混淆区分
vs 逆要求方阵满秩;伪逆对任意矩阵都有
vs 后者是平方,求导时更常用
vs 前者是行列式;后者在有些书里是绝对值/基数
vs 前者是标量(内积),后者是矩阵(外积)
vs 都半正定,但形状/零空间不同
特征值 vs 奇异值特征值可负可复;奇异值非负
输入关键词开始搜索