课程/术语中英对照
附录源文件:cheatsheets/术语中英对照.md

术语中英对照

按主题分组。首次读英文论文时,可从这里查回中文解释与对应章节。

基础对象

中文English一句话
标量scalar一个数
向量vector一列数/有方向的对象
矩阵matrix二维数组/线性映射
张量tensor多维数组
形状shape每个轴的长度
轴axis / dimension张量的一个索引方向
转置transpose行列互换
逐元素积element-wise product / Hadamard product对应位置相乘

向量与几何

中文English一句话
点积/内积dot product / inner product对应相乘再求和
范数norm长度
欧氏范数Euclidean norm / L2 norm平方和开根
余弦相似度cosine similarity点积除以范数积
正交orthogonal内积为 0
标准正交orthonormal正交且长度为 1
投影projection沿某方向的分量
残差residual原向量减投影
夹角angle由余弦反推

空间与基

中文English一句话
向量空间vector space对加法/数乘封闭
子空间subspace空间内的子集,仍是空间
张成span所有线性组合
线性无关linearly independent只有零组合得零
线性相关linearly dependent存在非平凡零组合
基basis无关且张成
维数dimension基的大小
坐标coordinates相对某组基的系数
基变换change of basis换一组坐标轴
秩rank列空间维数
零空间null space / kernel被映到零的向量
列空间column space / image所有
行空间row space行向量张成的空间
正交补orthogonal complement与子空间全正交的向量
直和direct sum唯一分解为两部分

矩阵与方程

中文English一句话
线性映射linear map / linear transformation保加法与数乘
单位阵identity matrix对角为 1
逆矩阵inverse matrix
奇异矩阵singular matrix不可逆
高斯消元Gaussian elimination行变换解方程
行简化阶梯形reduced row echelon form (RREF)消元目标
主元pivot每行首个非零
自由变量free variable无主元的列
通解general solution特解 + 零空间
最小二乘least squares残差平方和最小
正规方程normal equations
伪逆pseudoinverse广义逆
条件数condition number误差放大倍数
病态ill-conditioned条件数很大
分块矩阵block matrix按块运算

行列式

中文English一句话
行列式determinant体积伸缩因子
余子式minor删行删列的行列式
代数余子式cofactor带符号的余子式
克拉默法则Cramer’s rule用行列式解方程
雅可比行列式Jacobian determinant换元的体积因子

特征值与谱

中文English一句话
特征值eigenvalue不转向方向的伸缩
特征向量eigenvector被 作用只缩放
特征多项式characteristic polynomial
代数重数algebraic multiplicity特征多项式根的重数
几何重数geometric multiplicity特征空间维数
对角化diagonalization
可对角化diagonalizable有足够特征向量
相似similar
谱定理spectral theorem对称矩阵可正交对角化
二次型quadratic form
正定positive definite二次型恒正
半正定positive semidefinite二次型非负
幂迭代power iteration迭代求主特征向量
稳态分布stationary distribution
若尔当标准形Jordan normal form不可对角化的标准形

SVD 与低秩

中文English一句话
奇异值分解singular value decomposition (SVD)
奇异值singular value拉伸倍数
左/右奇异向量left/right singular vector 的列
截断 SVDtruncated SVD保留前 个
低秩近似low-rank approximation用秩 逼近
主成分分析principal component analysis (PCA)方差最大方向
白化whitening去相关 + 单位方差
解释方差explained variance主成分贡献比例
潜在因子latent factor隐变量

微积分与优化

中文English一句话
偏导partial derivative固定其它变量求导
梯度gradient各偏导组成的向量
方向导数directional derivative沿某方向的变化率
雅可比矩阵Jacobian matrix向量值函数的导数
海森矩阵Hessian matrix二阶偏导矩阵
链式法则chain rule复合函数求导
反向传播backpropagation反向链式法则
凸函数convex function弦在函数上方
梯度下降gradient descent沿负梯度走
学习率learning rate步长
牛顿法Newton’s method用二阶信息
拉格朗日乘子Lagrange multiplier约束优化
KKT 条件KKT conditions不等式约束最优性

概率与统计

中文English一句话
随机变量random variable样本到实数的映射
期望expectation加权平均
方差variance波动大小
协方差covariance共同波动
协方差矩阵covariance matrix各维协方差
多元高斯multivariate Gaussian椭圆等高线
独立independent联合=边缘乘积
不相关uncorrelated协方差为 0
马尔可夫链Markov chain下一步只依赖当前
转移矩阵transition matrix行随机
混合时间mixing time趋于稳态的速度

数值

中文English一句话
浮点数floating point符号+指数+尾数
机器精度machine epsilon 的最小可分辨
舍入误差rounding error有限精度导致
灾难性抵消catastrophic cancellation相近数相减丢精度
范数norm衡量大小
谱范数spectral norm最大奇异值
Frobenius 范数Frobenius norm元素平方和开根
算术强度arithmetic intensityFLOPs/bytes
分块tiling / blocking提高 cache 命中
共轭梯度conjugate gradient (CG)对称正定迭代解
预条件preconditioning改善条件数
稀疏矩阵sparse matrix大部分元素为 0
CSRcompressed sparse row行压缩存储

大模型

中文English一句话
词元token模型处理的最小单位
词嵌入embeddingtoken → 向量
隐藏状态hidden state每层的表示
注意力attention按匹配度加权
查询/键/值query / key / valueQ/K/V
多头注意力multi-head attention (MHA)多子空间并行
因果掩码causal mask不能看未来
缩放点积scaled dot-product除以
位置编码positional encoding注入顺序
旋转位置编码rotary position embedding (RoPE)旋转 Q/K
层归一化layer normalization逐 token 标准化
均方根归一化RMSNorm只除均方根
残差连接residual connection恒等捷径
前馈网络feed-forward network (FFN)升维-非线性-降维
键值缓存KV cache缓存历史 K/V
分组查询注意力grouped-query attention (GQA)共享 KV 头
低秩适配low-rank adaptation (LoRA)
量化quantization低精度表示
混合专家mixture of experts (MoE)稀疏激活专家
路由routing选择专家
对数几率logitssoftmax 前分数
温度temperature调分布尖锐度
核采样nucleus / top-p sampling累计概率截断
预填充/解码prefill / decode两阶段推理
算术强度arithmetic intensity计算/访存比
吞吐/延迟throughput / latency系统指标

数学符号

符号读法含义
粗体 x向量
A transpose转置
A inverse逆
A plus伪逆
spectral norm谱范数
inner product内积
Hadamard逐元素积
Kronecker克罗内克积
rank秩
trace迹
determinant行列式
nabla f梯度
Jacobian雅可比
Hessian海森
Sigma协方差/奇异值矩阵
lambda特征值
sigma奇异值
输入关键词开始搜索