范数 $||x||$

定义了向量空间里的距离，使得向量之间的比较成为了可能

可以把一个实数列表，映射为一个数

当维数超过三维，距离这个概念应该被进一步抽象，转为表示高维点之间的时空关系，便有了范数

常用

L0 范数，向量非 0 元素个数，即稀疏度

L1 范数，曼哈顿距离：一个向量中所有元素的绝对值之和

L2 范数，欧几里得范数：是一个向量中所有元素取平方和，然后再开平方（向量的模）

特征值

原空间某一个基在变换后，其空间的长度变化系数，$>0$ 表示方向一致，$<0$ 表示方向相反

变换后夹角 $<90^\circ$，说明变换后的向量投影回原向量时方向不变

用特征值做限制可以更直观也更严格地表达出这一个特点

奇异矩阵

行列式为 $0$，没有可逆矩阵好兄弟，可谓之奇异

正定矩阵 positive-definite matrix

一个矩阵正定(Possitive definite) 到底能说明什么，能解决什么问题？

可以将正定矩阵理解为矩阵版标量正系数 [知乎，若辰]

线性代数是研究变换的，一个作用在向量上的矩阵正定，事实上是一个相当强的限制，其规定向量被变换后，方向不变

正定代表二次型系统在空间内有最优解问题

对角占优矩阵

对角线元素比其他之和要大

设 $A$ 是 $n$ 阶矩阵，若 $A$ 满足

$$|a_{ii}|\geq \sum_{j=1,j\neq i}^{n}|a_{ij}|, i=1,2 \cdots n,$$

至少一个严格不等式成立，$A$ 为弱对角占优；

每个严格不等式都成立，$A$ 为严格对角占优

严格对角占优矩阵具有非奇异性

拉布拉斯矩阵显然不是严格对角占优矩阵

拉布拉斯矩阵

通过任意方阵变换得到，具有良好的性质，有利于后面对其研究（不够准确！）

M-矩阵

方阵，非对角元非正，存在正定对角阵 $P$ ，使得 $PB+B^TP$ 为非负定阵，为 M-矩阵

若有 $0$ 特征值，为奇异 M-矩阵

拉布拉斯矩阵显然为奇异 M-矩阵

置换矩阵

如：

$$\begin{matrix} 1&0&0\\ 0&0&1\\ 0&1&0 \end{matrix}$$

根据左行右列定理，左乘做行变换，右乘做列变换，此矩阵将目标矩阵的 2，3 列交换

置换矩阵 $P$ 是方阵， $P$ 的每一行和每一列都有且仅有一个 1，其余均为 0

置换矩阵也可以看作单位矩阵 $I$ 的行重排列

$P^{-1} = P^{T}$

可约矩阵

可约矩阵主要用来描述此矩阵 $A$ 代表的有向图 $S(A)$ 是否具有强连通性

线性矩阵不等式 (LMI) - 一个求大矩阵正定的方法

可以通过对大矩阵巧妙分块，使得把求其正定的问题，转化为求小矩阵正定

给定对称矩阵 $Q(x)$ 和 $R(x)$，和矩阵 $S(x)$， 有：

$${\left[ \begin{matrix} Q(x) & S(x)\\ S^T(x) & R(x) \end{matrix} \right ]} >0,$$

与以下两个不等式两两等价

(1) $Q(x)>0, R(x)-S^T(x)Q(x)S(x)>0$

(2) $R(x)>0, Q(x)-S^T(x)R(x)S(x)>0$

引理，定理，定义，公理，命题，推论