5、线性代数中的向量空间、矩阵运算与奇异值分解

线性代数中的向量空间、矩阵运算与奇异值分解

1. 基与坐标变换

1.1 线性独立性与基的定义

在 $n$ 维空间 $\mathbb{R}^n$ 中，若有 $k$ 个向量 $v_1, v_2, \cdots, v_k \in \mathbb{R}^n$，当 $k > n$ 时，这些向量线性相关，$\mathbb{R}^n$ 空间中最多有 $n$ 个向量可以线性独立。若向量 $v_1, v_2, \cdots, v_n \in \mathbb{R}^n$ 线性独立，则 $\text{span}{v_1, v_2, \cdots, v_n}$ 就是 $\mathbb{R}^n$ 空间本身。此时，任意向量 $x \in \mathbb{R}^n$ 都可以唯一地表示为线性组合：
[x = a_1v_1 + a_2v_2 + \cdots + a_nv_n]
用矩阵形式表示为：
[x = \begin{bmatrix}v_1 & v_2 & \cdots & v_n\end{bmatrix} \begin{bmatrix}a_1 \ a_2 \ \vdots \ a_n\end{bmatrix}]
这样的一组线性独立且能张成向量空间的向量 ${v_1, v_2, \cdots, v_n}$ 构成了 $\mathbb{R}^n$ 的基。而向量组
[e_1 = \begin{bmatrix}1 \ 0 \ \vdots \ 0\end{bmatrix}, e_2 = \begin{bmatrix}0 \ 1 \ \vdots \ 0\end{bmatrix}, \cdots, e_n = \begin{bmatrix}0 \ 0 \