Skip to content

08_内积空间上的算子

一、 伴随算子与正规算子

本节主要讨论线性映射在内积空间上的“伴随”概念，这一概念的引入深刻依赖于里斯表示定理。

1. 伴随算子的存在性与定义

存在性推导：

设 \(V, W\) 为内积空间，\(T \in \mathcal{L}(V, W)\) 是一个线性算子。

对于任意固定的 \(w \in W\)，映射 \(v \mapsto \langle Tv, w \rangle\) 构成了 \(V\) 上的一个线性泛函，即 \(\langle Tv, w \rangle \in V'\)。

根据里斯表示定理（Riesz Representation Theorem），必定存在唯一的向量 \(u \in V\)，使得对于所有的 \(v \in V\)，均有：

\[ \langle Tv, w \rangle = \langle v, u \rangle \]

伴随算子的定义：

基于上述唯一确定的 \(u\)，我们可以定义一个从 \(W\) 到 \(V\) 的映射，记为 \(T^*\)。

即定义 \(T^*: W \to V\)，使得 \(T^*(w) = u\)。

称 \(T^*\) 为 \(T\) 的伴随算子（Adjoint Operator），它满足以下核心恒等式：

对于 \(\forall v \in V, w \in W\)，有：

\[ \langle Tv, w \rangle_W = \langle v, T^*w \rangle_V \]

（下标表示在哪个空间中进行，符合该空间中的内积规则）

2. 伴随算子的线性性质

定理：若 \(T \in \mathcal{L}(V, W)\)，则其伴随算子 \(T^*\) 也是线性的，即 \(T^* \in \mathcal{L}(W, V)\)。

证明：要证明 \(T^*\) 是线性的，需验证其满足加法性和齐次性。

① 证明加法性：\(T^*(w_1 + w_2) = T^*w_1 + T^*w_2\)

对于 \(\forall v \in V\)，利用内积的性质和伴随算子的定义展开：

\[ \begin{aligned} \langle v, T^*(w_1 + w_2) \rangle &= \langle Tv, w_1 + w_2 \rangle \\ &= \langle Tv, w_1 \rangle + \langle Tv, w_2 \rangle \\ &= \langle v, T^*w_1 \rangle + \langle v, T^*w_2 \rangle \\ &= \langle v, T^*w_1 + T^*w_2 \rangle \end{aligned} \]

移项可得：

\[ \langle v, T^*(w_1 + w_2) - (T^*w_1 + T^*w_2) \rangle = 0 \]

由于上式对 \(\forall v \in V\) 均成立，特别地，我们可以令 \(v = T^*(w_1 + w_2) - (T^*w_1 + T^*w_2) \in V\)，则该向量自身的内积为 \(0\)。

由内积的正定性即得：

\[ T^*(w_1 + w_2) = T^*w_1 + T^*w_2 \]

② 证明齐次性：\(T^*(\lambda w) = \lambda T^*w\)

对于 \(\forall v \in V\)，利用内积第二位置的共轭齐次性展开：

\[ \begin{aligned} \langle v, T^*(\lambda w) \rangle &= \langle Tv, \lambda w \rangle \\ &= \bar{\lambda} \langle Tv, w \rangle \\ &= \bar{\lambda} \langle v, T^*w \rangle \\ &= \langle v, \lambda T^*w \rangle \end{aligned} \]

同理可得，对任意 \(v\) 内积相等，故必然有：

\[ T^*(\lambda w) = \lambda T^*w \]

综上，加法性和齐次性得证，故 \(T^* \in \mathcal{L}(W, V)\)。

3. 伴随算子的代数性质

设 \(S, T \in \mathcal{L}(V, W)\)，\(\lambda\) 为标量（实数或复数），恒等算子记为 \(I\)。伴随算子满足以下基本代数运算规律：

  1. 可加性：

    $$

    (S + T)^ = S^ + T^* $$

  2. 共轭齐次性（注意标量需取共轭）：

    $$

    (\lambda S)^ = \bar{\lambda} S^ $$

  3. 对合性（两次伴随还原自身）：

    $$

    (T^)^ = T $$

  4. 恒等算子的伴随：

    $$

    I^* = I $$

  5. 复合算子的伴随：

    若 \(S \in \mathcal{L}(V, W)\) 且 \(T \in \mathcal{L}(U, V)\)，则它们的复合映射的伴随满足：

    \[ (ST)^* = T^*S^* \]

    (证明简述：对于 \(\forall u \in U, w \in W\)，有 \(\langle (ST)u, w \rangle_W = \langle T(Su), w \rangle_W = \langle Su, T^*w \rangle_V = \langle u, S^*(T^*w) \rangle_U = \langle u, (S^*T^*)w \rangle_U\)，由唯一性即得。)

4. 伴随算子的零空间与值域关系

设 \(T \in \mathcal{L}(V, W)\)，其伴随算子为 \(T^* \in \mathcal{L}(W, V)\)。它们的零空间（Kernel / \(\ker\)）和值域（Image / \(\text{im}\)）满足以下非常重要的正交补关系：

  1. \(\ker(T^*) = (\text{im } T)^\perp\)

    (证明：\(w \in \ker(T^\ast) \iff T^\ast w = 0 \iff \forall v \in V, \langle v, T^\ast w \rangle = 0 \iff \forall v \in V, \langle Tv, w \rangle = 0 \iff w \perp \text{im } T \iff w \in (\text{im } T)^\perp\))

  2. \(\text{im}(T^*) = (\ker T)^\perp\)

  3. \(\ker(T) = (\text{im } T^*)^\perp\)

  4. \(\text{im}(T) = (\ker T^*)^\perp\)

(注：由于在一个子空间上取两次正交补将回到其自身，即 \((U^\perp)^\perp = U\)，因此上述四个关系本质上是可以互相推导的。)

5. 伴随算子的矩阵表示

计算伴随算子时，若采用单位正交基（Orthonormal Basis），其矩阵表示将具有极其优美的形式。

设 \(\beta_1 = \{e_1, \dots, e_n\}\) 是 \(V\) 的一组单位正交基，\(\beta_2 = \{f_1, \dots, f_m\}\) 是 \(W\) 的一组单位正交基。

若算子 \(T\) 在这两组基下的矩阵表示为 \(A\)（即 \(A = [T]_{\beta_1}^{\beta_2}\)），则其伴随算子 \(T^*\) 在对应基下的矩阵表示 \(C\) 满足：

\[ C = \bar{A}^T \]

即：伴随算子的矩阵是原算子矩阵的共轭转置（Conjugate Transpose）。

(在实内积空间中，由于没有复数部分，伴随算子的矩阵就是原矩阵的转置 \(A^T\)。)

6. 自伴算子与正规算子 (Self-Adjoint and Normal Operators)

当我们讨论自伴算子与正规算子时，通常限定算子定义在同一个内积空间上，即 \(T \in \mathcal{L}(V)\)。

1. 自伴算子（Self-Adjoint Operator）

  • 定义：若算子等于其自身的伴随，即 \(T = T^*\)，则称 \(T\) 为自伴算子（有时也称埃尔米特算子）。

  • 矩阵特征：在单位正交基下，其矩阵满足 \(A = \bar{A}^T\)（复数域下为埃尔米特矩阵；实数域下为对称矩阵）。

2. 正规算子（Normal Operator）

  • 定义：若算子与其伴随算子可交换，即 \(TT^\ast = T^\ast T\)，则称 \(T\) 为正规算子。

  • 矩阵特征：在单位正交基下，其矩阵满足 \(A\bar{A}^T = \bar{A}^TA\)（正规矩阵）。

  • 包含关系：显然，自伴算子一定是正规算子（因为 \(T=T^* \implies TT^*=T^*T\) 必然成立），但正规算子的范围更广（如实空间中的旋转算子，或者复空间中具有对角形式但元素为复数的矩阵）。

7. 自伴算子的基本性质

设 \(V\) 为内积空间，\(T \in \mathcal{L}(V)\) 为自伴算子。

  1. 构成实向量空间：\(V\) 上全体自伴算子的集合构成一个实向量空间。

    _(即：自伴算子在实数乘法下封闭，但在复数乘法下不封闭，因为 (即：自伴算子在实数乘法下封闭，但在复数乘法下不封闭，因为 \((\lambda T)^\ast = \bar{\lambda} T^\ast = \bar{\lambda} T\)，只有当 \(\lambda \in \mathbb{R}\) 时才等于 \(\lambda T\))。

  2. 特征值为实数：自伴算子的所有特征值必定为实数。

    (证明简述：若 \(Tv = \lambda v\) 且 \(v \neq 0\)，则 \(\lambda \langle v, v \rangle = \langle Tv, v \rangle = \langle v, Tv \rangle = \langle v, \lambda v \rangle = \bar{\lambda} \langle v, v \rangle\)，因为 \(\|v\|^2 \neq 0\)，故 \(\lambda = \bar{\lambda}\))。

  3. 自伴性的等价条件：对于算子 \(T\)，它是自伴的当且仅当对 \(\forall v \in V\)，内积 \(\langle Tv, v \rangle \in \mathbb{R}\)。

8. 关于内积 \(\langle Tv, v \rangle = 0\) 的重要判定定理

在研究算子时，我们常关注 \(\langle Tv, v \rangle = 0\) 的情形：

几何直观：算子 \(T\) 总是把向量 \(v\) 变成一个与它垂直的向量。

  1. 复内积空间特有性质：若 \(V\) 是复内积空间，且对于 \(\forall v \in V\) 均有 \(\langle Tv, v \rangle = 0\)，则必然有 \(T = 0\)（零算子）。

    _(复数域的代数结构过于严密，不允许算子通过单纯的“旋转”来使内积恒为零。)_

_(注：这在实空间中不成立。反例：实二维平面上的逆时针旋转 90° 算子 $T(x,y) = (-y, x)$，其满足 $\langle Tv, v \rangle = -yx+xy = 0$，但 $T$ 显然不是零算子。)_

  2. 自伴算子的全局性质：若已知 \(T\) 是自伴算子（无论在实空间还是复空间），只要对 \(\forall v \in V\) 满足 \(\langle Tv, v \rangle = 0\)，则必然推导出 \(T = 0\)。

9. 正规算子的核心性质

设 \(T \in \mathcal{L}(V)\) 为正规算子，其具有以下极其优良的代数与几何性质：

  1. 模长保持（等距性）：对于 \(\forall v \in V\)，有 \(\|Tv\| = \|T^*v\|\)。

    (证明：\(\|Tv\|^2 = \langle Tv, Tv \rangle = \langle T^*Tv, v \rangle = \langle TT^*v, v \rangle = \langle T^*v, T^*v \rangle = \|T^*v\|^2\))

  2. 特征向量与伴随对应：若 \(v\) 是 \(T\) 对应于特征值 \(\lambda\) 的特征向量（即 \(Tv = \lambda v\)），则 \(v\) 必然也是 \(T^*\) 对应于特征值 \(\bar{\lambda}\) 的特征向量（即 \(T^*v = \bar{\lambda} v\)）。

    (证明：若 \(T\) 是正规算子，容易验证 \(T-\lambda I\) 也是正规的。由性质1可得 \(\|(T-\lambda I)v\| = \|(T-\lambda I)^*v\| = \|(T^*-\bar{\lambda}I)v\| = 0\))。

  3. 不同特征空间的绝对正交性：若 \(\lambda\) 和 \(\mu\) 是正规算子 \(T\) 的两个不同的特征值（\(\lambda \neq \mu\)），则它们对应的特征子空间互相正交。即若 \(Tv = \lambda v\) 且 \(Tu = \mu u\)，必有 \(\langle v, u \rangle = 0\)（\(v \perp u\)）。

    (证明：\(\lambda \langle v, u \rangle = \langle \lambda v, u \rangle = \langle Tv, u \rangle = \langle v, T^*u \rangle = \langle v, \bar{\mu} u \rangle = \mu \langle v, u \rangle\)。因为 \(\lambda \neq \mu\)，故必然推导出 \(\langle v, u \rangle = 0\))。

10. 谱定理 (Spectral Theorem)

谱定理是内积空间线性算子理论中的核心定理，它刻画了算子何时可以在某个标准正交基下表示为最简单的对角矩阵。根据标量场是实数域还是复数域，谱定理有不同的表述。

1. 复谱定理（Complex Spectral Theorem）

设 \(V\) 为复内积空间（\(\mathbb{F} = \mathbb{C}\)），\(T \in \mathcal{L}(V)\) 且 \(\dim V < \infty\)。以下条件等价：

  • (a) \(T\) 是正规算子（即 \(TT^\ast = T^\ast T\)）。

  • (b) \(V\) 存在一组标准正交基，使得 \(T\) 在该基下的矩阵为对角矩阵。

(注：在复数域中，正规性是算子可对角化且基为标准正交基的充要条件。)

2. 实谱定理（Real Spectral Theorem）

设 \(V\) 为实内积空间（\(\mathbb{F} = \mathbb{R}\)），\(T \in \mathcal{L}(V)\) 且 \(\dim V < \infty\)。以下条件等价：

  • (a) \(T\) 是自伴算子（即 \(T = T^\ast\)）。

  • (b) \(V\) 存在一组由 \(T\) 的特征向量组成的标准正交基。

  • (c) \(V\) 存在一组标准正交基，使得 \(T\) 在该基下的矩阵为对角矩阵。

(推导 (c) \(\implies\) (a)：若 \(T\) 在某标准正交基下为对角阵 \(A\)，由于是在实数域，对角线元素必定为实数，显然有 \(A = A^T = \bar{A}^T\)。故其矩阵是自伴的，推出算子 \(T = T^\ast\)。)

11. 自伴算子的不变子空间与特征值

为了证明实谱定理，我们需要依赖自伴算子关于不变子空间的一些极其优良的性质。

定理：自伴算子与正交补的不变性

设 \(T \in \mathcal{L}(V)\) 是自伴算子，\(U\) 是 \(V\) 的一个 \(T\)-不变子空间（即对 \(\forall u \in U\) 有 \(Tu \in U\)），则：

  1. \(U^\perp\) 也是 \(T\)-不变的。

    (证明：对于 \(\forall v \in U^\perp\)，我们需要证明 \(Tv \in U^\perp\)。取任意 \(u \in U\)，有 \(\langle Tv, u \rangle = \langle v, T^\ast u \rangle = \langle v, Tu \rangle\)。因为 \(U\) 是 \(T\)-不变的，故 \(Tu \in U\)。又因为 \(v \in U^\perp\)，所以 \(\langle v, Tu \rangle = 0\)。即 \(\langle Tv, u \rangle = 0\)，故 \(Tv \in U^\perp\)。)

  2. 限制算子 \(T|_U \in \mathcal{L}(U)\) 也是自伴的。

    (证明：对 \(\forall u, v \in U\)，\(\langle T|_U u, v \rangle = \langle Tu, v \rangle = \langle u, Tv \rangle = \langle u, T|_U v \rangle\)。)

  3. 限制算子 \(T|_{U^\perp} \in \mathcal{L}(U^\perp)\) 也是自伴的。

    (证明：由性质1知 \(U^\perp\) 是不变子空间，代入性质2的结论即得。)

引理：实内积空间上的自伴算子必有特征值

在实空间中，一般算子不一定有特征值（如旋转算子），但自伴算子一定存在实特征值。

(证明思路提要：对于自伴算子 \(T\)，若 \(b^2 < 4c\)，则二次多项式对应的算子 \(T^2 + bT + cI\) 必定是可逆的。如果 \(T\) 没有实特征值，其极小多项式将完全由这类不可逆的无实根二次因式组成，这在有限维空间中会引发矛盾，从而保证了自伴算子必定存在实特征值。)

定理：自伴算子不同特征值的特征向量相互正交

若 \(Tu = \alpha u\) 且 \(Tv = \beta v\)，且 \(\alpha \neq \beta\)（\(\alpha, \beta \in \mathbb{R}\)）：

(证明：\((\alpha - \beta)\langle u, v \rangle = \alpha\langle u, v \rangle - \beta\langle u, v \rangle = \langle \alpha u, v \rangle - \langle u, \bar{\beta} v \rangle\)。因为特征值是实数，\(\bar{\beta} = \beta\)。上式等于 \(\langle Tu, v \rangle - \langle u, Tv \rangle = \langle Tu, v \rangle - \langle u, T^\ast v \rangle = 0\)。因为 \(\alpha \neq \beta\)，必定有 \(\langle u, v \rangle = 0\)。)

12. 正算子 (Positive Operators)

正算子是内积空间上一类特殊且极其重要的自伴算子，类似于实数域中的非负数（\(x \ge 0\)）。

1. 正算子的定义

设 \(T \in \mathcal{L}(V)\)，若满足以下两个条件，则称 \(T\) 为正算子：

  1. \(T\) 是自伴算子（\(T = T^\ast\)）。

  2. 对 \(\forall v \in V\)，均有内积 \(\langle Tv, v \rangle \ge 0\)。

2. 正算子的经典例子与引理

  • 正交投影是正算子：设 \(P_U\) 是向子空间 \(U\) 的正交投影算子。对于 \(\forall v = u + w \in V\)（其中 \(u \in U, w \in U^\perp\)），有 \(\langle P_U(u+w), u+w \rangle = \langle u, u+w \rangle = \langle u, u \rangle + \langle u, w \rangle = \|u\|^2 + 0 \ge 0\)。

  • 引理：对于任意自伴算子 \(T\) 及实数 \(b, c \in \mathbb{R}\)，若 \(b^2 < 4c\)，则 \(T^2 + bT + cI\) 是正算子。

    (证明：首先该算子显然自伴。其次 \(\langle (T^2+bT+cI)v, v \rangle = \langle T^2v, v \rangle + b\langle Tv, v \rangle + c\langle v, v \rangle = \|Tv\|^2 + b\langle Tv, v \rangle + c\|v\|^2\)。利用柯西-施瓦茨不等式放缩，上式 \(\ge \|Tv\|^2 - |b|\|Tv\|\|v\| + c\|v\|^2 = (\|Tv\| - \frac{|b|}{2}\|v\|)^2 + (c - \frac{b^2}{4})\|v\|^2\)。由于 \(c > b^2/4\)，两项均非负，故结果 \(\ge 0\)。)

3. 正算子的等价刻画（核心定理）

设 \(V\) 为有限维内积空间，\(T \in \mathcal{L}(V)\)。以下五个命题完全等价：

  • (a) \(T\) 是正算子。

  • (b) \(T\) 是自伴算子，且 \(T\) 的所有特征值均非负（\(\lambda_i \ge 0\)）。

    (证明 (a)\(\implies\)(b)：若 \(Tv = \lambda v\) 且 \(v \neq 0\)，则 \(0 \le \langle Tv, v \rangle = \langle \lambda v, v \rangle = \lambda\|v\|^2\)，因 \(\|v\|^2 > 0\)，故 \(\lambda \ge 0\)。)

  • (c) \(T\) 存在正的平方根（即存在正算子 \(R\)，使得 \(T = R^2\)）。

    (证明 (b)\(\implies\)(c)：由谱定理，存在标准正交基使 \(T\) 对应对角阵 \(\text{diag}(\lambda_1, \dots, \lambda_n)\) 且 \(\lambda_i \ge 0\)。只需构造 \(R\) 使得其对角元素为 \(\sqrt{\lambda_i}\) 即可，显然 \(R\) 也是正算子且 \(R^2 = T\)。)

  • (d) \(T\) 存在自伴的平方根（即存在自伴算子 \(R\)，使得 \(T = R^2\)）。

    (证明 (c)\(\implies\)(d)：正算子本身就是自伴的，显然后者成立。)

  • (e) 存在某个算子 \(R \in \mathcal{L}(V)\)，使得 \(T = R^\ast R\)。

    (证明 (e)\(\implies\)(a)：首先验证自伴性：\(T^\ast = (R^\ast R)^\ast = R^\ast (R^\ast)^\ast = R^\ast R = T\)。其次验证非负性：对 \(\forall v \in V\)，\(\langle Tv, v \rangle = \langle R^\ast Rv, v \rangle = \langle Rv, (R^\ast)^\ast v \rangle = \langle Rv, Rv \rangle = \|Rv\|^2 \ge 0\)。证毕。)

4. 唯一平方根定理 (Unique Square Root Theorem)

若 \(T \in \mathcal{L}(V)\) 是正算子，则存在唯一的正算子 \(R\)，使得 \(T = R^2\)。通常将其记为 \(R = \sqrt{T}\)。

(证明思路提要：利用谱定理，空间可分解为 \(T\) 的各特征子空间的直和 \(V = \bigoplus E(\lambda_i, T)\)。假设存在两个正算子 \(R_1, R_2\) 满足 \(T = R_1^2 = R_2^2\)，可以证明 \(E(\lambda_i, T)\) 必定是 \(R_1, R_2\) 的不变子空间，且 \(R_1, R_2\) 在该子空间上的作用均为纯量乘法 \(\sqrt{\lambda_i}I\)。由于在所有直和分量上作用相同，由此得出 \(R_1 = R_2\)。)

13. 等距算子 (Isometries)

等距算子是一类保持空间度量（长度/距离）不变的算子。在实空间中常对应“正交变换”（如旋转、对称），在复空间中对应“酉变换”。

1. 等距算子的定义

设 \(S \in \mathcal{L}(V)\)，若对 \(\forall v \in V\)，均满足向量长度不变：

\[ \|Sv\| = \|v\| \]

则称 \(S\) 为等距算子。

2. 等距算子的等价刻画

设 \(V\) 为有限维内积空间，\(S \in \mathcal{L}(V)\)。以下命题完全等价：

  • (a) \(S\) 是等距算子（即保范数：\(\|Sv\| = \|v\|\)）。

  • (b) \(S\) 保内积：对 \(\forall u, v \in V\)，有 \(\langle Su, Sv \rangle = \langle u, v \rangle\)。

  • (c) 对于 \(V\) 的任意一组标准正交基 \(e_1, \dots, e_n\)，\(Se_1, \dots, Se_n\) 也是一组标准正交基。

  • (d) 存在 \(V\) 的某一组标准正交基 \(e_1, \dots, e_n\)，使得 \(Se_1, \dots, Se_n\) 是一组标准正交基。

  • (e) \(S^\ast S = I\)。

  • (f) \(SS^\ast = I\)。

  • (g) 伴随算子 \(S^\ast\) 也是等距算子。

  • (h) \(S^\ast = S^{-1}\)（即可逆且逆算子等于伴随算子）。

(证明技巧提要：

  • (a)\(\implies\)(b)：利用极化恒等式（Polarization Identity）展开 \(\langle S(u+v), S(u+v) \rangle\) 即可从保范数推出保内积。

  • (c)\(\implies\)(e)：通过考察矩阵元 \(\langle S^\ast S e_i, e_j \rangle = \langle S e_i, (S^\ast)^\ast e_j \rangle = \langle S e_i, S e_j \rangle\)，由于保正交基，结果为 \(\delta_{ij}\)，即证 \(S^\ast S = I\)。)

3. 等距算子与正规性的关系

由等价条件 \(S^\ast S = SS^\ast = I\) 可知，等距算子必定是正规算子。

在复内积空间中，根据复谱定理，等距算子必定存在由特征向量组成的标准正交基。且其所有特征值 \(\lambda_i\) 必须满足单位模长：\(|\lambda_i| = 1\)。

(证明：设 \(Se_i = \lambda_i e_i\)，两边取范数得 \(\|Se_i\| = \|\lambda_i e_i\| = |\lambda_i| \|e_i\|\)。因等距算子保范数，\(\|Se_i\| = \|e_i\| \neq 0\)，故得 \(|\lambda_i| = 1\)。)

14. \(T^\ast T\) 的正性与极分解前奏

在分析任意线性算子时，\(T^\ast T\) 是一个极其重要的构造。

定理：\(T^\ast T\) 必定是正算子

对于任意线性算子 \(T \in \mathcal{L}(V)\)（即使 \(T\) 既不自伴也不正规），算子 \(T^\ast T \in \mathcal{L}(V)\) 始终是一个正算子。

(证明：需验证自伴性和内积非负性：

  1. 自伴性：\((T^\ast T)^\ast = T^\ast (T^\ast)^\ast = T^\ast T\)，故其为自伴算子。

  2. 非负性：对 \(\forall v \in V\)，计算内积 \(\langle T^\ast T v, v \rangle = \langle Tv, (T^\ast)^\ast v \rangle = \langle Tv, Tv \rangle = \|Tv\|^2\)。由范数的非负性知 \(\|Tv\|^2 \ge 0\)。证毕。)

绝对值算子（极分解引入）：

由于 \(T^\ast T\) 始终是正算子，根据前面的“唯一平方根定理”，它必定存在唯一一个正的平方根。我们将这个唯一的正算子 \(\sqrt{T^\ast T}\) 视为算子 \(T\) 的“绝对值”（类比于复数 \(z\) 的绝对值 \(|z| = \sqrt{\bar{z}z}\)），它将在后续的极分解（Polar Decomposition）和奇异值分解（SVD）理论中起基石作用。

15. 极分解 (Polar Decomposition)

在前一节中我们引入了正算子 \(\sqrt{T^\ast T}\)，它能够刻画算子 \(T\) 的某种“绝对值”属性。基于此，我们可以将任意线性算子分解为一个等距算子（起“旋转”或“反射”作用）和一个正算子（起“拉伸”作用）的复合，这就是极分解。

1. 核心引理：算子与其绝对值的范数一致性

对于任意 \(T \in \mathcal{L}(V)\) 及 \(\forall v \in V\)，均有：

\[ \|Tv\| = \|\sqrt{T^\ast T}v\| \]

(证明：\(\|Tv\|^2 = \langle Tv, Tv \rangle = \langle T^\ast Tv, v \rangle = \langle (\sqrt{T^\ast T})^2v, v \rangle = \langle \sqrt{T^\ast T}v, (\sqrt{T^\ast T})^\ast v \rangle\)。因为 \(\sqrt{T^\ast T}\) 是正算子，必然自伴，故上式等于 \(\langle \sqrt{T^\ast T}v, \sqrt{T^\ast T}v \rangle = \|\sqrt{T^\ast T}v\|^2\)。)

推论： 由上述范数一致性可直接得出，两者的零空间相同，即 \(\text{null } T = \text{null } \sqrt{T^\ast T}\)。

（这是因为 \(v \in \text{null } T \iff Tv = 0 \iff \|Tv\| = 0 \iff \|\sqrt{T^\ast T}v\| = 0 \iff \sqrt{T^\ast T}v = 0 \iff v \in \text{null } \sqrt{T^\ast T}\)）。

2. 极分解定理

设 \(\dim V < \infty\)，\(T \in \mathcal{L}(V)\)。必定存在一个等距算子 \(S \in \mathcal{L}(V)\)，使得：

\[ T = S\sqrt{T^\ast T} \]

极分解定理的构造性证明：

为了构造等距算子 \(S\)，我们将其作用域分为两部分分别定义，然后作直和。

  1. 在值域上的定义 (\(S_1\))：

    定义 \(S_1: \text{range }\sqrt{T^\ast T} \to \text{range } T\)，映射规则为 \(S_1(\sqrt{T^\ast T}v) = Tv\)。

    • 良定义验证：若 \(\sqrt{T^\ast T}v_1 = \sqrt{T^\ast T}v_2\)，则 \(\sqrt{T^\ast T}(v_1 - v_2) = 0\)，即 \(v_1 - v_2 \in \text{null } \sqrt{T^\ast T}\)。由推论可知 \(v_1 - v_2 \in \text{null } T\)，故 \(T(v_1 - v_2) = 0 \implies Tv_1 = Tv_2\)。因此 \(S_1\) 的定义与 \(v\) 的选取无关。

    • 等距性验证：\(\|S_1(\sqrt{T^\ast T}v)\| = \|Tv\| = \|\sqrt{T^\ast T}v\|\)，因此 \(S_1\) 保持范数不变。

  2. 在正交补上的定义 (\(S_2\))：

    由于 $\text{null } T = \text{null } \sqrt{T^\ast T}$，根据秩-零度定理（维数公式），必有 $\dim(\text{range } T) = \dim(\text{range } \sqrt{T^\ast T})$。

由于在有限维内积空间中，子空间与其正交补的维数和等于全空间维数，因此它们的正交补维数也相等：

$$

    \dim(\text{range } T)^\perp = \dim(\text{range } \sqrt{T^\ast T})^\perp $$

    设 $e_1, \dots, e_m$ 为 $(\text{range } \sqrt{T^\ast T})^\perp$ 的标准正交基，$f_1, \dots, f_m$ 为 $(\text{range } T)^\perp$ 的标准正交基。

我们定义线性映射 $S_2: (\text{range } \sqrt{T^\ast T})^\perp \to (\text{range } T)^\perp$，使得 $S_2(\sum a_i e_i) = \sum a_i f_i$。由于将一组标准正交基映射为另一组标准正交基，$S_2$ 显然是一个等距算子。

  3. 拼接 (\(S = S_1 \oplus S_2\))：

    全空间可进行正交直和分解：\(V = (\text{range }\sqrt{T^\ast T}) \oplus (\text{range }\sqrt{T^\ast T})^\perp\)。

    对任意 \(u = \sqrt{T^\ast T}v + \sum a_i e_i \in V\)，定义：

    \[ S(u) = S_1(\sqrt{T^\ast T}v) + S_2(\sum a_i e_i) = Tv + \sum a_i f_i \]

    验证 \(S\) 的全局等距性：

    由于 \(Tv \in \text{range } T\)，而 \(\sum a_i f_i \in (\text{range } T)^\perp\)，两者正交。根据勾股定理：

    \[ \|S(u)\|^2 = \|Tv + \sum a_i f_i\|^2 = \|Tv\|^2 + \sum |a_i|^2 \]

    同理，由于 \(\sqrt{T^\ast T}v\) 与 \(\sum a_i e_i\) 正交：

    \[ \|u\|^2 = \|\sqrt{T^\ast T}v + \sum a_i e_i\|^2 = \|\sqrt{T^\ast T}v\|^2 + \sum |a_i|^2 \]

    因为 \(\|Tv\| = \|\sqrt{T^\ast T}v\|\)，所以 \(\|S(u)\|^2 = \|u\|^2\)，\(S\) 是 \(V\) 上的等距算子。

    最后，显然对 \(\forall v \in V\)，有 \(S(\sqrt{T^\ast T}v) = Tv\)，故 \(T = S\sqrt{T^\ast T}\) 成立。

16. 奇异值与奇异值分解 (Singular Value Decomposition, SVD)

线性代数中引入奇异值的根本动机：并非所有的算子（矩阵）都有完美的特征值和特征向量（例如无法对角化，或者特征值为复数），但是，每一个算子都必定存在一组完美的、非负的奇异值。

极分解从算子代数的角度给出了 \(T\) 的结构，而奇异值分解则从基底和矩阵表示的角度，揭示了算子的几何本质。

1. 奇异值的定义

设 \(T \in \mathcal{L}(V)\)。正算子 \(\sqrt{T^\ast T}\) 的所有特征值被称为算子 \(T\) 的奇异值（Singular Values）。

  • 由于 \(\sqrt{T^\ast T}\) 是正算子，它的特征值必定均为非负实数。

  • 全空间可以分解为 \(\sqrt{T^\ast T}\) 各特征子空间的直和：\(V = E(\lambda_1, \sqrt{T^\ast T}) \oplus \dots \oplus E(\lambda_s, \sqrt{T^\ast T})\)。特征值的出现次数即为其代数重数。

(谱定理的直接应用： 因为 \(\sqrt{T^*T}\) 依然是一个自伴算子，它的特征向量不仅能张成整个空间，而且各个特征子空间 \(E(\lambda_i)\) 之间是相互正交的。)

2. 奇异值计算示例

设 \(V = \mathbb{F}^4\)，\(T(z_1, z_2, z_3, z_4) = (0, 3z_1, 2z_2, -3z_4)\)。

在标准正交基 \(e_1, e_2, e_3, e_4\) 下，\(T\) 的矩阵表示为：

\[ [T] = \begin{pmatrix} 0 & 0 & 0 & 0 \\ 3 & 0 & 0 & 0 \\ 0 & 2 & 0 & 0 \\ 0 & 0 & 0 & -3 \end{pmatrix} \]

伴随算子的矩阵是原矩阵的共轭转置，故 \(T^\ast T\) 的矩阵表示为：

\[ [T^\ast T] = \begin{pmatrix} 0 & 3 & 0 & 0 \\ 0 & 0 & 2 & 0 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & -3 \end{pmatrix} \begin{pmatrix} 0 & 0 & 0 & 0 \\ 3 & 0 & 0 & 0 \\ 0 & 2 & 0 & 0 \\ 0 & 0 & 0 & -3 \end{pmatrix} = \begin{pmatrix} 9 & 0 & 0 & 0 \\ 0 & 4 & 0 & 0 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 9 \end{pmatrix} \]

显然这是一个对角矩阵。对其取算子平方根 \(\sqrt{T^\ast T}\)，只需对对角线元素非负开方：

\[ [\sqrt{T^\ast T}] = \begin{pmatrix} 3 & 0 & 0 & 0 \\ 0 & 2 & 0 & 0 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 3 \end{pmatrix} \]

因此，\(T\) 的奇异值为：\(3, 2, 0, 3\)（包含重数通常按降序排列，即 \(3, 3, 2, 0\)）。

3. 奇异值分解定理 (SVD)

任何一个线性变换，都可以被完美拆解为三个极其基础的独立动作：旋转 \(\to\) 拉伸 \(\to\) 再旋转。

设 \(T \in \mathcal{L}(V)\)，\(s_1, s_2, \dots, s_n\) 为 \(T\) 的奇异值（已计入重数）。

则必然存在 \(V\) 的两组标准正交基 \(e_1, \dots, e_n\) 和 \(f_1, \dots, f_n\)，使得对于 \(\forall v \in V\)，有：

\[ Tv = s_1\langle v, e_1 \rangle f_1 + s_2\langle v, e_2 \rangle f_2 + \dots + s_n\langle v, e_n \rangle f_n \]

等价的矩阵视角：算子 \(T\) 将第一组基底 \((e_1, \dots, e_n)\) 映射为第二组基底 \((f_1, \dots, f_n)\) 的标量倍，即 \(Te_i = s_i f_i\)。

证明过程：

  1. 根据极分解定理，存在等距算子 \(S\)，使得 \(T = S\sqrt{T^\ast T}\)。

  2. 因为 \(\sqrt{T^\ast T}\) 是正算子（从而也是自伴算子），由谱定理（Spectral Theorem）可知，存在由 \(\sqrt{T^\ast T}\) 的特征向量组成的一组标准正交基，记为 \(e_1, \dots, e_n\)。

    此时满足 \(\sqrt{T^\ast T}e_i = s_i e_i\)。

  3. 对于任意 \(v \in V\)，可利用标准正交基展开：\(v = \sum_{i=1}^n \langle v, e_i \rangle e_i\)。

  4. 将算子 \(T\) 作用于 \(v\)：

    $$

    \begin{aligned} Tv &= (S\sqrt{T^\ast T}) \left( \sum_{i=1}^n \langle v, e_i \rangle e_i \right) \ &= S \left( \sum_{i=1}^n \langle v, e_i \rangle \sqrt{T^\ast T} e_i \right) \ &= S \left( \sum_{i=1}^n \langle v, e_i \rangle s_i e_i \right) \ &= \sum_{i=1}^n s_i \langle v, e_i \rangle S(e_i) \end{aligned} $$

  5. 令 \(f_i = S(e_i)\)。因为 \(S\) 是等距算子，等距算子能够将一组标准正交基映射为另一组标准正交基。所以 \(f_1, \dots, f_n\) 同样是 \(V\) 的一组标准正交基。

  6. 代入即得 \(Tv = \sum_{i=1}^n s_i \langle v, e_i \rangle f_i\)。定理得证。

此外，由 \(f_i = S(e_i)\) 和 \(\sqrt{T^\ast T}e_i = s_i e_i\) 也可以直接得到 \(Te_i = S(\sqrt{T^\ast T}e_i) = S(s_i e_i) = s_i f_i\)。

这表明，在基底选取适当的情况下，\(T\) 作为一个从基底 \((e_i)\) 到基底 \((f_i)\) 的映射，其表现出的矩阵即为对角线上元素是奇异值 \(s_i\) 的“对角”矩阵结构：

\[ T(e_1, \dots, e_n) = (f_1, \dots, f_n) \begin{pmatrix} s_1 & & 0 \\ & \ddots & \\ 0 & & s_n \end{pmatrix} \]