高等代数 · 课程学习笔记

第 P131 集 · 六:正交矩阵性质、正交补、正交投影

Orthogonal Matrices, Orthogonal Complements and Orthogonal Projections
北大丘维声教授 · 清华大学 2011 级 进度 P131 / 151 集 核心概念:正交补 · 直和分解 · 正交投影 · 最小二乘
提示:数学公式渲染组件(KaTeX)加载失败,公式以源码形式显示,不影响阅读内容。联网后刷新即可正常渲染。

☰本集目录

◎学习目标

  1. 理解正交补\(U^\perp\) 的定义,掌握其作为子空间(且继承内积结构)的基本性质;
  2. 掌握有限维子空间的直和分解定理:\(V = U \oplus U^\perp\),并会构造性地证明;
  3. 理解正交投影\(P_U(\alpha)\) 的定义,掌握其显式计算公式(利用标准正交基);
  4. 掌握正交投影的最短距离性质:\(\|\alpha-P_U(\alpha)\|\leq\|\alpha-\gamma\|\) 对一切 \(\gamma\in U\) 成立。

1正交补的定义与基本性质 ⏱ 00:00

从立体几何直观出发:在 \(\mathbb{R}^3\) 中,过原点的平面 \(U\) 与过原点且垂直于该平面的直线 \(W\) 互为"正交补"。我们将此概念推广到一般的欧氏空间。

定义 · 正交补 设 \(S\) 是欧氏空间 \(V\) 的任意非空子集,定义 \(S\) 的正交补为:
\[ S^\perp = \{\,\beta\in V \mid (\beta,\alpha)=0,\;\forall\,\alpha\in S\,\}. \]
特别地,当 \(U\) 是 \(V\) 的子空间时,\(U^\perp\) 称为 \(U\) 的正交补。⏱ 02:00
命题 · 正交补是子空间 对任意非空子集 \(S\subseteq V\),\(S^\perp\) 是 \(V\) 的子空间,且 \(S^\perp\) 本身也是欧氏空间(内积限制在其上)。
证明

非空:零向量与任何向量的内积为 0,故 \(0\in S^\perp\),非空显然成立。⏱ 04:30

加法封闭:若 \(\beta_1,\beta_2\in S^\perp\),则对任意 \(\alpha\in S\),\((\beta_1+\beta_2,\alpha)=(\beta_1,\alpha)+(\beta_2,\alpha)=0+0=0\),故 \(\beta_1+\beta_2\in S^\perp\)。

数乘封闭:若 \(\beta\in S^\perp\),\(k\in\mathbb{R}\),则 \((k\beta,\alpha)=k(\beta,\alpha)=k\cdot 0=0\),故 \(k\beta\in S^\perp\)。

因此 \(S^\perp\) 是子空间。内积限制在 \(S^\perp\) 上仍满足正定性、对称性、双线性,故 \(S^\perp\) 也是欧氏空间。⏱ 06:00

丘老师提醒 \(S\) 不必是子空间——哪怕只是一个向量也完全可以定义它的正交补。特别的,若 \(U\) 本身是子空间,则 \(U^\perp\) 也是子空间。⏱ 07:00

2直和分解 \(V = U \oplus U^\perp\) ⏱ 08:00

定理 · 正交补的直和分解 设 \(U\) 是欧氏空间 \(V\) 的有限维子空间,则:
\[ V = U \oplus U^\perp. \]
即:对任意 \(\alpha\in V\),存在唯一分解 \(\alpha=\alpha_1+\alpha_2\),其中 \(\alpha_1\in U\),\(\alpha_2\in U^\perp\)。⏱ 10:00
证明(构造性证明)

第一步:构造分解。取 \(U\) 的一个标准正交基 \(\varepsilon_1,\dots,\varepsilon_m\)(由施密特正交化定理保证存在),令:

\[ \alpha_1 = \sum_{i=1}^{m}(\alpha,\varepsilon_i)\,\varepsilon_i, \qquad \alpha_2 = \alpha - \alpha_1. \]

显然 \(\alpha_1\in U\)。验证 \(\alpha_2\in U^\perp\):对每个 \(j=1,\dots,m\):

\[ (\alpha_2,\varepsilon_j) = (\alpha-\alpha_1,\varepsilon_j) = (\alpha,\varepsilon_j) - \sum_{i=1}^m(\alpha,\varepsilon_i)(\varepsilon_i,\varepsilon_j) = (\alpha,\varepsilon_j) - (\alpha,\varepsilon_j) = 0. \]

因 \(\varepsilon_1,\dots,\varepsilon_m\) 是 \(U\) 的基,\(\alpha_2\) 与所有基向量正交,故 \(\alpha_2\in U^\perp\)。⏱ 14:00

第二步:唯一性。设 \(\alpha=\gamma_1+\gamma_2=\alpha_1+\alpha_2\),其中 \(\gamma_1,\alpha_1\in U\),\(\gamma_2,\alpha_2\in U^\perp\)。则 \(\gamma_1-\alpha_1=\alpha_2-\gamma_2\),左边属于 \(U\),右边属于 \(U^\perp\),故属于 \(U\cap U^\perp\)。

对 \(\delta\in U\cap U^\perp\),有 \((\delta,\delta)=0\)(因为 \(\delta\in U^\perp\) 与自身正交),由内积正定性得 \(\delta=0\)。因此 \(U\cap U^\perp=\{0\}\),分解唯一,即 \(V=U\oplus U^\perp\)。⏱ 18:00

重要补充:无限维情形 当 \(V\) 和 \(U\) 都是无限维时,上述分解不一定成立。需要引入希尔伯特空间(完备的内积空间)的概念,要求 \(U\) 为闭子空间,此时分解依然成立。⏱ 21:00

丘老师指出,实数系的完备性(柯西序列必有极限)是关键工具;欧氏空间自动完备,因此有限维情形无需额外条件。

几何直观 在 \(\mathbb{R}^3\) 中,平面 \(U\)(二维)与其法线 \(U^\perp\)(一键)直和填满全空间。对任意向量 \(\alpha\),\(\alpha_1\) 是 \(\alpha\) 在平面上的"垂足",\(\alpha_2\) 是"悬空部分"。⏱ 11:30

3正交投影的定义与构造 ⏱ 22:00

定义 · 正交投影 设 \(V=U\oplus U^\perp\),对任意 \(\alpha\in V\),其唯一分解 \(\alpha=\alpha_1+\alpha_2\)(\(\alpha_1\in U\),\(\alpha_2\in U^\perp\))中的 \(\alpha_1\) 称为 \(\alpha\) 在 \(U\) 上的正交投影,记作:
\[ \alpha_1 = P_U(\alpha). \]
映射 \(P_U:V\to U\) 称为正交投影映射(或称正投影),它是一个线性变换。⏱ 24:00
显式公式(利用标准正交基计算) 若 \(\varepsilon_1,\dots,\varepsilon_m\) 是 \(U\) 的标准正交基,则对任意 \(\alpha\in V\):
\[ P_U(\alpha) = \sum_{i=1}^{m}(\alpha,\varepsilon_i)\,\varepsilon_i. \]

证明:由直和分解,\(\alpha_2=\alpha-P_U(\alpha)\)。验证 \((\alpha_2,\varepsilon_j)=0\) 对所有 \(j\) 成立(见定理证明部分),故 \(\alpha_2\in U^\perp\),这正是正交投影的构造。

正交投影的线性性

由显式公式,\(P_U\) 是线性组合运算,自然保持加法和数乘:\(P_U(\alpha+\beta)=P_U(\alpha)+P_U(\beta)\),\(P_U(k\alpha)=kP_U(\alpha)\)。⏱ 28:00

进一步,\(P_U\) 是幂等变换:\(P_U^2=P_U\),因为 \(P_U(\alpha)\in U\),再投影一次不变。

4正交投影的几何性质(最短距离)⏱ 30:00

定理 · 正交投影的最短距离性质 设 \(V=U\oplus U^\perp\),\(P_U(\alpha)=\alpha_1\)。则对任意 \(\gamma\in U\):
\[ \|\alpha-\alpha_1\|\leq\|\alpha-\gamma\|. \]
等号成立当且仅当 \(\gamma=\alpha_1\)。⏱ 32:00
证明

必要性:对任意 \(\gamma\in U\),考虑向量分解:

\[ \alpha-\gamma = (\alpha-\alpha_1) + (\alpha_1-\gamma). \]

其中 \(\alpha-\alpha_1\in U^\perp\),\(\alpha_1-\gamma\in U\)(因 \(U\) 是子空间),二者正交。由勾股定理:

\[ \|\alpha-\gamma\|^2 = \|\alpha-\alpha_1\|^2 + \|\alpha_1-\gamma\|^2 \geq \|\alpha-\alpha_1\|^2. \]

取平方根即得结论,等号当且仅当 \(\|\alpha_1-\gamma\|=0\) 即 \(\gamma=\alpha_1\)。⏱ 35:00

充分性:若 \(\|\alpha-\alpha_1\|\leq\|\alpha-\gamma\|\) 对所有 \(\gamma\in U\) 成立,设 \(\delta=P_U(\alpha)\) 为标准正交投影,则由必要性有 \(\|\alpha-\delta\|\leq\|\alpha-\alpha_1\|\),结合已知得二者相等,再推得 \(\alpha_1=\delta\)。⏱ 38:00

立体几何对应 "垂线段最短"——在高中立体几何中,点到平面的距离就是该点到平面上任意点距离的最小值,垂足即为最短点。本定理将这一几何事实严格推广到任意欧氏空间的子空间上。⏱ 41:00

★重点回顾

1
正交补:\(U^\perp=\{\beta\mid(\beta,\alpha)=0,\forall\alpha\in U\}\) 是子空间,也是欧氏空间。
2
直和分解:有限维子空间 \(U\) 满足 \(V=U\oplus U^\perp\),证明关键是施密特正交化 + 勾股定理。
3
正交投影:\(P_U(\alpha)=\sum(\alpha,\varepsilon_i)\varepsilon_i\),是线性幂等变换,像为 \(U\),核为 \(U^\perp\)。
4
最短距离:\(\|\alpha-P_U(\alpha)\|\) 是 \(\alpha\) 到子空间 \(U\) 的最短距离,由勾股定理保证。
5
无限维注意:无限维欧氏空间不自动完备,分解定理需在希尔伯特空间框架下、对闭子空间才成立。

⚠易错点提醒

常见错误
  1. 混淆正交投影与一般投影:只有当补空间取为 \(U^\perp\) 时才是"正交投影";取其他补空间时投影不保持最短距离性质。
  2. 忽略有限维条件:定理 \(V=U\oplus U^\perp\) 对无限维 \(U\) 不成立,必须要求 \(U\) 闭(希尔伯特空间理论)。
  3. 混淆内积与距离:\(\|\alpha-\gamma\|\) 是距离,\(\|\alpha-\gamma\|^2=(\alpha-\gamma,\alpha-\gamma)\) 是距离的平方,勾股定理用在距离的平方上更直接。
  4. 正交补的元素判定:\(\beta\in U^\perp\Leftrightarrow(\beta,\varepsilon_i)=0\) 对所有基向量 \(\varepsilon_i\) 成立(不必检验所有向量)。

✎自测与作业

  1. 在 \(\mathbb{R}^3\) 中,设 \(U=\operatorname{span}\{(1,1,0)^T,(0,1,1)^T\}\),用施密特正交化求出 \(U\) 的标准正交基,并写出任意向量 \(\alpha=(a,b,c)^T\) 在 \(U\) 上的正交投影公式。
  2. 验证:对 \(\alpha=(1,2,3)^T\),习题 1 所得投影 \(P_U(\alpha)\) 满足 \(\alpha-P_U(\alpha)\perp U\)。
  3. 设 \(U=\{(x,y,z)\in\mathbb{R}^3\mid x+y+z=0\}\),求 \(U^\perp\) 并验证 \(\mathbb{R}^3=U\oplus U^\perp\)。
  4. 在 \(\mathbb{R}^4\) 中,设 \(U=\operatorname{span}\{(1,0,1,0)^T,(0,1,0,1)^T\}\),求 \(U^\perp\) 的一组标准正交基。
  5. (思考)证明:正交投影 \(P_U\) 是幂等变换(即 \(P_U^2=P_U\)),并求其矩阵表示(在 \(V\) 的某一组基下)。
  6. (选做)在多项式空间 \(\mathbb{R}_2[x]\)(次数≤2的多项式)中,内积定义为 \((f,g)=\int_{-1}^{1}f(x)g(x)\,dx\),求 \(U=\operatorname{span}\{1,x\}\) 的正交补,并求 \(x^2\) 在 \(U\) 上的正交投影。
下一集预告 第 P132 集 · 七:最佳逼近元、线性同构与保距同构、欧几里得空间同构定理:两个欧氏空间同构当且仅当维数相同。