高等代数 · 课程学习笔记

第 P129 集 · 四:施密特正交化

Gram-Schmidt Orthogonalization
北大丘维声教授 · 清华大学 2011 级 进度 P129 / 151 集 核心概念:施密特正交化 · 正交基构造 · 标准正交基 · 度量矩阵
提示:数学公式渲染组件(KaTeX)加载失败,公式以源码形式显示,不影响阅读内容。联网后刷新即可正常渲染。

☰本集目录

◎学习目标

  1. 理解为什么要将线性无关向量组正交化——正交基在计算上具有极大优越性;
  2. 熟练掌握施密特(Schmidt)正交化的递推公式;
  3. 理解并会运用数学归纳法证明正交化过程的正确性;
  4. 掌握通过施密特正交化单位化得到标准正交基的完整流程;
  5. 理解度量矩阵在正交基下的特殊形式(对角阵),以及它与内积计算的关系。

1问题动机 ⏱ 00:01

我们已经知道:任何 \(n\) 维实线性空间 \(V\) 都有基,但普通基不一定有好的性质。如果能找到一个两两正交的基(正交基),甚至标准正交基,很多计算会大大简化。

核心问题 给定一个线性无关的向量组 \(\alpha_1,\dots,\alpha_s\),能否构造出一个两两正交的非零向量组 \(\beta_1,\dots,\beta_s\),使得 \(\{\beta_i\}\) 与 \(\{\alpha_i\}\)等价(互相线性表出)?⏱ 00:05

几何直观(复习):在 \(\mathbb{R}^2\) 中,给定向量 \(a\) 和 \(b\)(线性无关),求一个与 \(a\) 正交的向量 \(c\)。⏱ 00:11

\[ c = b - \frac{(b,a)}{(a,a)}\,a \]

验证:\((c,a)=(b,a)-\frac{(b,a)}{(a,a)}(a,a)=(b,a)-(b,a)=0\),故 \(c\perp a\)。⏱ 00:19

施密特正交化就是把这个思想推广到任意个数、任意维度。

2施密特正交化公式 ⏱ 01:14

施密特(Schmidt)正交化公式 设 \(\alpha_1,\dots,\alpha_s\) 是实内积空间 \(V\) 中的一个线性无关向量组。定义:
\[ \beta_1=\alpha_1, \]
\[ \beta_k=\alpha_k-\sum_{i=1}^{k-1}\frac{(\alpha_k,\beta_i)}{(\beta_i,\beta_i)}\,\beta_i,\qquad k=2,3,\dots,s. \]
则 \(\beta_1,\dots,\beta_s\) 是两两正交的非零向量组,且与 \(\alpha_1,\dots,\alpha_s\) 等价。⏱ 01:18

记忆口诀:第 \(k\) 个新向量 = 原来的 \(\alpha_k\) 减去它在前面所有已构造好的 \(\beta_i\) 上的"投影分量"。⏱ 02:11

前三项展开
\[ \begin{aligned} \beta_1&=\alpha_1,\\ \beta_2&=\alpha_2-\frac{(\alpha_2,\beta_1)}{(\beta_1,\beta_1)}\,\beta_1,\\ \beta_3&=\alpha_3-\frac{(\alpha_3,\beta_1)}{(\beta_1,\beta_1)}\,\beta_1-\frac{(\alpha_3,\beta_2)}{(\beta_2,\beta_2)}\,\beta_2. \end{aligned} \]
分子是新向量与原向量的内积,分母是原向量的长度的平方。⏱ 02:05

3定理与证明(数学归纳法)⏱ 02:02

定理 上述施密特正交化过程得到的 \(\beta_1,\dots,\beta_s\) 满足:
(1) 两两正交:\((\beta_i,\beta_j)=0\)(\(i\neq j\));
(2) 每个 \(\beta_k\neq 0\);
(3) \(\{\beta_1,\dots,\beta_k\}\) 与 \(\{\alpha_1,\dots,\alpha_k\}\) 等价,对每个 \(k\leq s\)。
证明(数学归纳法)

基础:\(s=1\) 时,\(\beta_1=\alpha_1\neq 0\)(线性无关意味着每个向量非零),结论平凡成立。⏱ 03:06

归纳假设:假设对 \(s=k\) 时命题成立,即 \(\beta_1,\dots,\beta_k\) 两两正交、非零,且与 \(\alpha_1,\dots,\alpha_k\) 等价。⏱ 03:37

归纳步:考虑 \(s=k+1\)。定义:

\[ \beta_{k+1}=\alpha_{k+1}-\sum_{i=1}^{k}\frac{(\alpha_{k+1},\beta_i)}{(\beta_i,\beta_i)}\,\beta_i. \]

正交性:对任意 \(j\leq k\),计算 \((\beta_{k+1},\beta_j)\):⏱ 04:04

\[ (\beta_{k+1},\beta_j)=(\alpha_{k+1},\beta_j)-\sum_{i=1}^{k}\frac{(\alpha_{k+1},\beta_i)}{(\beta_i,\beta_i)}\,(\beta_i,\beta_j). \]

由归纳假设,\(\beta_i\perp\beta_j\)(\(i\neq j\)),故求和中只有 \(i=j\) 的项非零:⏱ 04:58

\[ (\beta_{k+1},\beta_j)=(\alpha_{k+1},\beta_j)-\frac{(\alpha_{k+1},\beta_j)}{(\beta_j,\beta_j)}\,(\beta_j,\beta_j)=0. \]

故 \(\beta_{k+1}\) 与所有 \(\beta_j\)(\(j\leq k\))正交。⏱ 05:48

非零性:若 \(\beta_{k+1}=0\),则 \(\alpha_{k+1}\) 可由 \(\beta_1,\dots,\beta_k\)(进而由 \(\alpha_1,\dots,\alpha_k\))线性表出,与 \(\alpha_1,\dots,\alpha_{k+1}\) 线性无关矛盾。故 \(\beta_{k+1}\neq 0\)。⏱ 06:03

等价性:由定义 \(\beta_{k+1}\) 可由 \(\alpha_{k+1},\beta_1,\dots,\beta_k\) 线性表出;由归纳假设 \(\beta_1,\dots,\beta_k\) 可由 \(\alpha_1,\dots,\alpha_k\) 表出,故 \(\beta_{k+1}\) 可由 \(\alpha_1,\dots,\alpha_{k+1}\) 表出。反之,\(\alpha_{k+1}=\beta_{k+1}+\sum\cdots\),也可由 \(\beta\) 组表出。故两组等价。⏱ 06:17

由数学归纳法,定理对一切正整数 \(s\) 成立。⏱ 07:47

4单位化:得到标准正交基 ⏱ 07:01

施密特正交化给出正交基 \(\beta_1,\dots,\beta_n\)。要得到标准正交基,只需对每个 \(\beta_i\) 单位化:⏱ 07:08

单位化公式
\[ \varepsilon_i=\frac{\beta_i}{\|\beta_i\|}=\frac{\beta_i}{\sqrt{(\beta_i,\beta_i)}},\qquad i=1,\dots,n. \]
则 \(\varepsilon_1,\dots,\varepsilon_n\) 是 \(V\) 的一个标准正交基。⏱ 07:16
整体流程
  1. 施密特正交化:从线性无关组 \(\alpha_1,\dots,\alpha_n\) 得到正交组 \(\beta_1,\dots,\beta_n\);
  2. 单位化:\(\varepsilon_i=\beta_i/\|\beta_i\|\),得到标准正交基。
这是求标准正交基的完整算法。⏱ 07:28
推论:标准正交基的存在性 任何 \(n\) 维实内积空间都存在标准正交基。⏱ 07:05

证明:任取 \(V\) 的一个基 \(\alpha_1,\dots,\alpha_n\)(线性无关),施密特正交化得到正交基 \(\beta_1,\dots,\beta_n\),再单位化得到标准正交基 \(\varepsilon_1,\dots,\varepsilon_n\)。⏱ 07:01

5计算示例 ⏱ 08:45

例:在 \(\mathbb{R}^3\)(标准内积)中,已知线性无关向量组:

\[ \alpha_1=(1,1,0)^T,\quad \alpha_2=(1,0,1)^T,\quad \alpha_3=(0,1,1)^T. \]

第一步:施密特正交化

\[ \beta_1=\alpha_1=(1,1,0)^T. \]
\[ (\alpha_2,\beta_1)=1\cdot1+0\cdot1+1\cdot0=1,\quad (\beta_1,\beta_1)=2. \]
\[ \beta_2=\alpha_2-\frac{1}{2}\beta_1=\begin{pmatrix}1\\0\\1\end{pmatrix}-\frac{1}{2}\begin{pmatrix}1\\1\\0\end{pmatrix}=\begin{pmatrix}\frac{1}{2}\\-\frac{1}{2}\\1\end{pmatrix}. \]
\[ (\alpha_3,\beta_1)=0\cdot1+1\cdot1+1\cdot0=1,\quad (\alpha_3,\beta_2)=0\cdot\tfrac{1}{2}+1\cdot(-\tfrac{1}{2})+1\cdot1=\tfrac{1}{2},\quad (\beta_2,\beta_2)=\tfrac{1}{4}+\tfrac{1}{4}+1=\tfrac{3}{2}. \]
\[ \beta_3=\alpha_3-\frac{1}{3/2}\beta_1-\frac{1/2}{3/2}\beta_2=\alpha_3-\frac{2}{3}\beta_1-\frac{1}{3}\beta_2. \]

第二步:单位化

\[ \varepsilon_1=\frac{\beta_1}{\|\beta_1\|}=\frac{1}{\sqrt{2}}(1,1,0)^T,\quad \varepsilon_2=\frac{\beta_2}{\|\beta_2\|}=\frac{1}{\sqrt{3/2}}\left(\tfrac{1}{2},-\tfrac{1}{2},1\right)^T. \]
计算提示 施密特正交化计算量较大,务必仔细核对每一步的内积和除法。⏱ 08:58 分母是 \((\beta_i,\beta_i)\)(内积,即长度的平方),不是 \(\|\beta_i\|\)。

6度量矩阵与正交基 ⏱ 09:14

在基 \(\eta_1,\dots,\eta_n\) 下,内积的度量矩阵 \(A\) 定义为:

\[ A_{ij}=(\eta_i,\eta_j). \]

对任意 \(\alpha,\beta\),若坐标列向量分别为 \(X,Y\),则 ⏱ 09:28

\[ (\alpha,\beta)=X^TAY. \]
正交基下的度量矩阵 若 \(\eta_1,\dots,\eta_n\) 是正交基(\((\eta_i,\eta_j)=0\),\(i\neq j\)),则度量矩阵 \(A\) 是对角矩阵:
\[ A=\operatorname{diag}\big((\eta_1,\eta_1),\,(\eta_2,\eta_2),\,\dots,\,(\eta_n,\eta_n)\big). \]
特别地,若 \(\eta_1,\dots,\eta_n\) 是标准正交基,则 \(A=I_n\)(单位矩阵)。⏱ 09:56
为什么标准正交基最重要 在标准正交基下,\((\alpha,\beta)=X^TY=\sum x_iy_i\)——内积的计算与 \(\mathbb{R}^n\) 的标准内积完全一致。所有度量概念(长度、夹角、正交、距离)都有最简洁的坐标表达。⏱ 10:43

★重点回顾

1
施密特正交化公式:\(\beta_1=\alpha_1\),\(\beta_k=\alpha_k-\sum_{i=1}^{k-1}\frac{(\alpha_k,\beta_i)}{(\beta_i,\beta_i)}\beta_i\)。记忆要点:减的是"投影分量之和"。
2
关键性质:\(\beta_i\perp\beta_j\)(\(i\neq j\)),\(\beta_i\neq 0\),且 \(\operatorname{span}\{\beta_1,\dots,\beta_k\}=\operatorname{span}\{\alpha_1,\dots,\alpha_k\}\)。
3
单位化:\(\varepsilon_i=\beta_i/\|\beta_i\|\),得到标准正交基。
4
存在性:任何有限维实内积空间都有标准正交基(先取基→施密特正交化→单位化)。
5
度量矩阵:在标准正交基下为 \(I_n\),在正交基下为对角阵;内积公式 \((\alpha,\beta)=X^TAY\)。
6
证明方法:用数学归纳法,核心是利用"已正交的 \(\beta_i\) 组"消去求和中的交叉项。

⚠易错点提醒

常见错误
  1. 分母写错:公式中分母是 \((\beta_i,\beta_i)=\|\beta_i\|^2\)(内积/长度的平方),不是 \(\|\beta_i\|\)(长度)。
  2. 分子写错:分子是 \((\alpha_k,\beta_i)\)(新向量与已正交化向量的内积),不是 \((\beta_i,\beta_i)\) 或其他组合。
  3. 求和下标范围:\(\beta_k\) 的公式中,求和是从 \(i=1\) 到 \(k-1\),不是到 \(k\)。
  4. 忘记验证非零:理论上 \(\beta_k\neq 0\) 由线性无关保证,但计算时要检查每一步是否真的非零。
  5. 混淆正交化与单位化:施密特正交化只得到正交基(各向量长度未必为1),还需单独单位化才能得到标准正交基。
  6. 在一般内积下计算:若内积不是标准的(例如加权内积),内积的计算公式要相应改变,不能直接套用分量乘积之和。

✎自测与作业

  1. 在 \(\mathbb{R}^3\)(标准内积)中,对 \(\alpha_1=(1,0,0)^T\),\(\alpha_2=(1,1,0)^T\),\(\alpha_3=(1,1,1)^T\) 施行施密特正交化,得到正交基 \(\beta_1,\beta_2,\beta_3\),并单位化为标准正交基 \(\varepsilon_1,\varepsilon_2,\varepsilon_3\)。
  2. 在 \(\mathbb{R}^3\) 中,对 \(\alpha_1=(1,1,1)^T\),\(\alpha_2=(1,-1,0)^T\),\(\alpha_3=(0,1,-1)^T\) 施行施密特正交化(提示:\(\alpha_1,\alpha_2\) 已经正交,可以简化计算)。
  3. 在带权内积 \((\alpha,\beta)=2a_1b_1+a_2b_2+3a_3b_3\) 的 \(\mathbb{R}^3\) 中,对 \(\alpha_1=(1,0,0)^T\),\(\alpha_2=(0,1,0)^T\) 施密特正交化,看它们是否原本就正交。
  4. 证明:若 \(\alpha_1,\dots,\alpha_n\) 线性无关,则施密特正交化得到的 \(\beta_1,\dots,\beta_n\) 也线性无关(实际上更强:它们两两正交)。
  5. (思考)施密特正交化得到的标准正交基是否唯一?若不唯一,差异在哪里?
  6. (选做)在 \(C[0,1]\)(连续函数空间,内积 \((f,g)=\int_0^1 f(x)g(x)\,dx\))中,对函数组 \(1,x,x^2\) 施密特正交化,得到三次伯恩斯坦多项式的前几项。
关键公式(务必牢记)
\[ \boxed{\beta_k=\alpha_k-\sum_{i=1}^{k-1}\frac{(\alpha_k,\beta_i)}{(\beta_i,\beta_i)}\,\beta_i,\qquad \varepsilon_i=\frac{\beta_i}{\|\beta_i\|}} \]