高等代数-正交投影的定义.docxVIP

高等代数正交投影的定义

正交投影是线性代数中一个重要的概念，在多种应用中得到了广泛的运用。本文将详细阐述正交投影的定义及其相关概念。

首先，我们先来介绍一下正交向量的概念。在三维空间中，若向量a和向量b满足a·b=0，则称向量a和向量b是正交的，即两者之间的夹角为90度。同理，若有n个向量a1,a2,...,an，若它们两两正交，则称这组向量是正交的。特别地，若它们都是单位向量，则称这组向量是标准正交的。几何意义上，正交的向量之间不发生投影，即它们在空间中相互独立。

接下来，介绍正交投影的概念。设V为n维向量空间，W为V的一个子空间。对于任意向量v∈V，称在W上的正交投影为v在W上的正交投影，记为projWv，即

projWv=argmin(u∈W)∥v?u∥

其中，∥v?u∥表示向量v和u之间的距离。意思是，将向量v投影到W上时，距离W最近的点就是这个投影。

我们再来看几个例子，以帮助更好的理解正交投影。

1.在平面上找到一个点到某直线的正交投影

如图，假设有一条直线AB和点P，要找到点P在直线AB上的正交投影。可以作一条垂线PC，该垂线与直线AB垂直，所以点C就是P在直线AB上的正交投影。

2.对一个向量进行正交分解

假设有一个向量v，需要将其表示成两个正交向量之和。先取一组标准正交基{e1,e2}，如图所示：

然后将向量v分解成v1和v2的形式，使得v1∈span{e1}，v2∈span{e2}，即v=v1+v2。显然，v1和v2都是v的正交分量。

有了正交投影的概念，我们还可以提出一些相关概念。

一、正交补空间

对于向量空间V的子空间W，若空间中的每一个向量v都与W中的每一个向量u正交，即v·u=0，那么称空间W的正交补空间为W的正交补，记为$W^⊥$。例如，三维空间中，以z轴为法向量的平面P的正交补为以z轴为轴线的直线l。

$W^⊥$中所有的向量都正交于W中的任何向量。由于横坐标轴、纵坐标轴、z轴三条坐标轴张成了整个三维空间，所以W的正交补$W^⊥$中的向量组能够张成整个空间。

二、投影矩阵

设V为n维向量空间，W为V的一个子空间，P为向量空间V到W上的正交投影线性变换。如果把这个变换表示为矩阵的形式，称这个矩阵为投影矩阵，记为Pw。

则投影矩阵的性质为：

1.$P_w$是一个对称矩阵，即$P_w=(P_w)^T$。

2.$P_w^2=P_w$，即做两次投影等于做一次投影。

3.对于向量v∈V，$P_wv$就是v在W上的正交投影projWv。

投影矩阵是对称的，是因为对于每个向量v，将其先投影之后再在投影后的空间中进行投影，与直接在原来的空间投影得到的结果是一样的，也就是说，Pw相对于直接在V中进行投影来说是无差别的。

三、Gram-Schmidt正交化方法

Gram-Schmidt正交化方法是一种将线性空间中的一组向量转化为标准正交基的方法。假设有一组线性无关的向量{v1,v2,...,vn}，我们希望将其转化为一组标准正交基{e1,e2,...,en}，使得任何一个向量都可以由这组基向量线性表示为$b=c_1e_1+c_2e_2+...+c_ne_n$。

e_1=v_1/∥v_1∥

e_2=(v_2?proj?e_1,v_2?)/∥v_2?proj?e_1,v_2?∥

...

其中，proj?e_k,v_j?表示向量v_j在e_k上的正交投影。

通过Gram-Schmidt正交化方法，我们可以快速将一组线性无关的向量转化为一组标准正交基，方便进行向量运算。

四、总结

正交投影的概念及其相关概念在线性代数中应用广泛，在很多领域中都有重要的作用，如机器学习、图像处理、信号处理等。通过本文的学习，我们了解到正交投影的定义及相关概念，同时还学习了投影矩阵、正交补空间和Gram-Schmidt正交化方法等重要概念，这些概念不仅有理论意义，而且也有很多实际应用。