数学模型讲座主成分分析.ppt.pptx

1主成分分析

PrincipalComponentsAnalysis武汉理工大学统计学系唐湘晋数学模型讲座主成分分析.ppt全文共32页，当前为第1页。

2 1.概述多元问题的复杂性∶指标(变量)多，指标间存在相关性。问题∶能否构造出一些综合指标使满足如下条件∶①指标个数尽可能少，②指标间相互独立，③尽可能多地包含原指标所含的关于总体的信息。§1主成分分析的原理数学模型讲座主成分分析.ppt全文共32页，当前为第2页。

3例如∶做一件上衣要测量的指标有∶身长、袖长、胸围、腰围、肩宽、肩厚等等十几项指标。某服装厂生产一批新型服装，需将十几项指标综合为3项指标(分别反应长度、胖瘦、特体)，用作分类的型号。又如商业经济∶多项指标--物价、生活费用、商业活动指数。1.概述数学模型讲座主成分分析.ppt全文共32页，当前为第3页。

4主成分分析是将原来众多具有相关性的指标化为少数几个相互独立的综合指标的一种统计方法。1.概述数学模型讲座主成分分析.ppt全文共32页，当前为第4页。

5 原始数据矩阵p维空间n个点研究n个点的关系，难!降维，近似在低维空间表达。2.直观想法数学模型讲座主成分分析.ppt全文共32页，当前为第5页。

6如果椭圆很扁，则在y的坐标系中，样本点的第一个坐标y1就代表了这些点的分布情况。例如，二元总体，正态分布。2.直观想法数学模型讲座主成分分析.ppt全文共32页，当前为第6页。

7设p维随机变量的数学期望为0，x的主成分指的是综合变量，它满足如下条件∶①,其中是正交矩阵。即∶(1)3.主成分问题的数学提法数学模型讲座主成分分析.ppt全文共32页，当前为第7页。

8②在形如(1)的线性变换中，y1具有最大的方差；y1与y2相互独立，且在与y1相互独立的线性变换中y2具有最大的方差；y3与y1和y2相互独立，且在与y1和y2相互独立的线性变换中，y3具有最大的方差；如此类推。分别叫做x的y1,y2,…,yp第一、第二、…、第p主成分。3.主成分问题的数学提法数学模型讲座主成分分析.ppt全文共32页，当前为第8页。

9设是x的主成分，它们的方差分别为,由于问题∶x的主成分是否存在?即能够使①②成立的正交矩阵是否存在?问题解决思路∶假设主成分存在，看一下U应满足什么的条件，能否按照这个条件把U求出来。相互独立，所以又因为3.主成分问题的数学提法数学模型讲座主成分分析.ppt全文共32页，当前为第9页。

10所以∶即或。若记则有即是对应的单位特征向量。是的特征值，说明∶求法，最大方差性质。3.主成分问题的数学提法数学模型讲座主成分分析.ppt全文共32页，当前为第10页。

11定理:设p维随机变量的数学期望为0，且协方差阵为,它的特征值为为相应的单位特征向量，则x第i主成分为3.主成分问题的数学提法数学模型讲座主成分分析.ppt全文共32页，当前为第11页。

12说明1∶求主成分关键是要从协方差矩阵求出正交变换矩阵。说明2∶若已经求出主成分，则原来的p个指标就可以转化为用p个新的指标(即主成分)来表达。这p个新的指标是相互独立的，这给问题的分析带来了很大的方便。3.主成分问题的数学提法数学模型讲座主成分分析.ppt全文共32页，当前为第12页。

13说明3∶新的指标的方差分别为，如果某一个很小，总