2010典型相关分析(八).pptVIP

第八讲 典型相关分析 典型相关分析(Canonical correlation) 典型相关分析（Canonical correlation）是研究两组变量之间相关关系的一种多元统计方法，它能够揭示出两组变量之间的内在联系。 这一方法是由Hotelling（霍特林，1935）首先提出来的。 两组变量的相关问题 我们知道如何衡量两个变量之间是否相关的问题；这是一个简单的公式就可以解决的问题（Pearson相关系数、 Kendall’s t、 Spearman 秩相关系数)。 如果我们有两组变量，如何表明它们之间的关系呢？ 典型相关分析(Canonical correlation) 在实际问题中，经常遇到要研究一部分变量与另一部分变量之间的相互关系。例如：在工厂，考察原料的主要指标 与产品的主要指标 ；在经济学中，研究商品的价格与销售之间的关系；在教育学中，考察研究生入学考试成绩与本科阶段一些主要课程成绩的相关性，等等。 典型相关分析(Canonical correlation) 典型相关分析的目的是识别并量化两组变量之间的联系，将两组变量相关关系的分析转化为一组变量的线性组合与另一组变量线性组合之间的相关关系分析。 一、典型相关分析的基本思想 典型相关分析的基本思想和主成分分析非常相似。 首先在每组变量中找出变量的线性组合，使得两组的线性组合之间具有最大的相关系数。 然后选取和最初挑选的这对线性组合不相关的线性组合，使其配对，并选取相关系数最大的一对，如此下去，直到两组变量之间的相关性被提取完毕为止。 被选出的线性组合配对称为典型变量（canonical variable），它们的相关系数称为典型相关系数（canonical coefficient）。典型系数度量了这两组变量之间联系的强度。 例.1 例如：业内人士和观众对于一些电视节目的观点有什么样的关系呢？数据是不同的人群对30个电视节目所作的平均评分。 观众评分来自低学历(led)、高学历(hed)和网络(net)调查三种，它们形成第一组变量； 而业内人士分评分来自包括演员和导演在内的艺术家(arti)、发行(com)与业内各部门主管(man)三种，形成第二组变量。人们对这样两组变量之间的关系感到兴趣。 如何进行典型相关 如果直接对这六个变量的相关进行两两分析，很难得到关于这两组变量之间关系的一个清楚的印象。 希望能够把多个变量与多个变量之间的相关化为两个变量之间的相关。 现在的问题是为每一组变量选取一个综合变量作为代表； 而一组变量最简单的综合形式就是该组变量的线性组合。 如何进行典型相关 由于一组变量可以有无数种线性组合（线性组合由相应的系数确定），因此必须找到既有意义又可以确定的线性组合。 典型相关分析(canonical correlation analysis)就是要找到这两组变量线性组合的系数，使得这两个由线性组合生成的变量（和其他线性组合相比）之间的相关系数最大。 二、典型相关分析的原理及方法 二、典型相关分析的原理及方法 三、样本的典型相关分析 （一）样本典型相关系数的计算 在实际分析应用中，总体的协方差矩阵通常是未知的，往往需要从研究的总体中随机抽取一个样本，根据样本估计出总体的协差阵，并在此基础上进行典型相关分析。 三、样本的典型相关分析 三、样本的典型相关分析 三、样本的典型相关分析 建立第一对典型变量(函数)的原则 尽量使所建的两个典型变量之间的相关系数最大化，就是在两个变量组各自的总变化中先寻求他们之间最大的一部分共变关系，并用一对典型变量所描述。 因而，第一维度上的典型相关系数也随之求的。 建立第二对典型变量(函数)的原则 继续在两组变量剩余的变化中寻找第二个最大的共变部分，形成第二对典型变量，并解出第二维度上的典型相关系数。 依此类推，直至所有变化部分被剥离完毕。 典型相关系数 这里所涉及的主要的数学工具还是矩阵的特征值和特征向量问题。而所得的特征值与V和W的典型相关系数有直接联系。 由于特征值问题的特点，实际上找到的是多组典型变量(V1, W1), (V2, W2),…，其中V1和W1最相关，而V2和W2次之等等， 而且V1, V2, V3,…之间及W1, W2, W3,…之间互不相关。这样又出现了选择多少组典型变量(V, W)的问题了。实际上，只要选择特征值累积总贡献占主要部分的那些即可。 注意 严格地说，一个典型相关系数描述的只是一对典型变量之间的相关，而不是两个变量组之间的相关。 而各对典型变量之间构成的多维典型相关才共同揭示了两个观测变量组之间的相关形式。 四、典型相关系数的显著性检验 四、典型相关系数的显著性检验 四、典型相关系数的显著