典型相关分析.ppt

《典型相关分析.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、典型相关分析研究多个变量与多个变量之间的相关性CanonicalCorrelation2要点典型相关分析的数学表达方式，约束条件；典型相关系数的数学含义；典型变量的数学含义；典型相关系数的显著性检验；冗余分析；典型相关的应用3第一节典型相关分析的基本思想当研究两个变量x与y之间的相关关系时，相关系数是最常用的度量。如何研究两组变量之间的相关关系呢？如何进一步确定两组变量在整体上的相关程度呢？通常情况下，为了研究两组变量的相关关系，可以用最原始的方法，分别计算两组变量之间的全部相关系数，一共有pq个简单相关系数，这样既烦琐又不

2、能抓住问题的本质。如果能够采用类似于主成分的思想，分别找出两组变量的各自的某个线性组合，讨论线性组合之间的相关关系，则更简捷。典型相关分析（CanonicalCorrelation）是研究两组变量之间相关关系的一种多元统计方法。它能够揭示出两组变量之间的内在联系。56基本概念AnalyzetherelationshipsbetweentwosetsofvariablesCanonicalcorrelation(rc):CorrelationbetweentwocompositionofvariablesX1X2X3X4X5Y

3、1Y2Y3Y4Y5rcRxxRyyRyxRxy71936年霍特林（Hotelling）最早就“大学表现”和“入学前成绩”的关系、政府政策变量与经济目标变量的关系等问题进行了研究，提出了典型相关分析技术。之后，Cooley和Hohnes(1971)，Tatsuoka(1971)及Mardia，Kent和Bibby(1979)等人对典型相关分析的应用进行了讨论，Kshirsagar(1972)则从理论上给出了最好的分析。在解决实际问题中，这种方法有广泛的应用。如居民生活环境与健康状况的关系；考察一些与财政政策有关的指标：财政支出

4、总额增长率、财政赤字增长率、税率降低，与经济发展的一系列指标如GDP增长率、就业增长率、物价上涨率等，来研究扩张性财政政策实施后对宏观经济发展的影响。这些多变量间的相关性如何分析？9典型相关分析的目的是识别并量化两组变量之间的联系，将两组变量相关关系的分析，转化为一组变量的线性组合与另一组变量线性组合之间的相关关系分析。目前，典型相关分析已被应用于心理学、市场营销等领域。如用于研究个人性格与职业兴趣的关系，市场促销活动与消费者响应之间的关系等问题的分析研究。10利用主成分分析的思想，可以把多个变量与多个变量之间的相关转化为两

5、个变量之间的相关。主成分综合变量找出系数和使得新变量和之间有最大可能的相关系数。（典型相关系数）即使例家庭特征与家庭消费之间的关系为了了解家庭的特征与其消费模式之间的关系。调查了70个家庭的下面两组变量：分析两组变量之间的关系。12X1X2y1y2y3X11.000.800.260.670.34X20.801.000.330.590.34y10.260.331.000.370.21y20.670.590.371.000.35y30.340.340.210.351.00变量间的相关系数矩阵RxxR21R22R12y2y3y1x

6、2x1典型相关分析的思想：首先分别在每组变量中找出第一对线性组合，使其具有最大相关性，15然后再在每组变量中找出第二对线性组合，使其分别与本组内的第一线性组合不相关，第二对本身具有次大的相关性。u2和v2与u1和v1相互独立，但u2和v2相关。如此继续下去，直至进行到r步，两组变量的相关性被提取完为止。rmin(p,q)，可以得到r组变量。二、典型相关的数学描述考虑两组变量的向量其协方差阵为（一）想法其中11是第一组变量的协方差矩阵；22是第二组变量的协方差矩阵；是X和Y的协方差矩阵。如果我们记两组变量的第一对线性组合

7、为：其中：所以，典型相关分析就是求a1和b1，使uv达到最大。（二）典型相关系数和典型变量的求法在约束条件:下，求a1和b1，使uv达到最大。令19根据数学分析中条件极值的求法，引入Lagrange乘数，求极值问题，则可以转化为求的极大值，其中和是Lagrange乘数。将上面的3式分别左乘和将左乘（3）的第二式，得并将第一式代入，得的特征根是，相应的特征向量为将左乘（3）的第一式，并将第二式代入，得的特征根是，相应的特征向量为结论：既是M1又是M2的特征根，和是相应于M1和M2的特征向量。至此，典型相关分析转化为求M

8、1和M2特征根和特征向量的问题。第一对典型变量提取了原始变量X与Y之间相关的主要部分，如果这部分还不能足以解释原始变量，可以在剩余的相关中再求出第二对典型变量和他们的典型相关系数。在剩余的相关中再求出第二对典型变量和他们的典型相关系数。设第二对典型变量为：在约束条件：求使达到最大的和。25