主成份分析和因子分析ppt课件.ppt

《主成份分析和因子分析ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第10章主成分分析与因子分析主成分分析因子分析学习目标1.主成分分析的基本思想2.主成分分析的软件实现和结果分析3.因子分析的基本思想4.因子分析的软件实现和结果分析主成分分析主成分分析的原理多元统计分析处理的是多变量（多指标）问题。由于变量较多，增加了分析问题的复杂性。但在实际问题中，变量之间可能存在一定的相关性，因此，多变量中可能存在信息的重叠。人们自然希望通过克服相关性、重叠性，用较少的变量来代替原来较多的变量，而这种代替可以反映原来多个变量的大部分信息，这实际上是一种“降维”的思想。“主成分分析”、“因

2、子分析”都可以用来对数据进行降维。主成分分析的基本思想主成分分析（Principalcomponentsanalysis）是由Hotelling于1933年首先提出的。由于多个变量之间往往存在着一定程度的相关性。人们自然希望通过线性组合的方式，从这些指标中尽可能快地提取信息。当这些变量的第一个线性组合不能提取更多的信息时，再考虑用第二个线性组合继续这个提取的过程，……，直到提取足够多的信息为止。这就是主成分分析的思想。主成分分析的基本思想主成分分析适用于原有变量之间存在较高程度相关的情况。在主成分分析适用的场

3、合，一般可以用较少的主成分得到较多的信息量，从而得到一个更低维的向量（即更少的变量）。通过主成分既可以降低数据“维数”又保留了原数据的大部分信息。例：斯通关于国民经济的研究一项十分著名的工作是美国的统计学家斯通(Stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息、外贸平衡等等。在进行主成分分析后，竟以97.4％的精度，用三个新变量就取代了原17个变量。主成分分析的几何

4、意义•••••••••••••••••••••••••••••••••••••如果仅考虑X1或X2中的任何一个分量，那么包含在另一分量中的信息将会损失，因此，直接舍弃x1或x2分量不是“降维”的有效办法。主成分分析的几何意义平移、旋转坐标轴•••••••••••••••••••••••••••••••••••••对坐标轴进行旋转，n个点在F1轴上的方差达到最大，即在此方向上包含了有关n个样品的最大量信息。因此，欲将二维空间的点投影到某个一维方向上，则选择F1轴方向能使信息的损失最小。主成分分析的几何意义第一主成

5、分的效果与椭圆的形状有关。椭圆越扁平，n个点在F1轴上的方差就相对越大，在F2轴上的方差就相对越小，用第一主成分代替所有样品造成的信息损失就越小。••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••主成分分析的几何意义原始变量不相关时，主成分分析没有效果。•••••••••••••••••••••••••••••••••••••主成分分析的几何意义原始变量相关程度越

6、高，主成分分析效果越好。主成分分析的数学模型方程满足下列条件：（1）（2）Fi与Fj不相关。（3）F1与Fp到方差依次递减。主成分分析的数学模型有p个x，相应可以计算出p个主成分。但一般只使用少数几个主成分就可以提取大部分信息。主成分分析的基本任务是计算系数矩阵a11…app。主成分求解的步骤主成分可以按以下步骤计算得出：计算原始变量的相关系数矩阵R。计算相关系数矩阵R的特征值，并按从大到小的顺序排列，记为计算特征值对应的特征向量，即为主成分F1……Fp相应的系数。主成分得分把原始变量的值代入主成分表达式中，可

7、以计算出主成分得分。注意在计算主成分得分时需要先对原始变量进行标准化。得到的主成分得分后，可以把各个主成分看作新的变量代替原始变量，从而达到降维的目的。主成分的贡献率对于第k个主成分，其对方差的贡献率为前k个主成分贡献率的累计值称为累计贡献率。主成分个数的确定通常有两种方式：1、根据大于1的特征值的个数确定主成分的个数；2、根据主成分的累计贡献率确定主成分的个数，使累计贡献率>85%或者其他值。最常见的情况是主成分的个数为2-3个。（一般会同时考虑以上因素和实际问题的背景信息。）主成分分析的应用主成分回归。即把

8、各主成分作为新自变量代替原来自变量x做回归分析。还可以进一步还原得到Y与x的回归方程（可以避免多重共线性的问题）。用于综合评价。按照单个的主成分（例如第一主成分）可以对个体进行排序。按照几个主成分得分的加权平均值对个体进行排序也是一种评价方法。一般用各个主成分的方差贡献率加权。由于加权得分缺少实际意义，这种方法理论上有争议。主成分分析在SPSS中的实现SPSS没有直接提供主成分分析的功