多重共线性的解决之法

《多重共线性的解决之法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第七章多重共线性教学目的及要求：1、重点理解多重共线性在经济现象中的表现及产生的原因和后果2、掌握检验和处理多重共线性问题的方法3、学会灵活运用Eviews软件解决多重共线性的实际问题。第一节多重共线性的产生及后果一、多重共线性的含义1、含义在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，……，Xk中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线

2、性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。2、类型多重共线性包含完全多重共线性和不完全多重共线性两种类型。（1）完全多重共线性完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。如对于多元线性回归模型　　　　　　　　　　　（7-1）存在不全为零的数，使得下式成立：　　　（7-2）则可以说解释变量之间存在完全的线性相关关系，即存在完全多重共线性。从矩阵形式来看，就是，即，观测值矩阵是降秩的，表明在向量Ｘ中至少有一个列向量可以由其他列向量线性表示。（2）不完

3、全多重共线性14不完全多重共线性是指线性回归模型中解释变量间存在不严格的线性关系，即近似线性关系。如对于多元线性回归模型（7-1）存在不全为零的数，使得下式成立：（7-3）其中为随机误差项，则可以说解释变量之间存在不完全多重共线性。随机误差项表明上述线性关系是一种近似的关系式，大体上反映了解释变量间的相关程度。完全多重共线性与完全非线性都是极端情况，一般说来，统计数据中多个解释变量之间多少都存在一定程度的相关性，对多重共线性程度强弱的判断和解决方法是本章讨论的重点。二、多重共线性产生的原因多重共线性在经济现象中具有普遍性，其

4、产生的原因很多，一般较常见的有以下几种情况。（一）经济变量间具有相同方向的变化趋势在同一经济发展阶段，一些因素的变化往往同时影响若干经济变量向相同方向变化，从而引起多重共线性。如在经济上升时期，投资、收入、消费、储蓄等经济指标都趋向增长，这些经济变量在引入同一线性回归模型并作为解释变量时，往往存在较严重的多重共线性。（二）经济变量间存在较密切关系由于组成经济系统的各要素之间是相互影响相互制约的，因而在数量关系上也会存在一定联系。如耕地面积与施肥量都会对粮食总产量有一定影响，同时，二者本身存在密切关系。（三）采用滞后变量作为解

5、释变量较易产生多重共线性一般滞后变量与当期变量在经济意义上关联度比较密切，往往会产生多重共线性。如在研究消费规律时，解释变量因素不但要考虑当期收入，还要考虑以往各期收入，而当期收入与滞后收入间存在多重共线性的可能很大。（四）数据收集范围过窄，有时会造成变量间存在多重共线性问题。三、多重共线性产生的后果由前述可知，多重共线性分完全多重共线性和不完全多重共线性两种情况，两种情况都会对模型进行最小二乘估计都会产生严重后果。14（一）完全多重共线性产生的后果以二元线性回归模型为例，　　（7-4）以离差形式表示，假设其中，，，，常数，

6、则，，的最小二乘估计量为　　（7-5）同理得到：　　　（7-6）可见参数估计值和无法确定。再考察参数估计量的方差，由前面章节可知：（7-7）将代入上式，则（7-8）　　　　=说明此种情况下方差为无穷大。同理可以证明的方差在完全共线性下也为无穷大。以上分析表明，在完全多重共线性条件下，普通最小二乘法估计的参数值不能确定，并且估计值的方差为无穷大。（二）不完全多重共线性产生的后果假设上述二元线性回归模型中解释变量与的关系为　　　　　　　（7-9）14其中为随机项，满足，，代入估计表达得：　　　　＝（7-10）由于，因而是可确定估

7、计的，但是其数值依赖的数值，而的数值随样本的变化有较大变化，所以估计值是很不稳定的。同理可以证明也是可估计的，且数值具有不稳定性。考察估计量的方差：由（7-1）式可知是、的相关系数，因此（7-11）参数估计量的方差可表达为：　　　　　　　　　　　　　　　　（7-12）其中为和之间的相关系数，从（7-12）式可见，的值越大，则共线程度越高，估计量方差越大，直至无穷。综上所述，线性回归模型解释变量间存在多重共线性可能产生如下后果：增大最小二乘估计量的方差；参数估计值不稳定，对样本变化敏感；检验可靠性降低，产生弃真错误。由于参数估

8、计量方差增大，在进行显著性检验时，t检验值将会变小，可能使某些本该参数显著的检验结果变得不显著，从而将重要变量舍弃。14第二节多重共线性的检验多重共线性是较为普通存在的现象，从上节分析可知，较高程度的多重共线性会对最小二乘估计产生严重后果，因此，在运用最小二乘法进行多元线性回归时，不但要检