第5章多元线性回归模型ppt课件.ppt

《第5章多元线性回归模型ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第5章多元线性回归模型§5.1三变量线性回归模型的概念和假定一、基本概念截距系数偏斜率系数总体回归函数PRF为注意：偏斜率系数的含义样本回归函数SRF：样本回归模型为：思考：若扩展到k变量线性回归模型，PRF、SRF、总体回归模型和样本回归模型应分别具有怎样的形式？二、基本假定假定1模型对参数而言是线性。假定2解释变量X是非随机变量，在重复抽样中固定在给定水平。假定3随机误差项的条件期望为0即：假定4随机误差项ui具有同方差性。假定5随机误差项之间无自相关性/无序列相关。假定6随机误差项与每一个解释变量都不相关。假定7样本容量n必须大于待估参数的个数假定8解释变量X的值

2、要有变异性假定9正确设定了回归模型。假定10解释变量之间没有完全的多重共线性。注意：无多重共线性的假设是针对理论模型即总体回归函数PRF而言的这里只是讨论两个或多个变量之间的完全线性关系假定11随机误差项服从正态分布。§5.2三变量线性回归模型的普通最小二乘估计一、估计量的求解若扩展到K变量回归模型呢？整理得到：上面三个式子被称为正规方程组(Normalequation)三变量线性回归模型对应的SRF的离差形式为：参数估计量为：二、OLS估计量的性质和精度（一）OLS估计量的性质回归线（面）通过样本均值点估计的Yi的均值等于实际观测的Yi的均值残差的均值为0残差与解释变

3、量X2i和X3i都不相关残差与估计的Yi值不相关OLS估计量在CLRM假设下是BLUE。（二）OLS估计量的精度记同理注意方差的特点总体方差的估计残差平方和的自由度＝样本容量的大小－待估计的参数的个数§5.3多元线性回归模型的统计检验一、拟合优度检验（一）复判定系数R2的计算公式度量的是因变量Y的总变异中由回归模型（即解释变量联合）解释的部分所占的百分比性质（二）复相关系数R测量因变量与全部解释变量在一起的关联程度。复相关系数R永远取正值。复相关系数是复判定系数的算术根。问题：在应用过程中发现，如果在模型中增加一个解释变量，R2往往增大（Why?）这就给人一个错觉：要使

4、得模型拟合得好，只要增加解释变量即可。但是，现实情况往往是，由增加解释变量个数引起的R2的增大与拟合程度的好坏无关。（三）调整/校正的复判定系数（adjustedcoefficientofdetermination）调整的思路是：将残差平方和与总离差平方和分别除以各自的自由度，以剔除解释变量个数对拟合优度的影响。由此式可以看出，，即调整的复判定系数不大于未经调整的复判定系数，这意味着随着解释变量的增加，将越来越小于。调整的复判定系数可以为负！（四）不同模型之间复判定系数的比较不能！提醒二、模型的总体显著性检验模型的总体显著性检验，旨在对模型中因变量与解释变量之间的线性关

5、系在总体上是否显著成立作出推断。可提出如下原假设与对立假设：H0：2==k=0H1：j不全为0三变量线性回归模型的ANOVA表k变量线性回归模型的总体显著性检验在原假设H0成立的情况下，服从自由度为(k-1,n-k)的F分布，并根据样本数据计算F值。给定显著性水平，得到临界值F(k-1,n-k)比较FF(k-1,n-k)或FF(k-1,n-k)来拒绝或接受原假设H0，以判定原模型总体上的线性关系是否显著成立。拟合优度检验与模型显著性检验关系的讨论由可推出：与检验模型的总体显著性的F检验也可以用于R2的显著性检验在表3.2收入－消费的双变量模型中，在收

6、入、财富－消费的三变量模型中，三、检验个别偏回归系数的统计显著性模型具有总体显著性每个解释变量对因变量的影响都是显著的因此，必须对每个偏回归系数进行显著性检验，以决定是否将其对应的解释变量保留在模型中。这一检验是由t检验完成的。（1）对总体参数提出假设H0：i=0，H1：i0（2）构造检验统计量，并假定H0成立由样本计算其值（3）给定显著性水平，查t分布表，得临界值t/2(n-k)(4)比较，判断若

7、t

8、>t/2(n-k)，则拒绝H0，接受H1；若

9、t

10、t/2(n-k)，则拒绝H1，接受H0。K为待估计参数的个数注意：在双变量线性回归中，t检验与F检验

11、一致一方面，t检验与F检验都是对相同的原假设H0：2=0进行检验;另一方面，两个统计量之间有如下关系：四、受约束的最小二乘法：线性等式约束条件的检验不加任何约束的回归称为无约束回归（unrestrictedregression）；模型施加约束条件后进行回归，称为受约束回归（restrictedregression）。（一）t检验法首先进行无约束回归，计算出回归参数的估计量；采用t检验的方法检验：t值与给定显著性水平下的临界值进行对比，从而来判断接受还是拒绝原假设。静观后效法（二）F检验法以C-D生产函数模型为例假定原假设成立则无约束回归